HoldToType

Doku

Whisper, Parakeet oder Nemotron: welches Sprachmodell zum Diktieren

Fast jedes lokale Diktierprogramm lässt eine von drei Modellfamilien laufen. Sie unterscheiden sich mehr, als ihre Namen vermuten lassen: darin, wie viel Speicher sie brauchen, wie lange ein Satz auf einem Prozessor dauert, ob sie Satzzeichen setzen und welche Sprachen sie abdecken. HoldToType liefert alle drei und ein paar Verwandte mit, die Zahlen unten stammen also aus demselben Programm auf derselben Maschine.

Aktualisiert · Vitalii Yemets

Die drei Familien in je einem Absatz

  • Whisper (OpenAI, läuft über whisper.cpp) ist der Generalist: 99 Sprachen, Übersetzung ins Englische von Haus aus, Größen von 74 MB bis über ein Gigabyte. Es hört die ganze Phrase, nachdem Sie losgelassen haben, und antwortet am langsamsten von den dreien. Satzzeichen sind teilweise.
  • Parakeet TDT 0.6B v3 (NVIDIA, läuft über sherpa-onnx) ist der Sprinter: 25 europäische Sprachen, Satzzeichen eingebaut, ein Satz in deutlich unter einer Sekunde auf einer CPU, 670 MB auf der Platte. Es übersetzt nicht.
  • Nemotron 3.5 (NVIDIA, streamend) ist das, das tippt, während Sie reden: Teiltext alle paar hundert Millisekunden, 40 Sprachen, Satzzeichen eingebaut, 651 MB. Es braucht etwas mehr Luft als Parakeet.

Größe und Speicher

Die Größe auf der Platte ist das, was Sie einmal laden; Speicher ist das, was das Programm hält, solange ein Modell geladen ist. HoldToType schätzt den Speicher als das 1,2-Fache der Datei für die sherpa-onnx-Modelle und das 1,5-Fache plus 60 MB für Whisper, und zeigt die Schätzung neben jedem Modell.

  • Whisper Tiny 74 MB auf der Platte, Base 142 MB, Small 466 MB, Medium q5 539 MB, Large v3 Turbo q5 574 MB.
  • Parakeet TDT 0.6B v3 670 MB; Nemotron 3.5 651 MB; Canary 180M 198 MB; GigaAM v3 232 MB; Qwen3 ASR 0.6B 937 MB.
  • Im Speicher: Whisper Medium etwa 870 MB, Parakeet etwa 800 MB, GigaAM etwa 280 MB.

Tempo auf einem Prozessor

Zwei Messungen mit Zahlen, beide auf einem gewöhnlichen Laptop-Prozessor, einem Intel Core i7-12700H, mit den voreingestellten vier Threads des Programms. Zuerst Englisch: Für einen Satz von sechs Sekunden brauchte Parakeet TDT 0.6B v3 eine halbe Sekunde und Whisper Medium q5 zwölf Sekunden. Der deutlichere Fall ist Russisch: GigaAM v3, ein schmales sherpa-onnx-Modell, machte aus einer elf Sekunden langen Phrase in 0,47 Sekunden Text, wo Whisper Medium q5 11,6 Sekunden brauchte, mit 277 MB Speicher statt 814. Parakeet verhält sich wie GigaAM: Ein Satz ist deutlich unter einer Sekunde nach dem Loslassen Text. Whisper braucht auf derselben Hardware ungefähr so lange, wie die Phrase dauert. Nemotron wartet gar nicht: Die Wörter kommen, während Sie sprechen, und der endgültige Text ist fast in dem Moment fertig, in dem Sie die Tasten loslassen.

Die Maschine war ein gewöhnlicher Laptop-Prozessor ohne Grafikkarte; alle drei Familien laufen ohne eine, und genau darum geht es.

Satzzeichen, Sprachen, Übersetzung

  • Satzzeichen: Parakeet, Nemotron, GigaAM v3 und Canary setzen sie von selbst. Whisper tut es teilweise; die Nachbearbeitung von HoldToType erledigt den Rest mit einem kleinen Modell auf Ihrer Platte.
  • Sprachen: Whisper 99. Nemotron 40. Parakeet 25 europäische, darunter Ukrainisch, Polnisch und Russisch. GigaAM nur Russisch. Canary Englisch, Deutsch, Spanisch und Französisch.
  • Übersetzung: Whisper übersetzt von Haus aus ins Englische und in die anderen Oberflächensprachen, wenn man ihm sagt, die Sprache sei schon die Zielsprache; Canary übersetzt zwischen seinen vier Sprachen. Parakeet und Nemotron transkribieren nur, HoldToType hält deshalb das beste installierte Whisper bereit, und die Leiste bietet an, ihm eine Phrase zu übergeben.
  • Live-Text: nur Nemotron.

Welches Sie nehmen

HoldToType hält ein Modell pro Sprache und schaltet um, wenn Sie die Sprache wechseln, Sie müssen also nicht eines für alles wählen. Die Modellseite hat den Katalog und einen Absatz pro Sprache; die Sprachenseite zeigt, wo das Modell jeder Sprache eingestellt wird.

  • Alltägliches Diktieren in einer europäischen Sprache: Parakeet. Schnell, mit Satzzeichen, genau.
  • Sie wollen die Wörter sehen, während Sie sprechen: Nemotron 3.5.
  • Russisch: GigaAM v3, und beim Tempo kommt nichts heran.
  • Übersetzung, oder eine Sprache außerhalb der 25: Whisper Medium q5, oder Small auf einer schwachen Maschine.
  • Ein alter Laptop: Canary 180M für Englisch, Deutsch, Spanisch und Französisch; Whisper Base für den Rest.
  • Genauigkeit über alles und Speicher im Überfluss: Qwen3 ASR.

Selbst ausprobieren

  1. Installieren Sie aus dem Download-Bereich und lassen Sie den Assistenten ein Modell holen.
  2. Öffnen Sie Sprachen & Modelle, fügen Sie ein zweites Modell für dieselbe Sprache hinzu und schalten Sie zwischen beiden um; das Protokoll im Reiter System schreibt, wie viele Sekunden jedes Diktat gedauert hat.
  3. Sagen Sie jedem denselben Satz. Der Unterschied zwischen Whisper und einem schmalen Modell ist ohne Stoppuhr sichtbar.

Fragen

Brauche ich eine Grafikkarte?

Nein. HoldToType lässt jedes Modell auf dem Prozessor laufen. Eine GPU würde Whisper in anderen Programmen schneller machen; die schmalen Modelle sind auch ohne schon schnell.

Welches ist am genauesten?

Bei sauberer Sprache in einer großen Sprache liegen die drei nah beieinander. Qwen3 ASR ist das genaueste im Katalog und das schwerste. Bei Namen und Fachjargon zählt das Wörterbuch mehr als das Modell.

Kann ich ein eigenes Modell mitbringen?

Ja. Legen Sie eine Whisper-GGML-Datei oder einen sherpa-onnx-Modellordner in den Modellordner, und es erscheint in der Liste.

Probieren Sie alle drei auf Ihrer Maschine

Eine Installation, neun Modelle, und das Protokoll nennt Ihnen die Sekunden.

HoldToType herunterladen