HoldToType

Dokumentacja

Whisper, Parakeet czy Nemotron: który model mowy do dyktowania

Prawie każdy lokalny program do dyktowania uruchamia jedną z trzech rodzin modeli. Różnią się bardziej, niż sugerują nazwy: ile pamięci zajmują, ile trwa zdanie na procesorze, czy stawiają interpunkcję i jakie języki obsługują. HoldToType dostarcza wszystkie trzy i kilku krewnych, więc liczby poniżej pochodzą z tego samego programu na tej samej maszynie.

Zaktualizowano · Vitalii Yemets

Trzy rodziny, po akapicie na każdą

  • Whisper (OpenAI, uruchamiany przez whisper.cpp) to uniwersał: 99 języków, tłumaczenie na angielski z założenia, rozmiary od 74 MB do ponad gigabajta. Słyszy całą frazę po tym, jak puścisz klawisz, i odpowiada najwolniej z trzech. Interpunkcja jest częściowa.
  • Parakeet TDT 0.6B v3 (NVIDIA, uruchamiany przez sherpa-onnx) to sprinter: 25 języków europejskich, wbudowana interpunkcja, zdanie znacznie poniżej sekundy na procesorze, 670 MB na dysku. Nie tłumaczy.
  • Nemotron 3.5 (NVIDIA, strumieniowy) to ten, który pisze, gdy mówisz: częściowy tekst co kilkaset milisekund, 40 języków, wbudowana interpunkcja, 651 MB. Potrzebuje trochę więcej zapasu niż Parakeet.

Rozmiar i pamięć

Rozmiar na dysku to to, co pobierasz raz; pamięć to to, co program trzyma, gdy model jest załadowany. HoldToType szacuje pamięć jako 1,2 rozmiaru pliku dla modeli sherpa-onnx i 1,5 rozmiaru plus 60 MB dla Whispera, i pokazuje szacunek obok każdego modelu.

  • Whisper Tiny 74 MB na dysku, Base 142 MB, Small 466 MB, Medium q5 539 MB, Large v3 Turbo q5 574 MB.
  • Parakeet TDT 0.6B v3 670 MB; Nemotron 3.5 651 MB; Canary 180M 198 MB; GigaAM v3 232 MB; Qwen3 ASR 0.6B 937 MB.
  • W pamięci: Whisper Medium około 870 MB, Parakeet około 800 MB, GigaAM około 280 MB.

Szybkość na procesorze

Dwa pomiary z liczbami, oba na zwykłym procesorze laptopa, Intel Core i7-12700H, z domyślnymi dla programu czterema wątkami. Najpierw angielski: sześciosekundowe zdanie zajęło Parakeetowi TDT 0.6B v3 pół sekundy, a Whisperowi Medium q5 dwanaście sekund. Bardziej jaskrawy przypadek to rosyjski: GigaAM v3, wąski model sherpa-onnx, zamienił jedenastosekundową frazę na tekst w 0,47 sekundy tam, gdzie Whisper Medium q5 potrzebował 11,6 sekundy, zużywając 277 MB pamięci zamiast 814. Parakeet zachowuje się jak GigaAM: zdanie jest tekstem znacznie poniżej sekundy po puszczeniu klawisza. Whisper na tym samym sprzęcie potrzebuje mniej więcej tyle, ile trwa fraza. Nemotron w ogóle nie czeka: słowa nadchodzą, gdy mówisz, a końcowy tekst jest gotowy niemal w chwili, gdy puszczasz klawisze.

Maszyną był zwykły procesor laptopa bez karty graficznej; wszystkie trzy rodziny działają bez niej, i o to chodzi.

Interpunkcja, języki, tłumaczenie

  • Interpunkcja: Parakeet, Nemotron, GigaAM v3 i Canary stawiają ją same. Whisper robi to częściowo; obróbka końcowa HoldToType kończy robotę małym modelem na twoim dysku.
  • Języki: Whisper 99. Nemotron 40. Parakeet 25 europejskich, w tym ukraiński, polski i rosyjski. GigaAM tylko rosyjski. Canary angielski, niemiecki, hiszpański i francuski.
  • Tłumaczenie: Whisper tłumaczy na angielski z założenia, a na pozostałe języki interfejsu, gdy powie mu się, że mowa jest już w języku docelowym; Canary tłumaczy między swoimi czterema językami. Parakeet i Nemotron tylko transkrybują, więc HoldToType trzyma w pogotowiu najlepszego zainstalowanego Whispera, a plakietka proponuje przekazanie mu frazy.
  • Tekst na żywo: tylko Nemotron.

Który wybrać

HoldToType trzyma jeden model na język i przełącza go, gdy zmieniasz język, więc nie musisz wybierać jednego do wszystkiego. Strona modeli ma katalog i akapit na każdy język; strona języków pokazuje, gdzie ustawia się model dla każdego języka.

  • Codzienne dyktowanie w języku europejskim: Parakeet. Szybki, z interpunkcją, dokładny.
  • Chcesz widzieć słowa, gdy mówisz: Nemotron 3.5.
  • Rosyjski: GigaAM v3, i nic nie zbliża się do niego szybkością.
  • Tłumaczenie albo język spoza 25: Whisper Medium q5, albo Small na słabej maszynie.
  • Stary laptop: Canary 180M do angielskiego, niemieckiego, hiszpańskiego i francuskiego; Whisper Base do reszty.
  • Dokładność ponad wszystko i pamięć z zapasem: Qwen3 ASR.

Wypróbuj je sam

  1. Zainstaluj z sekcji pobierania i pozwól kreatorowi pobrać jeden model.
  2. Otwórz Języki i modele, dodaj drugi model dla tego samego języka i przełączaj między nimi; dziennik w zakładce System wypisuje, ile sekund trwało każde dyktowanie.
  3. Powiedz każdemu to samo zdanie. Różnica między Whisperem a wąskim modelem jest widoczna bez stopera.

Pytania

Czy potrzebuję karty graficznej?

Nie. HoldToType uruchamia każdy model na procesorze. GPU przyspieszyłoby Whispera w innych programach; wąskie modele są już szybkie bez niego.

Który jest najdokładniejszy?

Przy czystej mowie w dużym języku wszystkie trzy są blisko siebie. Qwen3 ASR jest najdokładniejszy w katalogu i najcięższy. Przy nazwiskach i żargonie słownik znaczy więcej niż model.

Czy mogę przynieść własny model?

Tak. Wrzuć plik Whisper GGML albo folder modelu sherpa-onnx do folderu modeli, a pojawi się na liście.

Wypróbuj wszystkie trzy na własnej maszynie

Jedna instalacja, dziewięć modeli, a sekundy poda ci dziennik.

Pobierz HoldToType