Dokumentacja
Whisper, Parakeet czy Nemotron: który model mowy do dyktowania
Prawie każdy lokalny program do dyktowania uruchamia jedną z trzech rodzin modeli. Różnią się bardziej, niż sugerują nazwy: ile pamięci zajmują, ile trwa zdanie na procesorze, czy stawiają interpunkcję i jakie języki obsługują. HoldToType dostarcza wszystkie trzy i kilku krewnych, więc liczby poniżej pochodzą z tego samego programu na tej samej maszynie.
Zaktualizowano · Vitalii Yemets
Trzy rodziny, po akapicie na każdą
- Whisper (OpenAI, uruchamiany przez whisper.cpp) to uniwersał: 99 języków, tłumaczenie na angielski z założenia, rozmiary od 74 MB do ponad gigabajta. Słyszy całą frazę po tym, jak puścisz klawisz, i odpowiada najwolniej z trzech. Interpunkcja jest częściowa.
- Parakeet TDT 0.6B v3 (NVIDIA, uruchamiany przez sherpa-onnx) to sprinter: 25 języków europejskich, wbudowana interpunkcja, zdanie znacznie poniżej sekundy na procesorze, 670 MB na dysku. Nie tłumaczy.
- Nemotron 3.5 (NVIDIA, strumieniowy) to ten, który pisze, gdy mówisz: częściowy tekst co kilkaset milisekund, 40 języków, wbudowana interpunkcja, 651 MB. Potrzebuje trochę więcej zapasu niż Parakeet.
Rozmiar i pamięć
Rozmiar na dysku to to, co pobierasz raz; pamięć to to, co program trzyma, gdy model jest załadowany. HoldToType szacuje pamięć jako 1,2 rozmiaru pliku dla modeli sherpa-onnx i 1,5 rozmiaru plus 60 MB dla Whispera, i pokazuje szacunek obok każdego modelu.
- Whisper Tiny 74 MB na dysku, Base 142 MB, Small 466 MB, Medium q5 539 MB, Large v3 Turbo q5 574 MB.
- Parakeet TDT 0.6B v3 670 MB; Nemotron 3.5 651 MB; Canary 180M 198 MB; GigaAM v3 232 MB; Qwen3 ASR 0.6B 937 MB.
- W pamięci: Whisper Medium około 870 MB, Parakeet około 800 MB, GigaAM około 280 MB.
Szybkość na procesorze
Dwa pomiary z liczbami, oba na zwykłym procesorze laptopa, Intel Core i7-12700H, z domyślnymi dla programu czterema wątkami. Najpierw angielski: sześciosekundowe zdanie zajęło Parakeetowi TDT 0.6B v3 pół sekundy, a Whisperowi Medium q5 dwanaście sekund. Bardziej jaskrawy przypadek to rosyjski: GigaAM v3, wąski model sherpa-onnx, zamienił jedenastosekundową frazę na tekst w 0,47 sekundy tam, gdzie Whisper Medium q5 potrzebował 11,6 sekundy, zużywając 277 MB pamięci zamiast 814. Parakeet zachowuje się jak GigaAM: zdanie jest tekstem znacznie poniżej sekundy po puszczeniu klawisza. Whisper na tym samym sprzęcie potrzebuje mniej więcej tyle, ile trwa fraza. Nemotron w ogóle nie czeka: słowa nadchodzą, gdy mówisz, a końcowy tekst jest gotowy niemal w chwili, gdy puszczasz klawisze.
Maszyną był zwykły procesor laptopa bez karty graficznej; wszystkie trzy rodziny działają bez niej, i o to chodzi.
Interpunkcja, języki, tłumaczenie
- Interpunkcja: Parakeet, Nemotron, GigaAM v3 i Canary stawiają ją same. Whisper robi to częściowo; obróbka końcowa HoldToType kończy robotę małym modelem na twoim dysku.
- Języki: Whisper 99. Nemotron 40. Parakeet 25 europejskich, w tym ukraiński, polski i rosyjski. GigaAM tylko rosyjski. Canary angielski, niemiecki, hiszpański i francuski.
- Tłumaczenie: Whisper tłumaczy na angielski z założenia, a na pozostałe języki interfejsu, gdy powie mu się, że mowa jest już w języku docelowym; Canary tłumaczy między swoimi czterema językami. Parakeet i Nemotron tylko transkrybują, więc HoldToType trzyma w pogotowiu najlepszego zainstalowanego Whispera, a plakietka proponuje przekazanie mu frazy.
- Tekst na żywo: tylko Nemotron.
Który wybrać
HoldToType trzyma jeden model na język i przełącza go, gdy zmieniasz język, więc nie musisz wybierać jednego do wszystkiego. Strona modeli ma katalog i akapit na każdy język; strona języków pokazuje, gdzie ustawia się model dla każdego języka.
- Codzienne dyktowanie w języku europejskim: Parakeet. Szybki, z interpunkcją, dokładny.
- Chcesz widzieć słowa, gdy mówisz: Nemotron 3.5.
- Rosyjski: GigaAM v3, i nic nie zbliża się do niego szybkością.
- Tłumaczenie albo język spoza 25: Whisper Medium q5, albo Small na słabej maszynie.
- Stary laptop: Canary 180M do angielskiego, niemieckiego, hiszpańskiego i francuskiego; Whisper Base do reszty.
- Dokładność ponad wszystko i pamięć z zapasem: Qwen3 ASR.
Wypróbuj je sam
- Zainstaluj z sekcji pobierania i pozwól kreatorowi pobrać jeden model.
- Otwórz Języki i modele, dodaj drugi model dla tego samego języka i przełączaj między nimi; dziennik w zakładce System wypisuje, ile sekund trwało każde dyktowanie.
- Powiedz każdemu to samo zdanie. Różnica między Whisperem a wąskim modelem jest widoczna bez stopera.
Pytania
Czy potrzebuję karty graficznej?
Nie. HoldToType uruchamia każdy model na procesorze. GPU przyspieszyłoby Whispera w innych programach; wąskie modele są już szybkie bez niego.
Który jest najdokładniejszy?
Przy czystej mowie w dużym języku wszystkie trzy są blisko siebie. Qwen3 ASR jest najdokładniejszy w katalogu i najcięższy. Przy nazwiskach i żargonie słownik znaczy więcej niż model.
Czy mogę przynieść własny model?
Tak. Wrzuć plik Whisper GGML albo folder modelu sherpa-onnx do folderu modeli, a pojawi się na liście.
Wypróbuj wszystkie trzy na własnej maszynie
Jedna instalacja, dziewięć modeli, a sekundy poda ci dziennik.