HoldToType

Документация

Whisper, Parakeet или Nemotron: какая модель распознавания для диктовки

Почти каждая локальная программа диктовки запускает одно из трёх семейств моделей. Они различаются больше, чем подсказывают названия: сколько памяти берут, сколько длится предложение на процессоре, расставляют ли пунктуацию и какие языки покрывают. HoldToType поставляет все три и нескольких родственников, так что цифры ниже взяты из одной программы на одной машине.

Обновлено · Vitalii Yemets

Три семейства по абзацу на каждое

  • Whisper (OpenAI, работает через whisper.cpp) — универсал: 99 языков, перевод на английский заложен изначально, размеры от 74 МБ до больше гигабайта. Он слышит всю фразу после того, как вы отпустили клавишу, и отвечает медленнее всех трёх. Пунктуация частичная.
  • Parakeet TDT 0.6B v3 (NVIDIA, работает через sherpa-onnx) — спринтер: 25 европейских языков, встроенная пунктуация, предложение значительно быстрее чем за секунду на процессоре, 670 МБ на диске. Не переводит.
  • Nemotron 3.5 (NVIDIA, потоковый) — тот, что печатает, пока вы говорите: частичный текст каждые несколько сотен миллисекунд, 40 языков, встроенная пунктуация, 651 МБ. Требует чуть больше запаса, чем Parakeet.

Размер и память

Размер на диске — то, что вы скачиваете один раз; память — то, что программа держит, пока модель загружена. HoldToType оценивает память как 1,2 размера файла для моделей sherpa-onnx и 1,5 размера плюс 60 МБ для Whisper, и показывает оценку рядом с каждой моделью.

  • Whisper Tiny 74 МБ на диске, Base 142 МБ, Small 466 МБ, Medium q5 539 МБ, Large v3 Turbo q5 574 МБ.
  • Parakeet TDT 0.6B v3 670 МБ; Nemotron 3.5 651 МБ; Canary 180M 198 МБ; GigaAM v3 232 МБ; Qwen3 ASR 0.6B 937 МБ.
  • В памяти: Whisper Medium около 870 МБ, Parakeet около 800 МБ, GigaAM около 280 МБ.

Скорость на процессоре

Два измерения с цифрами, оба на обычном процессоре ноутбука, Intel Core i7-12700H, с четырьмя потоками по умолчанию. Сначала английский: предложение на шесть секунд заняло у Parakeet TDT 0.6B v3 полсекунды, а у Whisper Medium q5 двенадцать секунд. Более показательный случай — русский: GigaAM v3, узкая модель sherpa-onnx, превратила одиннадцатисекундную фразу в текст за 0,47 секунды там, где Whisper Medium q5 понадобилось 11,6 секунды, использовав 277 МБ памяти вместо 814. Parakeet ведёт себя как GigaAM: предложение становится текстом значительно быстрее чем за секунду после отпускания. Whisper на том же железе берёт примерно столько, сколько длится фраза. Nemotron не ждёт вообще: слова приходят, пока вы говорите, а окончательный текст готов почти сразу, как вы отпускаете клавиши.

Машиной был обычный процессор ноутбука без видеокарты; все три семейства работают без неё, и в этом суть.

Пунктуация, языки, перевод

  • Пунктуация: Parakeet, Nemotron, GigaAM v3 и Canary расставляют её сами. Whisper делает это частично; постобработка HoldToType завершает работу небольшой моделью на вашем диске.
  • Языки: Whisper 99. Nemotron 40. Parakeet 25 европейских, включая украинский, польский и русский. GigaAM только русский. Canary английский, немецкий, испанский и французский.
  • Перевод: Whisper переводит на английский изначально, а на другие языки интерфейса — когда ему сказать, что речь уже на целевом языке; Canary переводит между своими четырьмя языками. Parakeet и Nemotron только расшифровывают, так что HoldToType держит наготове лучший установленный Whisper, а плашка предлагает передать фразу ему.
  • Живой текст: только Nemotron.

Что выбрать

HoldToType держит одну модель на каждый язык и переключает её, когда вы меняете язык, так что не приходится выбирать одну на всё. На странице моделей есть каталог и абзац на каждый язык; страница языков показывает, где задаётся модель для каждого языка.

  • Повседневная диктовка на европейском языке: Parakeet. Быстрый, с пунктуацией, точный.
  • Хотите видеть слова во время речи: Nemotron 3.5.
  • Русский: GigaAM v3, и по скорости ничто даже не приближается.
  • Перевод или язык вне 25: Whisper Medium q5 или Small на слабой машине.
  • Старый ноутбук: Canary 180M для английского, немецкого, испанского и французского; Whisper Base для остальных.
  • Точность превыше всего и память с запасом: Qwen3 ASR.

Попробуйте сами

  1. Установите из раздела загрузки и дайте мастеру скачать одну модель.
  2. Откройте «Языки и модели», добавьте вторую модель для того же языка и переключайтесь между ними; журнал на вкладке «Система» печатает, сколько секунд заняла каждая диктовка.
  3. Скажите одно и то же предложение каждой. Разница между Whisper и узкой моделью видна без секундомера.

Вопросы

Мне нужна видеокарта?

Нет. HoldToType запускает каждую модель на процессоре. Видеокарта ускорила бы Whisper в других программах; узкие модели и без неё уже быстрые.

Какая самая точная?

Для чистой речи на распространённом языке все три близки. Qwen3 ASR — самая точная в каталоге и самая тяжёлая. Для имён и жаргона словарь значит больше, чем модель.

Можно принести свою модель?

Да. Положите файл Whisper GGML или папку модели sherpa-onnx в папку моделей, и она появится в списке.

Попробуйте все три на своей машине

Одна установка, девять моделей, а секунды скажет журнал.

Скачать HoldToType