HoldToType

Документація

Whisper, Parakeet чи Nemotron: яка модель розпізнавання для диктовки

Майже кожна локальна програма диктовки запускає одне з трьох сімейств моделей. Вони різняться більше, ніж підказують назви: скільки пам'яті беруть, скільки триває речення на процесорі, чи розставляють пунктуацію і які мови покривають. HoldToType постачає всі три і кількох родичів, тож цифри нижче взяті з однієї програми на одній машині.

Оновлено · Vitalii Yemets

Три сімейства по абзацу на кожне

  • Whisper (OpenAI, працює через whisper.cpp) — універсал: 99 мов, переклад англійською закладений від початку, розміри від 74 МБ до понад гігабайта. Він чує всю фразу після того, як ви відпустили клавішу, і відповідає найповільніше з трьох. Пунктуація часткова.
  • Parakeet TDT 0.6B v3 (NVIDIA, працює через sherpa-onnx) — спринтер: 25 європейських мов, вбудована пунктуація, речення значно швидше ніж за секунду на процесорі, 670 МБ на диску. Не перекладає.
  • Nemotron 3.5 (NVIDIA, потоковий) — той, що друкує, поки ви говорите: частковий текст кожні кілька сотень мілісекунд, 40 мов, вбудована пунктуація, 651 МБ. Потребує трохи більше запасу, ніж Parakeet.

Розмір і пам'ять

Розмір на диску — те, що ви завантажуєте один раз; пам'ять — те, що програма тримає, поки модель завантажена. HoldToType оцінює пам'ять як 1,2 розміру файлу для моделей sherpa-onnx і 1,5 розміру плюс 60 МБ для Whisper, і показує оцінку поруч із кожною моделлю.

  • Whisper Tiny 74 МБ на диску, Base 142 МБ, Small 466 МБ, Medium q5 539 МБ, Large v3 Turbo q5 574 МБ.
  • Parakeet TDT 0.6B v3 670 МБ; Nemotron 3.5 651 МБ; Canary 180M 198 МБ; GigaAM v3 232 МБ; Qwen3 ASR 0.6B 937 МБ.
  • У пам'яті: Whisper Medium близько 870 МБ, Parakeet близько 800 МБ, GigaAM близько 280 МБ.

Швидкість на процесорі

Два виміри з цифрами, обидва на звичайному процесорі ноутбука, Intel Core i7-12700H, із типовими для програми чотирма потоками. Спершу англійська: речення на шість секунд зайняло у Parakeet TDT 0.6B v3 півсекунди, а у Whisper Medium q5 дванадцять секунд. Разючіший випадок — російська: GigaAM v3, вузька модель sherpa-onnx, перетворила одинадцятисекундну фразу на текст за 0,47 секунди там, де Whisper Medium q5 знадобилося 11,6 секунди, використавши 277 МБ пам'яті замість 814. Parakeet поводиться як GigaAM: речення стає текстом значно швидше ніж за секунду після відпускання. Whisper на тому ж залізі бере приблизно стільки, скільки триває фраза. Nemotron не чекає взагалі: слова надходять, поки ви говорите, а остаточний текст готовий майже одразу, як ви відпускаєте клавіші.

Машиною був звичайний процесор ноутбука без відеокарти; усі три сімейства працюють без неї, і в цьому суть.

Пунктуація, мови, переклад

  • Пунктуація: Parakeet, Nemotron, GigaAM v3 і Canary розставляють її самі. Whisper робить це частково; постобробка HoldToType завершує роботу невеликою моделлю на вашому диску.
  • Мови: Whisper 99. Nemotron 40. Parakeet 25 європейських, зокрема українська, польська і російська. GigaAM лише російська. Canary англійська, німецька, іспанська і французька.
  • Переклад: Whisper перекладає англійською від початку, а іншими мовами інтерфейсу — коли йому сказати, що мовлення вже цільовою мовою; Canary перекладає між своїми чотирма мовами. Parakeet і Nemotron лише розшифровують, тож HoldToType тримає напоготові найкращий встановлений Whisper, а плашка пропонує передати фразу йому.
  • Живий текст: лише Nemotron.

Що обрати

HoldToType тримає одну модель на кожну мову і перемикає її, коли ви змінюєте мову, тож не доводиться обирати одну на все. На сторінці моделей є каталог і абзац на кожну мову; сторінка мов показує, де задається модель для кожної мови.

  • Повсякденна диктовка європейською мовою: Parakeet. Швидкий, із пунктуацією, точний.
  • Хочете бачити слова під час мовлення: Nemotron 3.5.
  • Російська: GigaAM v3, і за швидкістю ніщо навіть не наближається.
  • Переклад або мова поза 25: Whisper Medium q5 або Small на слабкій машині.
  • Старий ноутбук: Canary 180M для англійської, німецької, іспанської і французької; Whisper Base для решти.
  • Точність понад усе і пам'ять із запасом: Qwen3 ASR.

Спробуйте самі

  1. Встановіть із розділу завантаження і дозвольте майстру завантажити одну модель.
  2. Відкрийте «Мови і моделі», додайте другу модель для тієї самої мови і перемикайтеся між ними; журнал на вкладці «Система» друкує, скільки секунд зайняла кожна диктовка.
  3. Скажіть те саме речення кожній. Різниця між Whisper і вузькою моделлю видна без секундоміра.

Запитання

Мені потрібна відеокарта?

Ні. HoldToType запускає кожну модель на процесорі. Відеокарта прискорила б Whisper в інших програмах; вузькі моделі й без неї вже швидкі.

Яка найточніша?

Для чистого мовлення поширеною мовою всі три близькі. Qwen3 ASR — найточніша в каталозі і найважча. Для імен і жаргону словник важить більше, ніж модель.

Можна принести власну модель?

Так. Покладіть файл Whisper GGML або теку моделі sherpa-onnx у теку моделей, і вона з'явиться у списку.

Спробуйте всі три на своїй машині

Одне встановлення, дев'ять моделей, а секунди скаже журнал.

Завантажити HoldToType