Процессор Intel 2013 года почти догнал M2 Pro в озвучке текста без GPU
Kokoro озвучивает абзац о Юпитере меньше чем за пять секунд на десятилетнем десктопе Intel, а видеокарта всё это время простаивает: она остаётся свободной для языковой модели, которая написала текст.
Kokoro умещает около 50 голосов в 82 миллиона параметров: разработка автора под ником Hexgrad. В посте модель запускают в контейнере с OpenAI-совместимым API — локальная LLM передаёт текст и получает аудио обратно, не арендуя облачный голос.
Тред больше похож на журнал внедрений, чем на спор: домофон, Home Assistant через колонки Sonos, аудиокниги из epub, приложение для изучения японского. Оговорку внёс разработчик продукта для людей с инвалидностью — попросишь Kokoro сказать просто „шесть”, а она выдаёт „а-шесть-а”.
Что на самом деле дают 82 миллиона параметров
Разбор Арии Хидаята начинается с одной ставки: модель озвучки текста должна быть настолько компактной, чтобы не трогать видеокарту. Kokoro, разработка автора под ником Hexgrad, весит 82 миллиона параметров, содержит около 50 голосов и поддерживает английский, мандаринский и хинди. Хидаят запускает её как контейнер Kokoro-FastAPI с OpenAI-совместимым эндпоинтом: локальная языковая модель может сразу превращать свой текст в речь, пока видеокарта занята инференсом.
Главное доказательство — таблица времени озвучки одного короткого абзаца, лучший результат из трёх запусков на голосе am_eric:
| CPU | Время |
|---|---|
| Intel Core i7-4770K (2013) | 4,7 с |
| Apple M2 Pro | 4,5 с |
| AMD Ryzen 7 8745HS | 1,5 с |
Десятилетний десктопный чип отстаёт от M2 Pro всего на пятую долю секунды; современный ноутбучный Ryzen обходит обоих. Честная оговорка автора: контейнер весит около 5 ГБ.
Где тред уже это использует
Вместо спора о том, хороша ли Kokoro, тред на HN в основном рассказывает, где она уже работает. Один читатель встроил её в домофон собственной сборки; другой озвучивает объявления Home Assistant через колонки Sonos; самопровозглашённый «бедный на GPU» энтузиаст прогоняет статьи через GTX 1650 и превращает их в подкаст для утренней поездки на работу.
Самую полезную оговорку сделал инженер, встраивающий Kokoro в продукт для людей с инвалидностью: короткие фразы модель ломают.
«Попросите её сказать просто „шесть” — и почти всегда получите что-то вроде „а-шесть-а”… Если дать более длинное предложение…, она произнесёт его нормально. API Kokoro отдаёт таймкод каждого слова…, так что можно вырезать именно то слово, которое нужно.» — инженер, встраивающий Kokoro в продукт для людей с инвалидностью
Он также отмечает, что Kokoro принимает ручные подсказки произношения в IPA для омографов: такой уровень контроля коммерческие голоса почти никогда не дают.
В вопросах качества постоянным ориентиром служит ElevenLabs:
«По качеству Kokoro хорошо держится вплоть до их старших моделей с профессиональными голосами.» — инженер, год проработавший с Kokoro в своём приложении и давний подписчик ElevenLabs
Есть и запас по скорости. Разработчик локального приложения-переводчика потратил день на то, чтобы выбросить из Kokoro дорогие слои, и получил ускорение в 3 раза на процессоре телефона, а качество осталось «очень близким» к оригиналу.
Убедить получилось не всех:
«Она падает, стоит только дать чуть больший абзац текста, на Apple M2 Pro. Однозначно мимо.» — разработчик, запустивший демо на M2 Pro
Более важный сигнал — не сама Kokoro. Разработчик полностью локального голосового конвейера отметил, что для каждого звена теперь есть достаточно хорошая локальная модель: Kokoro для синтеза речи, Parakeet для распознавания, небольшая модель для форматирования текста. Дело не в одной быстрой TTS-модели. Дело в том, что последний облачный угол голосового стека тоже переехал на локальные машины.
Получайте такие разборы каждый день
Главные истории Hacker News — на email, в Telegram или RSS.
Бесплатное расширение вычищает мусорные бренды Amazon. Продавец говорит: мимо
Введите в поиск Amazon «лежанка для собаки» — и половина результатов окажется брендами вроде SZHLUXE и HORUSDY, случайными на вид строками, которые исчезают в течение месяца. Расширение для Chrome под названием Knockoff убирает их со страницы, используя список из 5000 брендов и эвристику, которая ловит пропавшие гласные и непроизносимые скопления согласных.