Модель на 360 млн параметров притворяется терминалом, и vim с tmux всё равно работают
У WorldTUI нет ни shell, ни файловой системы. Каждое нажатие клавиши поступает на вход, а модель предсказывает, какие строки экрана изменятся и где окажется курсор.
Автор дообучил Qwen2.5-Coder-0.5B примерно на 336 тысячах синтетических терминальных сессий, урезал словарь до 333 токенов и выпустил 4-битную сборку весом 208 МБ, которая работает в браузере на WebGPU.
На тесте из 106 команд она набрала 80 баллов, а модели такого же размера с промптом — 52 и 60.
Терминал без подложки
WorldTUI берёт за основу Qwen2.5-Coder-0.5B, урезает таблицу эмбеддингов примерно с 136 млн параметров до словаря терминала на 333 токена и в итоге получает 360 млн параметров. Обучающие данные — около 2 млрд токенов из 336 тысяч сессий, записанных на реальных программах в Docker, со случайными пользователями, размерами окна и опечатками. Обучение на собственных ошибках подняло PresetBench с 24/47 до 38/47 при int4; на всё ушло около 75 часов работы RTX 4090.
На ShellBench модель набирает 80 против 52 у промптнутого Qwen2.5-Coder-0.5B и 60 у промптнутого Qwen3-0.6B. Параллельное декодирование строк через спекулятивное декодирование сократило p95-задержку на крупных кадрах с 6,7 с до 0,87 с. Ограничения реальны: добавленные строки иногда пропадают из последующего cat, ответы на Python часто неверны, а вложенные каталоги теряются.
Не здесь ли движется UI
«С сожалением подозреваю, что это и есть будущее UI. Нужны лишь умные локальные модели, которые работают достаточно быстро, чтобы частота кадров оставалась высокой» — комментатор, говорящий об UI в целом
Разработчик, который делает быстрые локальные классификаторы, ответил собственной версией этой идеи — «lossy git», который хранит код, обучая нейросеть, и восстанавливает его при checkout, целиком в браузере:
«Очень круто! Впечатляет, что это можно сделать одной лишь тонкой настройкой» — автор веб-демо lossy-git
Сам автор называет это слабой моделью мира, но такой, которая поддерживает довольно последовательный мир, не реализуя ни одного из лежащих в основе правил.
Получайте такие разборы каждый день
Главные истории Hacker News — на email, в Telegram или RSS.
Браузер Arc перестанет работать 22 декабря, а The Browser Company ссылается на безопасность
Новые аккаунты Arc закроются 22 октября, а на macOS и Windows Arc будет деактивирован 22 декабря. Персональные данные удаляются в течение 30 дней после этого.