Компилятор превратил NES в веса Qwen, которые точно совпадают с эталонным эмулятором

В чекпойнте 466,6 млн параметров, но ненулевых только 9,3 млн.

Вкратце

nesformer вычисляет веса стандартного чекпойнта Qwen3.5 так, что модель предсказывает журнал выполнения процессора 6502 по одному токену за раз, а 2 КБ оперативной памяти хранятся в состоянии Gated DeltaNet. Трассировки совпали с эталонным эмулятором на трёх тестовых программах, а веса сжимаются в архив 3,3 МБ. Подвох: около 1650 токенов в секунду.

Консоль внутри состояния языковой модели

nesformer запускает процессор 6502 из NES, его 2 КБ рабочей памяти и программное ПЗУ картриджа внутри весов стандартного чекпойнта Qwen3.5. Компилятор вычисляет веса; модель предсказывает журнал выполнения процессора по одному токену за раз. Программа-хост рисует кадры, считывает контроллер и вызывает прерывания вертикального гашения. Проект опирается на Qwenputer, который скомпилировал CHIP-8, а затем процессор RISC-V в Qwen3.5-4B, используя идею, что «состояние Gated DeltaNet модели — это память машины».

Цифры: 466,6 млн параметров в bf16 (933 МБ), из них 9,3 млн ненулевых, сжатых в архив 3,3 МБ. Веса без внешнего управления совпали с трассировками эталонного процессора на nestest, Thwaite и Full Game, а каждый сохранённый кадр совпал с эталоном. Цена — скорость: около 1650 токенов в секунду, то есть в 150–290 раз медленнее настоящей консоли. Поддерживаются только картриджи с маппером 0, официальные опкоды и приближённое изображение.

Это трюк или результат?

Один читатель спросил, в чём смысл: «Разумеется, набор цифровых логических схем можно свести к набору весов. Я что-то упускаю?» Автор проекта ответил со стороны процесса. dbreunig, чей аккаунт хостит репозиторий, написал:

«Opus 5.5 построил рабочие веса и код всего по двум промптам»

Жак Маттейдж извлёк урок об эффективности: «это также даёт новое понимание того, насколько эффективнее детерминированные программы по сравнению с ИИ».

Вот полезное прочтение того, что 933 МБ содержат 9,3 млн ненулевых чисел: модель здесь — медленный и раздутый контейнер для скомпилированной схемы, а не обученная система.

Получайте такие разборы каждый день

Главные истории Hacker News — на email, в Telegram или RSS.

Следующая новость · 7 из 8 Читать дальше
🚀Tech

Пять межарендных багов Azure, один общий экземпляр API Management и $200 000 за баунти

Azure Logic Apps связывает подключения через общий шлюз, поэтому одна ошибка валидации позволяла одному арендатору действовать от имени другого.

★ 268 · 💬 53 · binarysecurity.no · 2 мин