Gemma 4 12B вышла без энкодера — и приняла квотер за серебряный доллар

Google удаляет энкодер и делает на это ставку

Gemma 4 12B появилась в блоге Google как модель, заполняющая неловкий разрыв между тирами 4B и 26B, — и как настоящая архитектурная история, а не очередной чекпоинт. Она быстро попала на первую страницу HN, и тред чётко разделился на тех, кого впечатлил дизайн, и тех, кто реально скормил ей изображения.

Одно матричное умножение вместо модели зрения

Главный тезис — «без энкодера». Google заменила энкодер изображений Gemma 4 — обычно это отдельная сеть вроде SigLIP — «лёгким модулем эмбеддинга, состоящим из одного матричного умножения», позиционного эмбеддинга и нормализаций. Для аудио пошли ещё дальше: аудиоэнкодер убрали «полностью», проецируя сырой аудиосигнал в то же размерное пространство, что и текстовые токены. Изображения и аудио поступают напрямую в языковой бэкбон — именно это здесь означает «единый мультимодальный». Итог: 12 миллиардов параметров, помещающихся в 16 ГБ VRAM или унифицированной памяти, лицензия Apache 2.0, результаты «близкие к нашей 26B модели», с Multi-Token Prediction — предсказанием нескольких токенов сразу — для снижения задержки. Gemma 4 перешагнула 150 миллионов скачиваний.

Кодовая сторона выдержала проверку. Один рецензент прогнал 4-битный квант через бенчмарк виб-кодинга Minesweeper и был приятно удивлён:

«Примерно сопоставимо с GPT-4.1 (!!), вышедшим 14 месяцев назад… Теперь у нас есть что-то с 12B параметров, работающее примерно так же» — основатель ex-Pythagora (YC W24), занимающийся AI-консалтингом

Мультимодальные обещания встречают настоящие фотографии

Затем мультимодальная половина столкнулась с реальностью. Самый болезненный разрыв пришёл от авторитетного источника:

«Я провёл 10 минут, доказывая ей, что на фото квотер Вашингтона 1998 года — это не монета Моргана… Она ушла в петлю сбоев на канадской долларовой монете Британской Колумбии.» — профессор информатики из Университета Карнеги — Меллона, ex-Google Brain

Он отметил, что старая Gemma 4 с канадской монетой справилась, а Gemini 3.1-flash-lite правильно опознал обе. Он был не одинок. Другой тестировщик наблюдал, как модель захлёбывается там, где референсные модели проходят без труда:

«Когда я дал ей изображение, с которым Gemma 26B A4B и Qwen 3.6 35B A3B справляются без проблем с описанием… она полностью провалилась. Её восприятие изображения свелось к "искажённая широкая панорама"» — оценщик моделей, проводящий параллельные тесты зрения

Даже скептики в архитектуре не купились на маркетинговые формулировки. Макс Вульф, старший дата-сайентист надавил на фразу «работает на вашем ноутбуке»: «Полагаю, это предполагает квантизацию, которая из-за потери качества делает это утверждение несколько вводящим в заблуждение». Другие заметили, что рекламируемая цифра 16 ГБ подразумевает 8-бит, тогда как фактический релиз на Hugging Face вышел в 16-битном float — «немного нечестно».

Умная архитектура — ещё не умная модель

Заменить энкодер 35M-слоем эмбеддингов — это настоящая идея, и текстовые результаты говорят о том, что бэкбон сильный. Но «без энкодера» выполняет сразу две работы: исследовательское утверждение и торговую подачу «ноутбук справится». Вердикт треда — вторая работа не сделана: когда на входе настоящая фотография настоящей монеты, именно удалённый энкодер оказывается тем, чего не хватает.