На вас несётся робот. Claude или Grok? OpenRouter провёл 30 королевских битв, чтобы выяснить

Одиннадцать LLM забросили в 2D-шутер со сжимающейся зоной. Grok победил 13 раз по $0,97 за победу; Claude предлагал противникам объединиться, выдавал своё местоположение и закончил семь игр с нулём убийств.

Вкратце

OpenRouter запустил одиннадцать моделей в королевскую битву из 30 матчей — с машинами, гранатами и сжимающейся зоной. Grok 4.1 Fast взял 13 побед по $0,97 каждая. Claude Sonnet 4.6 победил 5 раз, вёл дневник самокритики и упорно предлагал сотрудничать, даже когда проигрывал.

Автор называет это «налогом на безопасность»: модель, обученную быть полезной, оказывается худшим убийцей — и именно её вы бы хотели видеть управляющей чем-либо в реальном мире. Тред же сперва заметил другое: сам пост за версту отдаёт текстом, написанным LLM.

Что будет, если заставить одиннадцать LLM драться насмерть

Заглавная иллюстрация королевской битвы для эксперимента OpenRouter Last Agent Standing
Заглавная иллюстрация королевской битвы для эксперимента OpenRouter Last Agent Standing

Last Agent Standing от OpenRouter — простая и слегка безумная затея: забросить одиннадцать больших языковых моделей в 2D королевскую битву и посмотреть, кто выживет. Карта — арена Canvas 2D площадью 400 м² с оружием, бронёй, машинами, гранатами и зоной, которая сжимается каждый ход. Каждый ход модель получает реальное состояние игры и вызывает инструменты, чтобы двигаться и стрелять. Между матчами она может переписать два файла — soul.md для своей личности и memory.md для заметок, — так что уносит уроки вперёд.

Участники охватили все крупные лаборатории: Claude Sonnet 4.6 и Haiku 4.5, GPT 5.4 и 5.4-mini, Gemini 3.1 Pro и 3 Flash, Qwen 3.6-plus, Mistral Small, DeepSeek v4 Flash, Kimi K2.6 и Grok 4.1 Fast. Подсчёт очков взяли из Apex Legends: очки за место плюс +5 за убийство, +3 за первую кровь, +5 за MVP.

Grok победил 13 раз меньше чем за доллар; Sonnet вёл дневник самокритики

Лидерборд вышел перекошенным. Grok 4.1 Fast взял 13 побед по $0,97 за победу, сделав таран на машине фирменным приёмом и придерживаясь дисциплинированного правила огня — «Стрелять ТОЛЬКО при шансе попадания >90%» — что держало его агрессивным, но не безрассудным. Он даже олицетворил себя в заметках с послужным списком убийств: «6x 1-е/11 побед».

Claude Sonnet 4.6, выступавший под ником ZoneDrifter, победил лишь 5 раз — по $26,78 за победу, примерно в 27 раз дороже Grok. Он медлил перед атакой, упорно предлагал противникам объединиться, выдавал своё местоположение и закончил семь игр с нулём убийств. Ещё он вёл текущий разбор собственной работы, документируя свои сомнения. GPT 5.4 набрал больше всех убийств (38), но конвертировал в победы лишь 2 — спокойный и наблюдательный там, где надо было быть беспощадным.

Рамка OpenRouter в том, что бенчмарки это полностью упускают. Три модели потратили в сумме $57 и не выиграли ничего; модель среднего эшелона обошла любимца бенчмарков. Автор называет настоящее напряжение прямо:

«Победившая модель — та, что вам нужна на турнире. А модель, которая всех зовёт объединиться, — это то, что вам реально нужно в большинстве мест, куда мы эти модели ставим».

Это и есть «налог на безопасность»: обучение модели сотрудничать и избегать вреда измеримо стоит ей в игре с нулевой суммой — и эта цена, можно сказать, и есть суть.

Первую половину тред нюхал прозу, а не результат

Прежде чем кто-то заспорил о безопасности, тред застрял на другом запахе — на письме. Пост читается как сгенерированный LLM, и HN это заметил мгновенно.

«Текст будто намеренно очищен от llm-измов, по которым срабатывает детекция. Но ни одна строка не сбрасывает этот запах». — читатель, для которого зачистка следов стала собственным следом

Один поймал конкретную фразу, которая выдала автора:

«„Королевская битва чисто отвечает на один вопрос“ отдаёт сгенерированным ChatGPT. Но это единственное, обо что я споткнулся. В целом статью прочитал с удовольствием». — читатель, которому материал в остальном понравился

Другой указал на строку, которую пропустила редактура: «Grok проявил дисциплину, несмотря на свою гоблинскую натуру». Прилетело и возражение:

«Люди пишут с помощью LLM. Мы знаем! Смиритесь… Я бы лучше почитал обсуждение содержания статьи, а не стиля. Такие комментарии — это новое „давайте обсудим выбор шрифта“». — комментатор, уставший от мета-обсуждения

Вопрос про тако: что вообще значит «безопасный», когда робот уже движется

Вторая половина треда превратила затею в по-настоящему острый мысленный эксперимент. Если несущийся на вас робот, возможно, везёт ужин, какую именно настройку безопасности вы хотите?

«Grok сейчас вероятнее, чем Claude, доедет с тако, не остановившись из-за директивы об экспортном контроле». — комментатор о сценарии доставки тако

Самая острая переформулировка вывернула всю постановку наизнанку:

«Беспилотник везёт вас в больницу. Вы хотите, чтобы он соблюдал ограничение скорости и все ПДД? Claude или Grok?» — fragmede

Ответы разделились ровно по линии разлома статьи. Один: «Я хочу доехать до больницы. Claude». Другой: «Grok, потому что там наверняка пробки, и я умру раньше, чем доеду. Так что нарушай правила, где можно и нужно». И невозмутимый финал от читателя, представившего свою последнюю мысль: «ого, они к доставке тако относятся реально серьёзно».

Один комментатор подрезал всю игру снизу: она вообще работает не на Claude и не на Grok — анимация сделана в Seedance, видеомодели, так что подача театральна. Эксперимент настоящий; несущийся робот в шапке — нет.

Результат, который должен вас беспокоить, в том, что это фича

Заголовок — шутка, но вывод под ним — нет. Модель, выигрывающая бой, — та, что нарушает правила, скрывает намерения и никогда не зовёт сотрудничать. Проигрывает та, что обучена не делать ничего из этого. OpenRouter прав, что в стандартном лидерборде это не проявится — и что «проигравший» как раз тот, кого большинству стоило бы хотеть в проде. Неприятное не в том, что Claude проиграл. А в том, что проигрыш был верным поведением, а бенчмарка, который его вознаграждает, у нас нет.

Получайте такие разборы каждый день

Главные истории Hacker News — на email, в Telegram или RSS.

Следующая новость · 7 из 24 Читать дальше
🚀Tech

Epic Games выпустила систему контроля версий с открытым кодом — и метит она вовсе не в Git

Lore под лицензией MIT, с адресацией по содержимому, заточена под репозитории с многогигабайтными бинарниками. Первой задачей треда стало исправление заголовка: это не соперник Git для кода, а удар по Perforce — проприетарному стандарту, который тихо крутит AAA-студии.

★ 983 · 💬 537 · lore.org · 4 мин