25-летняя игра проходит те же тесты на сознание ИИ, что и LLM

Статья, сделавшая AoE II субстратом сознания

Статья Адриана де Винтера на arxiv появилась на HN с заголовком, который читается как сатира, но ею не является: Если у LLM есть человекоподобные атрибуты, то они есть и у Age of Empires II. Статья набрала 104 очка и 103 комментария в треде, и это соотношение говорит о глубокой вовлечённости, а не о случайных апвоутах.

Что статья на самом деле утверждает

Ход де Винтера хирургичен. Он не доказывает, что LLM сознательны или нет. Вместо этого он конструирует и обучает нейросеть внутри Age of Empires II — используя скриптинг и внутриигровые механики как субстрат, — а затем показывает, что любое заявление об антропоморфной уникальности, сделанное для LLM, в равной мере применимо к этой абсурдной конструкции. Его термин: антропоморфизм LLM «эмпирически неуникален» между субстратами.

Вывод следует из полноты по Тьюрингу: если показать, что AoE II полна по Тьюрингу (статья приводит конкретное доказательство, требующее два рынка, городской центр, торговую телегу, шесть крестьян, пять ферм и самоубийственного разведчика), то любое вычисление, которое выполняет LLM, в принципе может выполняться там. Статья предлагает «нулевое допущение» — исследователи, изучающие когницию LLM, должны по умолчанию предполагать неуникальность и проектировать эксперименты, которые её действительно фальсифицируют, а не считывать человекоподобные качества с выходного слоя.

Более широкие мишени — академические статьи и эссе на Substack, что перечисляют список мозгоподобных событий обработки в LLM, объявляют функциональную эквивалентность и на этом останавливаются.

Тред рвёт и статью, и антропоморфизаторов

Самая острая критика пришла от давнего участника HN, назвавшего логику статьи несвязной с самого основания:

«Они смешивают субстрат с презентационным слоем. Затем указывают, что эквивалентность по Тьюрингу позволяет запускать LLM на чём угодно… Да, это, кажется, подразумевает, что если ваш партнёр напишет вам нечто трогательное из LEGO, вы должны над ним посмеяться и указать, что LEGO неразумно, так что это ничего не доказывает». — комментатор, активный с 2014 года

Читатель, разглядевший настоящую целевую аудиторию статьи, предложил иное прочтение:

«Она показывает изъяны в методах, которыми другие академические исследования определяли поведение, так что нацелена на тех, кто создаёт и рецензирует академические исследования. Это не очень большая аудитория». — комментатор, активный с 2024 года

Самый заострённый философский разворот пришёл от читателя, отметившего, что мишень статьи, возможно, уже с ней согласна:

«Думаю, большинство людей, готовых антропоморфизировать LLM… уже совершенно спокойно относятся к мысли, что у компьютерной игры могут быть человекоподобные элементы. Они уже приняли, что ключевые аспекты человеческого субстрат-независимы, так почему идея компьютерной игры как субстрата должна их смущать? Тут не осталось пули, чтобы её прикусить». — комментатор, активный с 2012 года

Один комментатор довёл редукцию дальше, чем сама статья:

«Существует некий изоморфизм между скоростями молекул в стакане воды и состояниями машины Тьюринга, симулирующей человеческий разум. Так стакан воды сознателен? На самом деле таких изоморфизмов много, к множеству возможных сознательных разумов, так значит ли это, что каждый стакан воды одновременно переживает любой возможный сознательный опыт?» — комментатор, активный с 2016 года

Между тем комментатор, проследивший социальный контекст, поставил диагноз эпидемии, на которую отвечает статья:

«Усиленные LLM эссе на глубоком языке о функциональной эквивалентности между ментальными состояниями, как они известны у людей и в человеческом мозге… В этом есть что-то, что злоупотребляет силой аналогий, проводя связи, трактуя сравнения с высоты 10 000 футов так, будто они доказательство тождества». — комментатор, активный с 2008 года

Правило, которое раскрывает статья

Вклад статьи — не столько доказательство, сколько диагностика. Полнота по Тьюрингу всегда подразумевала, что субстрат — неверное место для поиска когнитивной уникальности, но никто прежде не удосужился построить доведение до абсурда в средневековой фермерской игре. Нулевое допущение де Винтера — полезный остаток: если ваша методология обнаружения сознания не может отличить LLM от Age of Empires II, проблема в методологии. Именно этому стандарту не соответствуют академическая психология и исследования когниции ИИ, и статья называет это прямо, не притворяясь, что решает.