Гостевой пост в блоге Теренса Тао высмеивает ИИ-математику как Вавилонскую библиотеку

Рассказчик, который предпочитает кучу доказательству

Текст, размещённый в блоге Теренса Тао, — гостевой материал Рикаба Гамбхира, теоретического физика-частичника, и он сатирический. Борхесова «Вавилонская библиотека» (1941) содержит все возможные книги, включая верные доказательства, и по меркам 2026 года была бы самым продуктивным исследовательским институтом в истории. Рассказчик Гамбхира принимает эту мерку. Результат оценивают по тому, насколько правдоподобно он выглядит, проверку переложили на математическое сообщество, а «неэффективно объяснять или проверять результат, если те же ресурсы можно потратить на порождение другого».

Факты за шуткой: OpenAI выпустила 722 математические работы в начале октября 2026 года, а физическое сообщество, по сообщениям, за недавний период выпустило около 2 500. Эссе ссылается на препринт о вводящих в заблуждение сертификатах Lean, а его последние строки обращены к читателю: «Помните, почему вы вообще решили заниматься наукой и математикой!»

Возражение симулятором Вавилонской библиотеки, которое эссе уже сделало

Комментатор с 9 тысячами кармы начал с «Какой странный взгляд» и отправил читателей в симулятор Вавилонской библиотеки:

«Это всегда абракадабра. Шансы получить что-то, что не абракадабра, астрономически малы, как выиграть в лотерею… И всё же с ИИ мы получаем изобилие очень правдоподобных и, как сам Тао отмечает, часто верных математических доказательств.» — комментатор с 9 тысячами кармы, запустивший симулятор Вавилонской библиотеки

Ответ пришёл от комментатора, который процитировал строку эссе:

«Вместо того чтобы порождать каждую возможную математическую статью, они нашли способ вероятностно порождать то, что выглядит правильным.» — ответ, цитирующий строку эссе

Разногласие меньше, чем кажется. Обе стороны признают, что результат машины отфильтрован. Претензия эссе к тому, что именно фильтр отбирает: результаты, которые выглядят верно для читателя, у которого нет времени проверять.

Доверие без понимания

Комментатор, назвавший текст «хорошо написанным, глубоким, смешным и грустным», сказал, что эссе заходит недостаточно далеко. Его беспокойство в том дне, когда ИИ объяснит себя лучше людей. Формальной верификации, по его мнению, недостаточно, чтобы доверять доказательству, если люди не могут его понять: «человеческая понятность — единственное, что важно».

Комментатор с 11 тысячами кармы взял противоположную логику:

«Вся суть формальной верификации в том, чтобы убрать необходимость понимать большую часть работы.» — комментатор с 11 тысячами кармы, ответивший о формальной верификации

Его пример касался утверждения о уравнениях Навье–Стокса: он уверен, что эти уравнения могут «взорваться», потому что доверяет проверяющему Lean и людям, которые верифицировали постановку задачи и результат, «хотя само доказательство, насколько мне известно, ещё не проверено людьми». Другой ответ усомнился в самой посылке: объяснить что-то человеку хорошо можно только с «определённой эмпатией и изощрённой теорией разума, которых LLM пока не демонстрировали». А третий предложил тест, который обходит понимание: попросить машину построить что-то работающее, чего мы сами построить не можем.

Зачем вообще финансировать чистую математику

Основатель Parse (YC S2011), который сейчас строит доказыватель теорем со встроенным ИИ, назвал вопрос «Зачем мы вообще всё это делаем?» правильным: «мы финансируем чистую математику, потому что верим, что какая-то чистая математика окажется полезной». Тьюринг занимался «чистой математикой», когда изобретал машину Тьюринга, отметил основатель, так что настоящий спор о том, что полезнее в 2026 году: чистая математика, которую делает ИИ, или та, что делают люди.

Комментатор с 11 тысячами кармы ответил, что эссе о людях, «а не о полезности или эффективности», и что ставить последнее выше первого значит промахнуться. Вопрос основателя и этот ответ не сходятся. Один спрашивает, кому должно платить учреждение, другой спрашивает, за что платят.

Статус против прозрения

Комментатор решил, что автор «прячет главное»: люди давно приписывают статус когнитивному озарению, теоретики ценятся выше экспериментаторов, так что скорбь отчасти о смене уважения, когда озарение можно автоматизировать. Комментатор с 12 тысячами кармы оспорил эту историю:

«ИИ — полная проблема для такого мышления, потому что он разрушает не только производство озарений, но и механизм, который ценит их производство.» — комментатор с 12 тысячами кармы, ответивший о статусе

Его аргумент: озарения ценили только тогда, когда их удавалось передать достаточно хорошо, чтобы другие могли ими пользоваться. Инженер-программист, работающий в DSP и ML, дал этому практическое продолжение с другой стороны: многие статьи в области, написанные людьми, никогда не были хорошо написаны или легко читаемы, а теперь LLM может пройти алгоритм шаг за шагом и ответить на вопросы.

Если читать это вместе с тредом на HN о эссе Дерека Томпсона про скорбящих математиков, видно, что эти тексты охватывают разные половины вопроса. Томпсон спрашивает, каково терять призвание. Сатира и её ответы спрашивают, кто проверит результат и кто за него заплатит.