Блог Теренса Тао опубликовал эссе об ИИ и математике, которое написал не Тао

Гостевой пост, а не вердикт Тао

Пост написал Франческо Маджи, он вышел в блоге Теренса Тао 18 октября. Тао отметил, что текст переведён из другого формата с помощью ИИ. Тезис Маджи: «реальность, вероятно, объединит эти сценарии».

Золотой век зависит от «тщательной интеграции LLM в различные STEM-экосистемы»: подготовки нового поколения учёных и сохранения открытости исследований. Маджи с надеждой смотрит на «математизацию», то есть изобретение концепций, которые делают явления понятными, и такие концепции, при более дешёвых доказательствах, могут распространиться на естественные и социальные науки. Тёмный век — это краткосрочный всплеск выпуска при том, что «независимая человеческая научная деятельность постепенно ослабевала бы», а знание становится «чуждым человеческому пониманию».

Его список конкретных опасений:

• Длинные доказательства на Lean могут быть верными и при этом нечитаемыми, а их переводы на естественный язык становятся «запутаннее и менее точными» по мере роста доказательства.
• «Сильный математический результат сам по себе больше не может считаться убедительным доказательством» способностей студента, и это бьёт по найму и оценке.
• Математики становятся «очень осторожными в обмене идеями», а неопубликованные предложения, загруженные в LLM, могут утечь.
• Авторство и ответственность за доказательства, созданные LLM, остаются неясными.
• Передача нескольким компаниям «растущего и потенциально полного контроля» над передовыми инструментами «выглядит крайне неразумно».

Его рецепты: публично управляемая инфраструктура LLM, исследовательский доступ к передовым моделям, стандарты раскрытия и воспроизводимости для работы с помощью LLM и изучение влияния на науку и образование.

Половина треда считала, что это Тао

«Мне не хватает статей, которые действительно написал Тао». — bananaflag

Другие пошли дальше и прочитали пост как собственный разворот Тао.

«Обожаю, как Теренс Тао прошёл путь от ИИ-евангелиста … до «О нет, МаТеМаТиКа УмИрАеТ, что будет с моей работой через пару месяцев». — muadddib

Жак Маттейдж, инженер, стоящий за микроядерной ОС Unite, отметил, что Тао «не писал пост, но он его опубликовал», и расширил вопрос за пределы математики: научное знание можно копить или патентовать ради продуктов, и, по его словам, много доказательств того, что OpenAI и Anthropic возьмутся за любые другие ценные источники знания.

Что на самом деле беспокоит математиков

Основатель MailChannels предложил прочтение недавних комментариев Тао: профессионалов в основном злит то, что математические статьи, поданные с помощью ИИ, лишены обучающего содержания, которое есть в хороших человеческих работах. По его словам, профессиональная математика — это как решение задач, так и распространение знания.

Французский исследователь и инженер выделил тему секретности: наблюдение Маджи, что математики уже охраняют заявки на гранты и предложения, потому что рецензент может вставить их в LLM, относится и ко всем, кто никогда не ставил галочку «не обучать на моих данных». Один комментатор поставил на «короткий золотой век», за которым последует тёмный век, когда никто не захочет публиковать новые идеи, а другой сказал, что не сочувствует: область была закрытой и снобистской, и видеть, как математиков «осадили на пару ступенек или на сотню», довольно приятно.

Урок треда касается авторства. Атрибуция блог-поста определила, о каком споре читатели думали, что спорят, и мысль Маджи о том, что ответственность за работу, сделанную с помощью машины, неясна, подтвердилась ещё до того, как тред до неё дошёл.