Бендер спустя пять лет: «стохастические попугаи» — это про LLM, а не про весь ИИ
IEEE Spectrum возвращается к статье марта 2021 года «Об опасностях стохастических попугаев» вместе с её соавтором Эмили Бендер; двух её соавторов, Тимнит Гебру и Маргарет Митчелл, Google уволила примерно во время публикации.
Её уточнение узкое: фраза охватывает только большие языковые модели и генерацию текста, а не шахматные движки, AlphaFold или системы для изображений. Яркий мысленный эксперимент про «осьминога», говорит она, был обучающим приёмом для неспециалистов.
Один читатель пожал плечами: теперь фраза в основном сигналит, за какую ты команду.
«Просто описание» — и всегда только про текст
Главная поправка Бендер — про регистр, а не детали. Она отвергает мысль, что фраза когда-либо была оскорблением, называя её «просто описанием того, что эти системы на самом деле есть»: машины, которые предсказывают вероятные последовательности слов без понимания смысла. Заблуждение, на которое она натыкается снова и снова, — ошибка категории, когда люди берут утверждение, ограниченное языковыми моделями, и слышат утверждение об «ИИ» вообще.
Понимает ли LLM «четыре»?
Тред превратился ровно в ту схватку, которую фраза и провоцирует. Один читатель зашёл от более старой технологии:
«Экспертные системы на Lisp явно не понимают смысла символов, которые обрабатывают, и всё же при достаточном труде разработчиков они умеют всё то же, что и LLM, с куда большей надёжностью… Насколько я могу судить, Opus толком не понимает такие понятия, как «четыре».»
— комментатор, сравнивающий LLM с экспертными системами на Lisp
Другой указал на стандартные фокусы, которые обнажают этот разрыв:
«Стандартные „сколько букв r в strawberry“, „идти пешком или ехать на мойку“ и прочее — всё играет на том, что у них нет никакой модели реального мира или мыслей, с которыми они могли бы сверять свой вывод…»
Но сама фраза затвердела в шибболет, пожаловался один читатель:
«Почти все (99%+), кто использует эту фразу, — противники ИИ и просто хотят покрасоваться, как сильно они его не любят… Так что это отличная фраза, потому что почти в каждом случае я могу игнорировать всё, что человек скажет после неё.»
Более тихая кода пришла изнутри Google времён ухода Гебру:
«Я был в Google, когда она уволилась, работал в ML и не слышал о ней, пока история не всплыла… никто из тех, с кем я говорил, не знал о ней, так что я решил, что это накрутка.»
— бывший сотрудник Google, работавший тогда в ML
Спустя пять лет термин обогнал своих авторов: придуманный, чтобы описать механизм, теперь он в основном метит племя.
Получайте такие разборы каждый день
Главные истории Hacker News — на email, в Telegram или RSS.
Это последняя новость выпуска 7 июля 2026.
Перейти в архив выпусков