Блогер: слова — побочный продукт сознания. Тред ответил цитатой Хелен Келлер

Чистый тезис эссе и почему это тезис, а не факт

Пост Деварша Ранпары строит аргумент от интроспекции. Спросите себя, откуда берутся ваши слова: вы чувствуете мысль, эмоцию, образ и лишь потом тянетесь к языку, чтобы их обернуть. «Слово — это лишь кожа. Идея, сознание — вот что сидит под ним». LLM, по его словам, работает наоборот: «большая куча слов, предсказывающая следующее слово… Под ними нет никакой идеи. Слова — это всё», а любой смысл выпадает случайным побочным продуктом.

Тред на 183 комментария счёл интуицию самым слабым звеном. Несколько читателей отметили: несущая посылка заявлена, но не показана. «Что слова — побочный продукт сознания, это смелое утверждение, и оно требует обоснования», — написал один, напомнив, что во сне мы видим и слова. Другой просто попросил «доказательство первого тезиса».

Отрывок из Хелен Келлер, переворачивающий всю мысль

Самым сильным возражением стал не аргумент, а свидетельство. Комментатор вытащил описание Хелен Келлер её собственного разума до того, как у неё появился язык:

«Пока не пришёл мой учитель, я не знала, что я есть… Я не могу надеяться внятно описать то бессознательное и всё же сознательное время небытия. Я не знала, что вообще что-то знаю, что живу, действую или желаю. У меня не было ни воли, ни разума».

Если дословесный разум сообщает об отсутствии ощущения себя, то сознание может стоять ниже по течению от языка: ровно наоборот, чем в эссе. Читатель, назвавший себя, усилил это с другого конца истории, сославшись на Августина, который учил слова «оппортунистически, сообразно своим желаниям», и доказывая, что мысль «вводится в сознание» словом. Комментатор, ставящий собственные эксперименты, сказал, что проверяет, «не верно ли обратное — что сознание есть побочный продукт языка, с чем согласился бы Джейнс».

«В LLM нет слов» — техническая поправка

Другой фланг ударил по тому, как эссе рисует машину. Читатель, разобравший архитектуру, назвал описание «кучи слов» откровенно ошибочным: «В LLM нет слов. Это были обучающие данные, давно отброшенные», их заменили векторные эмбеддинги, которые группируют смыслы по связям. Другой нарисовал ту же картину: токены — это «человеческий интерфейс» по краям, обёрнутый вокруг большого вычисления в латентном пространстве в середине. Ещё один назвал редукционизм категориальной ошибкой: судить об LLM по предсказанию следующего слова — это «как делать такие заявления о биологии на основании аминокислот».

Контр-контраргумент: может, человек устроен так же

Тред не превратился в травлю потому, что самые жёсткие скептики повернули нож и против человеческой исключительности. visarga надавил на случай одичавших детей: человек, выросший без языка, не достигает того же уровня познания, поэтому «язык делает нечто, чего мы не заменим "сознанием"»: разум стоит ниже по течению от языка и математики. Другой читатель пошёл дальше: понятия и чувства не существуют независимо от выражения; «Если вы не можете описать или воспринять вещь, этой вещи нет в вашем мире». Эссе хотело найти уникально человеческую магию над словом. Вердикт треда, от одного из спокойных голосов: «Мы не можем определить сознание достаточно точно, чтобы делать такие заявления» — ни в ту, ни в другую сторону.