150 почти одинаковых ИИ-обложек детских книг доказывают: примета — это одинаковость

Примета — это распределение, а не отдельный артефакт

lcamtuf (Михал Залевски) выдвигает идущий против течения тезис в The 100,000 Whys of AI: сгенерированный ИИ текст и правда надёжно отличим от человеческого, просто не по отдельному слову, фразе или тире. Его выдаёт совокупная одинаковость.

Доказательство — это поиск. Наберите «100 000 почему» на Amazon (фраза позаимствована из китайской детской книги 1929 года), и всплывут примерно 150 почти одинаковых сгенерированных ИИ детских энциклопедий, многие из них бестселлеры в категории. Выдают повторяющиеся визуальные штампы: динозавры в левом верхнем углу, те же красно-белые ракеты, те же породы собак и фамилии авторов, перетасованные до комизма (великое множество «Bright»). Аргумент: когда много людей дают модели похожий промпт, она в большинстве случаев сходится к функционально идентичному результату, поэтому примета — это распределение манерности по корпусу, а не отдельная обложка. Вывод: доверяйте чутью — распознавание паттерна важнее криминалистической детали.

Тред сперва дал эффекту его настоящее имя:

«Раньше в генеративном ИИ для этого было слово: коллапс мод… он каждый раз генерирует одни и те же 0.0001% возможных человекоподобных ответов.» — комментатор, называющий режим отказа

Это подводит под «ощущение» эссе механизм. Но самое острое возражение ударило прямо по доказательству. Если обложки — это один издатель, раскручивающий серию, то стена одинаковости доказывает нечто куда меньшее:

«Я вижу там имена вроде Havilah Brooks или Celina Briar, которые намеренно переиспользуют одно название, чтобы создать серию… это толком не затрагивает базовую частоту переиспользования типовых названий среди энциклопедий.» — комментатор, изучивший имена авторов

Другой читатель вычленил ровно то допущение, на котором держится весь аргумент:

«чтобы этот пример имел вес, нужно было бы доказать, что мозаика книг — продукт разных людей, использующих ИИ.» — комментатор, указавший на несущее утверждение

А один ветеран предложил опровергаемую эвристику, которой эссе намеренно избегает:

«Тест на сгенерированную ИИ картинку — железнодорожные пути. Почему-то ни один генератор изображений не может изобразить рельсовое полотно хотя бы близко к правильному.» — давний инженер Джон Нэгл

Тред приходит к продуктивному напряжению. Чутьё автора верно (одинаковость — это подпись), но его витринный пример, возможно, худшее из возможных доказательств, потому что серия одного издателя и сотня независимых пользователей дают одну и ту же визуальную стену. Механизм здравый; а доказывает ли его именно этот коллаж, зависит от базовой частоты, которую никто в треде не смог предоставить.