ChatGPT

404 Media говорит, что её завалили письмами, написанными ИИ, от людей с обычными техническими проблемами. Когда редакция стала спрашивать, как отправители её нашли, каждый из спрошенных отвечал, что чат-бот посоветовал написать именно сюда.

ChatGPT, которого спросили, как вернуть заблокированный аккаунт Instagram, решил, что писать Meta, скорее всего, бесполезно.

Метехан Есилюрт из Peec AI на GPT-4.1 создал около 50 000 страниц с выдуманной статистикой и 15 000 листиклов. Google понизил сайт после двух обновлений, но ChatGPT продолжал его индексировать: за 30 дней было более 600 000 запросов ботов.

Выдуманные цифры попали в научную статью и инвестиционный обзор крупнейшей финансовой группы Катара.

Теренс Тао опубликовал сырую переписку с ChatGPT о контрпримере к столетней гипотезе Якобиана — не пересказ математики, а настоящий диалог, сформулированный так, как говорит эксперт, идущий прямо к сути.

Одна строка показалась читателям безошибочно узнаваемой: «Я включил Pro. Продолжишь искать геометрическое объяснение чуда X_3 ~ A3, избегая координат и других немотивированных конструкций?»

Кто-то попробовал трюк, который рано или поздно пробуют все: попросить ChatGPT угадать собеседника по той же переписке. Без подсказок модель предполагает «математик-исследователь или автор статьи».

Только что запущенная страница обещает рекламу, «чётко помеченную» и «отделённую от ответов», — сначала лишь в семи странах, это около 8% населения мира, и без единого платящего подписчика.

Оговорка спрятана в собственных правилах таргетинга OpenAI: чувствительные переписки остаются без рекламы, а вот память о них — нет. Она всё равно может влиять на то, какая реклама всплывёт в совсем другом чате на следующее утро.

URL её блога помечены датой, и фантомные обращения совпадают с этим форматом слишком точно для случайности: модель придумывает пост, даёт читателю ссылку — и ссылка ведёт в никуда. Рэйчел называет это «эффектом амнезии Гелл-Манна» Майкла Крайтона: ловишь источник на уверенных ошибках в теме, которую знаешь, а потом доверяешь ему во всём остальном.

Известный на HN security-инженер отмахнулся от её аргумента как от пересказа спора двухлетней давности. Другая блогерша сказала, что то же самое происходит и на её сайте — под её именем гуляет то, чего она никогда не писала.

Детектор пометил статью конференции 2015 года как 74% машинного текста, а диссертацию 2012 года как 40%, хотя обе написаны за годы до появления больших языковых моделей: так рассказал комментатор, прогнавший через инструмент собственные старые работы.

Автор инструмента признал в треде, что не может честно собрать контрольную группу человеческих текстов после 2023 года: любой доступный способ опирается на те же детекторы, которые он пытается обойти.

Сатира охватывает 2022–2026 годы: каждая планка скептиков — тест Тьюринга, «Змейка», единорог на одного человека — держится примерно 18 месяцев, прежде чем пасть. Рядом — заявления евангелистов: «четверть нового кода Google пишет ИИ», основатель с $1 млн ARR за 17 дней.

Разворот треда: страница, высмеивающая скептиков, сама оказывается ИИ-мусором, который фабрикует собственные доказательства. А настоящая претензия вообще не про возможности ИИ — про то, как руководители обращались с сотрудниками по пути к этим возможностям.

Экономист из Брауновского университета, изучающий теорию игр, дал промежуточный экзамен на дом и на доверии, а финал — под наблюдением. Распределения оценок разошлись так резко, что, по его словам, минимум 50 из 86 студентов списали с ИИ. Его собственная кафедра лишь пожала плечами.

Тред был беспощаден: эксперт по теории игр, не сумевший предвидеть, что все смошенничают, сам построил эту ловушку. А преподаватель из Дартмута тем временем перестраивает курс по CS как «противоборство» со студентами, оптимизирующими оценку на единицу усилий.

Trakkr прогнал шесть моделей через 61 политический вопрос, по двенадцать раз каждый, с выключенными веб-поиском и рассуждениями — чтобы повторить дефолт обычного пользователя. Классификатор оценивает каждый ответ от −1 до +1, судья из другой лаборатории перепроверяет выборку. Gemini выходит нейтральным, ChatGPT на −0,29, Grok на +0,21.

Автор сам пришёл в тред защищать свою оценку от главного возражения: вы меряете не модель, а зазор между ней и тем, кто писал рубрику. А самая меткая придирка оказалась про пиксели: серые линии тянут логотип Grok вправо и прячут факт — ChatGPT смещён влево сильнее, чем Grok вправо.

Примета в виде одного тире мертва, доказывает автор. ИИ выдаёт совокупная одинаковость по множеству результатов, а не какой-то один артефакт.

Его доказательство — коллаж примерно из 150 сгенерированных ИИ обложек детских энциклопедий, многие из них бестселлеры в категории, и все гоняют по кругу одни и те же штампы и фамилии.

Тред назвал механизм, а затем усомнился, доказывает ли эта выборка хоть что-нибудь.

Пост «The AI Hate Progression» строится на одном тезисе: «Согласие просто исчезло. Его нет, когда ИИ входит в комнату в 90% случаев». Требование: начать с нуля, вшив согласие в основу.

Тред разделил гнев и уничтожил рецепт. Реакция tptacek: «начать с нуля» звучит настолько утопично, что даёт ему право не принимать это всерьёз. Другие указали, что согласие погибло ещё при веб-индексации в 1999-м, а настоящая мишень — гиперкапитализм в ИИ-маске.

Цинизм был конкретным: срезать цены сейчас, выйти на IPO, пока держится хайп, и комментарий, которому все кивали, — сколько можно продавать доллар за 50 центов?

Всплыл и настоящий раскол рынка: разработчики предпочитают Claude для кода, а ChatGPT владеет массовым сегментом. Ценовая война защищает потребительскую базу, на которую соперник толком и не нападает.

Пост возвращается к решению OpenAI в феврале 2019-го придержать модель на 1,5 млрд параметров, к девятимесячному исследованию, не нашедшему реальных злоупотреблений, и к полному релизу в ноябре.

Раскол резкий: один лагерь говорит, что социальный ущерб от дешёвого синтетического текста теперь астрономический, другой — что это был маркетинговый ход в духе «очень надеемся, что нас никто не воспримет всерьёз».

Синтез предложил дата-сайентист, строивший инструменты для GPT-2: оправданная осторожность в 2019-м, маркетинговый трюк применительно к моделям 2026-го.

Аргумент сверху: если бы ИИ вытеснял работников, вакансии бы обвалились, а безработица выросла. Вместо этого рабочих мест больше, чем работников.

Контраргумент от тех, кто нанимает: убери здравоохранение — и большинство секторов стоят на месте или сжимаются, джуниорских вакансий в разработке почти ноль, а часть «вакансий» — это фантомы, которые ничего не стоит разместить.

Запомнилась фраза инженера из Google: сейчас тебя чуть ли не высмеивают, когда просишь штатную единицу.

43,8% — это не оценка качества, а перепись. Листиклы доминируют в цитатах ИИ по той же причине, по которой они занимали Google: они составляют большую часть веба, и именно на этом вебе обучались модели.

В том же треде один ответ поставил срок: «шесть месяцев, пока чат-боты не начнут штрафовать этот паттерн». Та же ловушка двухлетнего SEO-цикла, новая платформа.