HN-тред о первом «ой, ёлки» при встрече с генеративным ИИ

Тред, где «ой, ёлки» работает в обе стороны

Ask HN: What was your «oh shit» moment with GenAI? — такой вопрос должен был породить тысячу однотипных восхищённых историй. Вместо этого получилось два треда в одном. Одни описывали момент, когда модель сделала что-то, казавшееся им невозможным. Другие — момент, когда они поняли, чего это будет стоить: им самим, их студентам, их мастерству. Более 1100 ответов в треде стоит прочитать именно потому, что одна и та же фраза несёт страх и восторг в примерно равных пропорциях.

Поток необычно достоверен благодаря тому, кто откликнулся. Ответил модератор HN dang. Ответил Simon Willison. Ответили эпидемиологи, отставные железячники и люди, создававшие продакшн-системы на LLM ещё до того, как у этой категории появилось название.

Моменты волшебства: CSV, автодом, пруд с карпами

Самая конкретная история «просто сработало» пришла от человека, которому HN доверяет в этой теме.

«ChatGPT Code Interpreter примерно в марте 2023-го. Я загрузил CSV (с полицейскими инцидентами в Сан-Франциско) и наблюдал, как он загружает данные в Pandas, строит визуализации, а потом экспортирует их в SQLite… Я пишу ПО для журналистов данных, и этот новый инструмент, судя по всему, умел делать всё то же самое — просто как незапланированный побочный эффект.» — Simon Willison, создатель Datasette и сооснователь Django

Формулировка Willison — «задним умом понимаю, что это было моё первое знакомство с coding agent, но тогда у категории ещё не было названия» — лучшая сквозная нить треда: потрясение приходит, когда возможность появляется раньше словаря для неё.

Самая физически ошеломляющая история была про железо, а не про ПО:

«Claude недавно декомпилировал прошивку моего автодома, задокументировал все CAN-интерфейсы, а потом запрограммировал модуль ESP32 для общения со встроенными системами фургона: питание, климат, освещение, баки. Такая интеграция встроенных систем полностью за пределами моих компетенций.» — Solution Architect, использующий Claude ежедневно

Другие истории были скромнее, но не менее показательны — насколько инструменты растворяют усилие. Локальная модель проиндексировала 250 000 файлов документации и кода и собрала рабочий мод для игры меньше чем за четыре часа — хотя сам автор безуспешно делал это две недели: «я до сих пор морально не восстановился». Полустёршийся ярлык на насосе сфотографировали, сузили до двух артикулов, а потом решили вопрос, измерив нужный габарит. И лучше всего сдвиг в производительности сформулировал модератор:

«Наблюдать, как он за секунды делает анализ лог-файлов, который занял бы у меня часы (правка: дни), и который я поэтому никогда не стал бы делать вообще… он сделал то, что иначе не случилось бы никогда — не потому что это невозможно, а потому что затраты времени и усилий были запретительными.» — dang, модератор HN

Моменты тревоги: замена, деградация, диссертация

Другая половина треда использовала те же слова, чтобы описать страх.

«Когда нам пришлось честно обсудить, ставить ли двойку студенту, который явно использовал LLM для [части] своей диссертации.» — академик, строящий симуляционные модели инфекционных болезней

«Один из наших SaaS-провайдеров запустил версию с AI-агентом, и та умеет следовать инструкциям и выполнять задачи… на уровне ниже среднего сотрудника. Когда я это попробовал, накатило тяжёлое чувство: огромное количество команд и людей окажутся лишними.» — инженер, оценивающий SaaS-решение с агентом

Самая острая история тревоги была вовсе не о рабочих местах — а о людях, которые больше не смогут становиться настоящими профессионалами:

«Код-ревью перестало быть образовательной возможностью… «Ой» случилось, когда я осознал, насколько сильно это подрывает профессиональный рост людей. Они никогда не станут лучше в своей работе, чем они есть сейчас.» — инженер, впервые заметивший это на деградировавших код-ревью

И нетехническое наблюдение, которое многие назвали своим самым тихим страхом:

«Нетехнические знакомые начинают принимать ответы ИИ на свои вопросы за стопроцентный факт.» — давний комментатор HN

Несогласные: «ой, ёлки» — и сразу «нет, всё как прежде»

Самый ценный вклад в тред внесли те, кто отказался принять посылку о едином откровенном моменте.

«Мне кажется, в этом цикле хайпа у меня практически ежедневно бывает момент «ой, ёлки», а сразу за ним — «нет, всё примерно как всегда». Честно говоря, это изматывает.» — overgard, скептик с высокой кармой

Один участник перевернул весь вопрос: его «ой, ёлки» стало моментом разочарования, а не восхищения:

«Когда ни одна из моделей — SOTA или нет — не смогла ответить ни на один по-настоящему интересный вопрос. Всё, что они умели, — пересказывать сказанное раньше… «Ой, ёлки… при всех колоссальных усилиях и ресурсах это всё равно не так полезно». Честно — я этого не ожидал.» — независимый разработчик и исследователь

Отставной железячник упёрся в стену в своей области — модель умела производить только «CRUD-приложения и подобное, то, что тысячи раз видела в обучающих данных», и оказалась бесполезной для его BitGrid-симуляторов. А самое тихое и уничижающее «ой, ёлки» было о распространении, а не о возможностях:

«Когда это начали насильно встраивать в инструменты, которыми я уже пользовался нехотя.» — разработчик, реагирующий на ИИ, прикрученный к существующим инструментам

Что этот раскол на самом деле говорит нам

Тред — почти идеальный естественный эксперимент: один и тот же вопрос, одна и та же аудитория — и ответы раздваиваются не по тому, впечатляет ли технология (почти все это признают), а по тому, что каждый стоит приобрести или потерять. Журналист данных видит инструмент, бесплатно делающий рутинную часть его работы; профессор видит конец возможности подтвердить, что студент чему-то научился; SaaS-аналитик видит сжимающуюся оргструктуру. Оптимисты описывают возможности; пессимисты — последствия. Это не разногласие о фактах. Это разница между наблюдением за тем, как машина делает что-то, и наблюдением за тем, как она делает твоё что-то.

Полезный вывод не «ИИ — это удивительно» и не «ИИ — это хайп». Он в том, что одна и та же демонстрация неизменно вызывает обе реакции в одном зале — именно поэтому каждый AI-тред на этом сайте немедленно раскалывается на два лагеря, убеждённых, что другая сторона сошла с ума.