Current Affairs запретила ИИ-тексты и арт и вписала запрет в коллективный договор

Правило и арифметика за ним

Current Affairs заявляет, что в новом коллективном договоре запрещены опубликованные тексты, созданные ИИ, и ИИ-арт в качестве иллюстраций. Авторы могут использовать ИИ для исследований, художники для мелких задач, например подгонки цветов. Критерий прост: помогает ли инструмент работникам или заменяет их.

В статье утверждается, что проблема в структуре стимулов. Коммерческое издание подчиняется акционерам, а собственная иллюстрация показывает арифметику: 100 ИИ-постов за четыре минуты почти без затрат против 20 постов от авторов за 5 000 долларов. Значит, компания может потерять 60% читателей и всё равно остаться в плюсе. Примеры гонки: гендиректор Business Insider заявляет, что издание «полностью ставит на ИИ», Sports Illustrated публиковала материалы несуществующих журналистов, а Wall Street Journal напечатала колонку, написанную ИИ от имени Стэна Дракенмиллера. Журнал признаёт, что ИИ-контент может проскочить в присланные фрилансерами материалы.

Притча о лопатах и читатель, который решает читать

Один комментатор начал с притчи о двух соседях на стройке: пять рабочих с двумя машинами копают то, что пятьдесят сделали бы лопатами, или тысяча голыми руками. Мораль он выводил такую: «Удачи в попытках понять, писал ли текст ИИ или человек», а вся паника «скоро будет забыта».

Комментатор с 28 тысячами кармы ответил про распознавание: это журнал, а не соцсеть, авторы известны, а те, кто нарушает доверие, «отстраняются и заменяются другими». Он также усомнился, что никому не будет дела, ведь люди до сих пор покупают печатные книги. Короткое возражение дал комментатор, который разобрал притчу по частям:

«Ценность перемещения земли в том, что кто-то заплатил за яму. Не важно, как её выкопали. Ценность письменной речи в том, решат ли люди её прочитать.» — комментатор, ответивший на притчу о лопатах

Самое громкое возражение направлено на запрет, которого в политике нет

Основатель и гендиректор консалтинговой софтверной компании, которая ищет разработчиков, владеющих ИИ-агентами для кода, назвал политику «невероятно недальновидной». По его списку редакция всё ещё могла бы заниматься проверкой фактов, искать идеи в собственном архиве и разбирать выгрузки PDF по FOIA (закону о доступе к информации) и государственные датасеты.

Комментатор с 24 тысячами кармы ответил тремя предложениями, что этот список и так разрешён:

«Они не запрещали использовать ИИ. Они запретили появление в журнале текстов или изображений, созданных ИИ.» — комментатор с 24 тысячами кармы, прочитавший политику

Исследования как раз и разрешены. Основатель спорил с прочтением правила как страха за рабочие места, а поддерживал это тем, что оно появилось через коллективный договор.

От кражи обучающих данных до начальников, которые увольняют Джона Смита

Моральная посылка статьи в том, что модели, заменившие художников, обучались на работах тех же художников. Комментатор, пишущий о биткоине, спросил: «какая биологическая нейросеть не обучалась на материалах других художников, защищённых авторским правом?» Ответ комментатора с 16 тысячами кармы провёл границу по законности:

«Они не все пиратили в историческом, промышленном масштабе каждую крупицу творческих работ, которые видели в жизни. Вот в чём ключевое различие.» — комментатор с 16 тысячами кармы

Джереми Кун, инженер Google, который работает над гомоморфным шифрованием и пишет о математике и программировании, перевёл спор в другую плоскость. По его словам, никто не возражает против того, что любители рисуют «Звёздные войны, но в стиле Моне» для себя на стену. Вред — это момент, когда начальники увольняют Джона Смита, а потом спрашивают LLM о сотне статей в его стиле. В такой рамке вопрос о происхождении обучающих данных перестаёт что-либо значить для штата редакции.

Проверка: что останавливает и что считается помощью

Комментатор, работающий там, где ИИ используют почти для всего, сказал, что на его работе остаётся одно правило: если текст предназначен людям, его пишет человек. Ответ спросил, какие тексты компания производит для нечеловеческой аудитории, «кроме кода». А разработчик продукта «от идеи до опубликованной игры» задал вопрос о принуждении: это «джентльменское соглашение» или что-то реально обеспечиваемое, ведь любой может попросить модель подражать человеческому стилю.

Границы правила проявились в посте технического писателя, который учится писать художественную прозу. Он использует LLM, чтобы проверить, вызывает ли его текст эмоции, и спросил, разрешила бы Current Affairs такое. Ответ спросил, как LLM может выдать ему отзыв «с пониманием, большим, чем у него самого». Процитированные правила разрешают помощь с исследованиями и мелкую правку, запрещают сгенерированный текст и ничего не говорят об отзывах.

Ни одна из этих реплик не опровергла правило, которое основано на аудитории: текст, который будет читать человек, пишет человек. Его дешевле соблюдать по контракту с конкретными сотрудниками, чем доказать детектором. Поэтому пункт коллективного договора может оказаться практичнее любого сканера.