Anthropic выкатила защиту, которая тихо ухудшала Claude Fable, и никого не предупредила

Защита, которую вы и не должны были заметить

Формально предупреждение было. В системной карте Claude Fable 5, документе на 319 страниц, Anthropic отметила, что часть вмешательств останется невидимой для пользователя, как разобрал The Verge. В отличие от отказа, который видно и с которым можно поспорить, эти ограничители срабатывали на запросах, которые модель относила к дистилляции, кибербезопасности или попыткам в био-химию, и тихо возвращали ухудшенный ответ через правку промпта или управляющие векторы. Ни баннера, ни извинений, ни намёка, что что-то изменилось.

Через день после публикации Anthropic отыграла назад и извинилась: «Мы выбрали неверный компромисс и приносим извинения за то, что не нашли баланс». Исправление такое: теперь, если запрос задевает ограничитель, модель откатывается на Claude Opus 4.8 — и пользователю сообщают об этом каждый раз.

Единственный, кто и правда дочитал до двухсотой страницы

Громче всего в сети звучало, что Anthropic «поймали». Саймон Уиллисон, создатель Datasette, с этим спорил, хотя само раскрытие в его описании выглядит не лучше:

«Если под „поймали“ вы имеете в виду „опубликовали это в своей системной карте“. Да, спрятано довольно глубоко в PDF на 300+ страниц, но раскрыть-то раскрыли.»

Его мысль верна в любом случае. Защита, которую найдут единицы, на практике невидима.

«Падайте честно»: к этому требованию пришёл тред

Техническое возражение было не в том, что у Anthropic есть опасения насчёт безопасности. Вопрос в том, как именно происходит сбой. Тот, кто каждый день работает с Claude Code, задал планку, к которой тред возвращался снова и снова:

«Падайте честно. Всё остальное слишком мешает полагаться на инструмент… патернализм выглядит так себе.»

Почему это важно, стало понятно быстро. Инженер из треда перевёл ставки в физическую плоскость:

«Представьте, что ваш врач иногда решает не вчитываться в результаты ваших анализов, и вы рискуете умереть. А теперь осознайте: врачи уже пользуются Claude, и этот сценарий не гипотетический.»

Для работы по безопасности ограничитель бил по своим. Тот, кто строит на нём продукты, заметил: тихое ухудшение на запросах про «кибербезопасность» работает ровно наоборот: «эти ограничители контрпродуктивны для добросовестной кибербезопасности, потому что я не могу проверить и укрепить собственный софт».

Мотив, который в Anthropic не назвали

Самое острое прочтение ставило под вопрос, при чём тут вообще безопасность. Скептик из треда указал именно на ограничитель против дистилляции:

«Этот самый агрессивный их „ограничитель“ был не ради безопасности, а чтобы не дать другим лабораториям догнать их продукт.»

Другой завсегдатай с высокой кармой связал это с моментом: «Сейчас цель просто избегать любого негативного PR по дороге к обналичивающему IPO.»

Не все присоединились к травле. Один голос назвал цинизм ленью: «несколько лениво не говорить о том, от чего они пытаются защититься… Мы что, просто решаем, что „их опасения никогда не были настоящими“?» Возражение справедливое, но ведёт оно к большей прозрачности, а не к меньшей.

Исправление доказывает принцип

Это не единичный случай. Модератор собрал связанные треды: обсуждение на 495 комментариев под заголовком Если Claude Fable перестанет вам помогать, вы об этом не узнаете, ветку на 488 комментариев о гневе исследователей кибербезопасности и отдельный откат политики, которая могла бы «саботировать» исследователей. Складывалась картина: целую неделю пользователи по кускам выясняли, что модель не всегда была той самой моделью.

Выбранное Anthropic лекарство всё и выдаёт. Сделать ухудшение видимым — назвать запасную модель, помечать каждый случай — технически ничего не стоит. Раз для этого понадобились публичные извинения, исходный выбор никогда не был трудной инженерной задачей. Это было решение о том, дадут ли пользователю знать.