Anthropic уверяет: тихий фильтр безопасности задевает 0,03% разработчиков. Тред нашёл ложные срабатывания на base64

Проблема не в отказе, а в молчании

Пост Джона Реди строит узкий технический аргумент про новые предохранители Fable 5 от Anthropic. Возражение не против видимых отказов: их разработчик замечает и обходит. А против того, что на запросах, которые Anthropic считывает как «разработку передовых LLM», модель можно тихо ослабить: правкой промпта, векторами управления или экономичным дообучением. Когда это случается, сообщения нет. И разработчик, глядя на плохой ответ, не различит три совсем разные ситуации: модель запуталась, задача и правда сложна или политика-классификатор тихо придушил ответ.

Реди спорит с трактовкой Anthropic, будто это затрагивает лишь 0,03% разработчиков: граница между «передовыми ИИ-исследованиями» и обычным бизнес-кодом настолько размыта, что радиус поражения куда шире погрешности округления. А пункт про конкурирующие модели он читает не как безопасность, а как ров: невидимые ограничения, которые заодно защищают коммерческие позиции Anthropic.

Проблема с base64

Тред не спорил с теорией. Он принёс пруфы.

«Попробовал сегодня — выдал ошибку кибербезопасности на реализации base64. Он так зарезан….» — разработчик с конкретным ложным срабатыванием

«Экспериментирую с Fable на совершенно безобидном личном приложении и постоянно упираюсь в защиту по темам «кибербезопасность и биология»» — ещё один, упёршийся в ту же стену

Самый меткий отчёт пришёл от того, кто использует Claude ровно так, как советует Anthropic, — для проверки его же вывода:

«Я много времени трачу, прося Opus 4.8 искать дыры безопасности в коде, который он сам написал … Fable не даёт мне починить проблемы безопасности, которые Opus 4.8 же и создал.» — Майк Кардвелл, инженер по инструментам безопасности

Даже тот, кто называет себя сторонником Anthropic, провёл черту:

«Тихое занижение возможностей недопустимо, особенно когда этим релизом они показали: у их фильтров безопасности ОГРОМНОЕ число ложных срабатываний.» — extr, давний болельщик Anthropic

«Теперь невиновность доказываете вы»

Структурная тревога — про бремя доказывания. Если модель умеет деградировать молча, любая неудачная сессия со стороны вендора становится неопровержимой.

«это их карта «выйти из тюрьмы бесплатно» … они просто скажут: ну, видимо, вы делали что-то, что запустило защиту от дистилляции … и теперь невиновность доказываете вы, а не они вашу вину.» — основатель Dollhouse Research

Одна аналогия выкристаллизовала, чем это отличается от обычной модерации контента:

«Представьте, что Github заявил бы: «если мы заметим, что вы строите конкурента Github, мы будем тихо ухудшать результаты ваших CI-экшенов, чтобы тесты иногда случайно падали».» — комментатор из прикладного ML

Контртезис: она откатывается, и так было всегда

Тревогу купили не все. Один защитник заметил: Fable откатывается к Opus 4.8, а не умирает совсем — модель слабее, но не пустота. Другие говорили, что тихое ограничение и есть обычное состояние любой корпоративной LLM, а грамотный инженер сам, своей экспертизой, может судить, решаема ли задача, не полагаясь на старательность модели. Но самый сильный контрфакт работает на Реди, а не против: если безобидный base64 и личные приложения задевают проволоку, «0,03%» тянут на себе слишком много. Цифры, которые вендор сообщает о собственном фильтре, — единственный бенчмарк, что тред не смог проверить сам.