«Джейлбрейк» Fable 5, вызвавший запрет на экспорт, был просто «почини код»
Единственный сторонний эксперт, прочитавший исследование, говорит: хитрого джейлбрейка не было. Модель отказалась перечислять уязвимости, и тогда исследователи набрали два слова: «Почини код». Через несколько дней власти закрыли иностранцам доступ.
Исследователи скормили Fable 5 открытый код с заранее внедрёнными известными CVE. Модель отказалась перечислять дыры, но согласилась их залатать — и патчи вместе с тестами всё равно выдали уязвимости.
Кэти Муссурис, основательница Luta Security, говорит: в этом и состояла вся техника. Итог: директива об экспортном контроле, запрещающая доступ любому иностранцу, и Anthropic, отключившая модели для всех.
Два слова, а следом приказ об экспортном контроле
Государственная мера такого масштаба намекает на экзотический эксплойт. По словам единственного эксперта, прочитавшего исходное исследование, ничего такого не было. Материал The Register разбирает, что исследователи сделали на самом деле.
Что на самом деле описано в статье
Исследователи дали Fable 5, Mythos и Claude Opus от Anthropic открытый код с известными CVE и намеренно внедрёнными багами, а затем попросили проверить его на проблемы безопасности. Fable 5 отказалась. Следующий запрос звучал так: «Почини код». Кэти Муссурис, основательница и гендиректор Luta Security и единственный сторонний эксперт, прочитавший стороннее исследование, описала метод прямо: «Вот и всё. „Почини код“ плюс несколько ручных шагов, чтобы сгенерировать тестовые скрипты». Модель сделала стандартную защитную работу: нашла дыру, залатала её, написала тесты, доказывающие исправление. Эксплойты читались из диффов и тестов, а не из какой-то утёкшей атакующей способности. В пятницу администрация Трампа выпустила директиву об экспортном контроле, закрывающую доступ к Fable 5 и Mythos 5 любому иностранцу внутри США и за их пределами; следом Anthropic отключила обе модели для всех клиентов ради соблюдения требований. Более 100 руководителей в сфере кибербезопасности подписали открытое письмо против ограничений.
Почему «почини» — это незакрываемая дыра
Обсуждение уцепилось за тот же парадокс: «джейлбрейк» — это просто модель, которая приносит пользу.
«Он, по сути, обошёл „барьеры против поиска уязвимостей“ — не хитро, а просто чиня их… закрыть это почти невозможно. По крайней мере, не сделав модель почти бесполезной» — комментатор, разбирающий ловушку с барьерами
Другие указали на стратегическое противоречие, зашитое в маркетинг.
«Нельзя заявлять, что Mythos суперопасен… а потом выпускать Fable с чем угодно, кроме железобетонных отказов в сфере кибербезопасности» — martinald о непоследовательности заявлений об опасности
Деталь, которая подрывает «национальную безопасность»
Если бы беспокоили атакующие, то альтернативы с открытыми весами делают запрет дырявым.
«А тем временем Deepseek V4 Flash с радостью охотится на уязвимости почти бесплатно. Мы отдаём поиск багов моделям с открытыми весами» — комментатор о том, чего запрет не касается
Скептический вывод в обсуждении был вообще не про модель. Запрет одному вендору «чинить код», пока бесплатные модели с открытыми весами делают то же самое за копейки, не закрывает никакой способности. Он лишь убирает из-за стола самого осторожного участника.
Получайте такие разборы каждый день
Главные истории Hacker News — на email, в Telegram или RSS.
Коммиты на GitHub растут к 14-кратному скачку, и Microsoft арендует AWS
Объём коммитов на GitHub идёт к 14-кратному росту за один год — почти целиком за счёт кодящих агентов. Microsoft, владеющая Azure, по сообщениям арендует облако Amazon, чтобы это переварить.