Письмо Белого дома заблокировало Mythos и для самого АНБ
Директива, призванная ограничить мощный инструмент аудита кода, зашла так широко, что доступ потеряли даже сотрудники Anthropic. Агентство, которое больше всего хотело эту модель, попало под тот же запрет.
Mythos взломал почти все засекреченные системы АНБ за часы, а не недели. Засекреченный контракт на использование модели для поиска уязвимостей так и не был подписан — и тут одно правительственное письмо отрезало всех разом.
Тред читает произошедшее как собственный гол: не захват чужой технологии, а самоустранение. Инженеры возражают против паники: опасность Mythos, по их словам, не в весах модели, а в инструментальной обвязке вокруг неё.
Письмо, которое отрезало собственного заказчика
Репортаж посвящён Mythos — модели Anthropic, описанной в почти апокалиптических терминах применительно к наступательной безопасности. Одна цитата из статьи, которую привели в треде, задаёт тон: Mythos «взломал почти все наши засекреченные системы — не за недели, а за часы». Белый дом и спецслужбы продвигали засекреченный контракт, который позволил бы АНБ использовать технологию для разведывательного анализа и поиска новых уязвимостей. Контракт так и не был подписан, а часть чиновников Пентагона хотела найти альтернативу среди других моделей.
Поворот сюжета: правительство выпустило директиву в адрес Anthropic, которая по широте формулировок лишила доступа всех — вплоть до собственных сотрудников компании. Агентство, больше всего желавшее получить Mythos, оказалось заблокировано наравне с остальным миром.
Тред читает произошедшее как собственный гол, а не как захват
Главное возражение: государство могло просто потребовать передачи модели. Ответ прозвучал быстро — со ссылкой на правовой инструмент и политическую цену его применения.
«Закон об оборонном производстве даёт такие полномочия только президенту...» — венчурный инвестор в акционерный капитал, ссылающийся на Defense Production Act
Это переводит весь эпизод в плоскость процедурных решений. Один комментатор сформулировал абсурд напрямую.
«АНБ не обязано было так поступать, если бы администрация потратила 30 секунд на то, чтобы обдумать своё письмо. Это тупой собственный гол.» — давний пользователь о радиусе поражения директивы
Другие оспорили саму предпосылку о том, что потеря весов модели что-то меняет. Аргумент: модель сама по себе — не оружие.
«Успех Mythos обеспечивался не весами модели, а инструментальной обвязкой и набором доступных инструментов.» — комментатор о том, что делает инструмент опасным
Обсуждение продолжилось в разрезе того, как именно аудиторский инструмент взламывает системы, — скептики указывали на скромную подтверждённую находку с curl как доказательство хайпа.
«Главная сила Mythos — в нахождении нескольких уязвимостей и их объединении в цепочку, которая ломает систему целиком.» — бывший основатель ML-компании, экс-CTO по вопросам AI в политике
Под всем этим лежит противоречие, с которым живут обе стороны: правительство называет модель риском для цепочки поставок и одновременно угрожает изъять её через DPA, а вендор называет её ядерным оружием и при этом продаёт коммерчески.
«Модель — это одновременно риск для цепочки поставок и повод применить к вам DPA, если вы не отдадите её сами.» — комментатор, описывающий этот парадокс
Практический вывод — не в том, у кого модель. Политика использования, написанная ради ограничения возможностей, способна отозвать их быстрее и неизбирательнее, чем любой внешний противник.
Получайте такие разборы каждый день
Главные истории Hacker News — на email, в Telegram или RSS.
Кармак: «Я давил на всех слишком сильно» — и Quake был слишком амбициозным
Спустя тридцать лет Джон Кармак отвечает на обвинения Сэнди Питерсена в том, что Quake опустошил id Software, и соглашается с большинством из них. Последние два слова: «Sorry, Sandy».