Department of Commerce

Министерство торговли отозвало экспортный контроль, из-за которого топовые модели Anthropic были недоступны несколько недель. В утёкшем письме, адресованном директору по вычислениям Anthropic, перечислены обязательства: заранее находить риски безопасности и сообщать правительству о любой злонамеренной активности.

Тред отреагировал скорее настороженно: читатели спрашивали, насколько урезанной вернётся модель и можно ли строить бизнес на американской frontier-модели, которая исчезает на два месяца по прихоти регулятора.

Дамьен Дефонтен разбирает сделку без выигрышной стороны: убрать шум — и останутся лишь огрубление и подавление, которые убивают точность для малых групп и меньшинств, а данные всё равно остаются уязвимыми.

Атака на восстановление, отмечает он, — это просто решение системы уравнений, и без шума она становится тривиальной. Основатель privacy-компании усложняет образ злодея: запуск 2020 года, по его словам, был настоящей внутренней катастрофой.