Американский AI-чиновник обвинил китайскую лабораторию в дистилляции модели, которой нет и месяца

Майкл Кратсиос, технический директор Белого дома, написал, что Moonshot «дистиллировала Fable», создавая свою модель Kimi K3. Загвоздка в том, что Fable вышла всего три недели назад. Следующие двенадцать часов Hacker News считал даты, которые твит пропустил.

Вкратце

Технический директор правительства США написал в твиттере, что китайская Moonshot AI незаконно дистиллировала модель Fable от Anthropic, чтобы построить Kimi K3 — та вышла всего через три недели после самой Fable.

Тред восстановил хронологию: ограничения доступа к Fable сняли 1 июля, K3 вышла 16 июля. Комментаторы сочли это окно скорее натяжкой, чем воровством. Один голос из околоAI-индустрии назвал обвинение «чушью для давления на политиков»; модератор HN вмешался, чтобы разобраться с дискурсом, а не с фактами.

Исследователь безопасности: дистилляция реальна, но не требует драмы — «99% работы к этому моменту уже сделано».

Модели три недели от роду обвинили в том, что за три недели с неё сняли копию

Твит Майкла Кратсиоса с обвинением Moonshot в дистилляции Fable
Твит Майкла Кратсиоса с обвинением Moonshot в дистилляции Fable

Майкл Кратсиос, технический директор правительства США, написал, что его офис располагает «информацией о том, что Moonshot дистиллировала Fable для разработки K3», назвав модель Fable от Anthropic источником, а свежевыпущенную Kimi K3 от Moonshot — копией. К посту не приложили ни одного доказательства: обвинение прозвучало с официального государственного аккаунта, адресовано конкретной компании и содержало конкретный технический тезис.

Тред на Hacker News немедленно сделал то, чего не сделал твит: сверился с календарём. Ограничения доступа к Fable сняли примерно 1 июля; Kimi K3 вышла 16 июля. Значит, у Moonshot было около двух недель, чтобы предположительно вытащить из Fable достаточно сигнала для запуска конкурирующей передовой модели, прогнать стандартные проходы обучения с подкреплением и всё равно выпустить бенчмарки в срок, а эти сроки несколько комментаторов назвали неправдоподобными для настоящей дистилляции с нуля.

Модератор вмешался раньше фактов

Первый ответ пошёл по знакомому сценарию: «своим можно, чужим нельзя», указывая на хорошо задокументированную практику самих AI-лабораторий обучать модели на скачанных из сети текстах и книгах без разрешения. Модератор самого Hacker News вмешался в тред не для того, чтобы рассудить обвинение, а чтобы отметить: этот ответ — ровно та рефлекторная реплика, которую правила сайта не поощряют: «это уже стало совершенно клишированной реакцией, которая всплывает грибами каждый раз, когда упоминается слово «дистилляция»... нам нужны вдумчивые ответы». Показательный момент: модерация сработала на мета-уровне разговора, пока сам технический вопрос (было ли это на самом деле и важно ли это) так и остался без ответа от кого-то с прямым знанием ситуации.

Именно на этот технический вопрос тред и потратил настоящую работу. Инженер с опытом в безопасности разложил, во что реально обходится дистилляция: «Дистилляция — поверхностный шаг, не требующий много данных, это не «кража модели», как всем хотят внушить. 99% работы к этому моменту уже сделано». Его версия: K3, вероятно, действительно несёт отпечатки семейства Claude, ведь модель якобы повторяет собственные тестовые строки Anthropic для проверки prompt-injection, но это свидетельство использования модели как учителя на позднем этапе, а не полномасштабной кражи.

Ещё один скептический голос пошёл дальше, назвав обвинение политическим театром: «Это чушь для давления на политиков», написал он, сославшись на сотрудника OpenAI, который отдельно отверг саму идею, что модель уровня K3 можно обучить одной лишь дистилляцией, добавив, что знакомые ему исследователи описывают дистилляцию как «либо бесполезную, либо полезную только на этапе постобучения, чтобы показать «правильное» поведение», а не как короткий путь к конкурирующей передовой модели.

У законодательства об авторском праве тоже нет чёткого ответа

Второй фронт открылся вокруг вопроса, является ли «дистилляция» кражей в юридическом смысле вообще. Если Moonshot платила за доступ к API Fable и использовала выдачу модели, то, как заметил один комментатор, «если предположить, что так и было, значит, они за это заплатили, а это уже не «кража»» — тогда обвинение схлопывается до лицензионного спора, наряженного в вопрос национальных интересов. Другой указал, что у самой Anthropic хватает собственных скандалов вокруг неавторизованного обучения, что подрывает моральное превосходство, на которое намекал пост Кратсиоса.

Чего заметно не хватает во всём треде, так это кого-либо из Moonshot, Anthropic или офиса технического директора с реальными доказательствами. Обвинение осталось ровно таким, каким было опубликовано: официальное заявление, трёхнедельное окно, которое само по себе выглядит неправдоподобно сжатым, и аудитория Hacker News, готовая проверять хронологию куда охотнее, чем обе стороны были готовы предъявлять факты.

Получайте такие разборы каждый день

Главные истории Hacker News — на email, в Telegram или RSS.

Следующая новость · 2 из 18 Читать дальше
🚀Tech

Вирусный твит обвинил в провале пасс-ключей инженеров. Ответы указали на другое — блокировку устройств Big Tech

Твит Никиты Бира утверждал, что пасс-ключи провалились, потому что инженеры так и не поняли, как думают обычные люди. Шестьсот ответов спустя выяснилось: интереснее не психология, а то, что пасс-ключи можно тихо настроить так, чтобы они работали только с приложениями Google, Apple или Microsoft.

★ 486 · 💬 641 · twitter.com · 4 мин