Манифест требует победы открытого ИИ — тред не может договориться, что такое «открытый»

Одностраничный манифест Ахмада Османа предупреждает о «подписочной экономике для познания». В тот же день, когда директива США закрыла доступ к лучшей закрытой модели, HN спорил о том, возможен ли «открытый исходный код ИИ» как таковой.

Вкратце

Тезис манифеста: если интеллект станет тем, что можно только арендовать у нескольких закрытых институтов, вы теряете не просто свободу программного обеспечения, но операционную свободу. Нужна возможность самостоятельно изучать, исправлять, проверять и запускать модели.

Загвоздка треда: модель, которую нельзя запустить на собственном компьютере, не открытая по классическому определению — и никто не может сказать, кто финансирует открытое обучение на фронтире, когда один прогон стоит целое состояние.

Манифест, появившийся в день отключения лучшей модели

Open source AI must win
Open source AI must win

«Open source AI must win» — одностраничный манифест Ахмада Османа. Никаких сравнительных тестов, никаких цифр; аргумент о власти. Тезис: «Если интеллект станет тем, что люди могут только арендовать у нескольких закрытых институтов, общество теряет не просто свободу программного обеспечения. Оно теряет операционную свободу». Осман рассматривает ИИ как цивилизационную инфраструктуру, охватывающую труд, образование и науку, и настаивает: общество должно сохранить возможность «изучать, строить, чинить, развёртывать, проверять, адаптировать, преподавать, сохранять и запускать интеллектуальные системы» без чьего-либо разрешения. Предпочтительный путь — «американский потенциал при глобальных открытых стандартах», а не зависимость от проприетарных платформ.

Fable в манифесте не упоминается. Не нужно было. Появившись в тот же день, когда директива США закрыла публичный доступ к сильнейшей закрытой модели, манифест читался в треде как пророчество с идеальным тайммингом.

«Что такое вообще Open Source AI?»

Самый острый отпор был не против цели. Его направили против слов. Разработчик и CTO-on-demand заявил, что сам заголовок бессвязен по классическому определению.

«Для меня Open Source, как и свободное программное обеспечение, — это то, что я могу запустить на своём компьютере. Любая AI-система, работающая на компьютере, которым я не управляю, по моему определению не является Open Source. Как же тогда Open Source AI может победить? Она даже конкурировать не может.» — разработчик и CTO-on-demand

Другие сказали: манифест смешивает два понятия и должен выбрать точное.

«Не хочу быть занудой, но правильный термин — Open Weight LLM. И я бы сказал, что он уже побеждает. Многие открытые модели уже очень конкурентоспособны по сравнению с закрытыми — при доле затрат.» — комментатор, проводящий различие между открытыми весами и открытым кодом

Один читатель предложил выйти из оси «открытые веса против закрытого API» полностью.

«прикладной ИИ нуждается также в открытой инфраструктуре вокруг модели... познание, арендуемое у нескольких институтов, с доступом, меняющимся по воле политики, геополитики и платформенных стимулов вроде рекламы» — комментатор, выходящий за рамки спора о весах и API

Проблема финансирования, которую никто не решил

Главное возражение — деньги. Обучение на фронтире стоит целое состояние, а у открытых проектов нет очевидного спонсора, кроме венчурного фонда, охотящегося за прибылью, или государства, охотящегося за контролем. Новость о Fable заострила вопрос до прямой ставки.

«Anthropic только что подрубила себя, а возможно, OpenAI и Google тоже своей FUD-стратегией, из-за которой Fable закрыли власти. Но на китайских провайдеров это не влияет.» — комментатор, связывающий блокировку с открывающейся возможностью для open source

Голос, который не хотел победы открытого ИИ

Не все в треде радовались. Учёный в области нейровизуализации изложил неудобный тезис: полная демократизация самых мощных моделей не безопасна автоматически.

«Демократизация ИИ может быть благом до определённой точки, но экзистенциальные угрозы тоже бывают реальными, а демократизация экзистенциальных угроз — не та политика, при которой можно выжить.» — учёный в области нейровизуализации

Почему лозунг продолжает спотыкаться о самого себя

Сила манифеста — в формулировке: не функции, а кто держит рубильник. Слабость — та самая, которую раз за разом обнаруживал тред: слово «открытый» тянет сразу две упряжки. Открытые веса, которые можно скачать, — это не то же самое, что программное обеспечение, которое можно полностью запустить, изучить и которым можно владеть. Именно в этом зазоре директива правительства или тарифицируемый API всё ещё способны дотянуться. Блокировка Fable придала лозунгу срочность. Она не ответила на вопрос, кто платит за прогон, — и где взять железо, чтобы сделать это самому.

Получайте такие разборы каждый день

Главные истории Hacker News — на email, в Telegram или RSS.

Следующая новость · 20 из 20 Читать дальше
🔥Hot Discussion

Просьба починить код теперь квалифицируется как угроза национальной безопасности

12 июня в 17:21 по восточному времени Anthropic получила предписание: ни один иностранец не может пользоваться Fable 5 и Mythos 5. Поводом стало то, что кто-то попросил модель прочитать кодовую базу и найти уязвимости.

★ 2.6K · 💬 1834 · anthropic.com · 7 мин