On-device API Apple теперь пропускает Claude в облако через тот же вызов

Apple выпустила Swift API для локальной модели. Anthropic выпустила пакет, позволяющий Claude отвечать через тот же самый API. Тот же вызов LanguageModelSession — только теперь слова покидают телефон.

Вкратце

Пишешь приложение один раз против протокола Foundation Models, затем выбираешь при каждой сессии: маленькая локальная модель или Claude в облаке. Запросы идут напрямую из приложения в Anthropic — Apple не стоит на пути.

Тред заметил подмену мгновенно. Один из читателей, тестирующих открытые модели, указал: Apple ограничивает локальные модели примерно 3 млрд параметров, так что вызов фронтирной облачной модели через «on-device» API — это, мягко говоря, гибрид.

Один API — два принципиально разных места назначения для запроса

Документация Claude для Apple Foundation Models
Документация Claude для Apple Foundation Models

Фреймворк Foundation Models от Apple (появится в iOS 27 / macOS 27) — стандартный Swift-способ вызывать ИИ на платформах Apple: тот самый API LanguageModelSession, который Apple использует для собственной небольшой локальной модели. Новый пакет Anthropic ClaudeForFoundationModels реализует протокол модели этого фреймворка для Claude — и те же методы respond(to:), потоковая генерация, структурированный вывод и вызовы инструментов работают независимо от того, направляете ли вы сессию на локальную модель Apple или на Claude.

Один из читателей восстановил суть из документации: пишешь против протокола один раз, затем меняешь конструктор модели — LanguageModelSession(model: SystemLanguageModel.default) для локального варианта или ClaudeLanguageModel(...) для облачного. Ключевая строка прямо из документации: «Запросы идут напрямую из вашего приложения в Claude API; Apple не участвует в цепочке запросов и не видит промптов или ответов.» Биллинг — от разработчика приложения к Anthropic, минуя Apple.

«Это вообще on-device? Apple ограничивает локальные модели примерно 3 млрд параметров»

Именно эта формулировка вызвала в треде сопротивление.

«Apple ограничивает локальные модели примерно 3 млрд параметров — последний раз, когда я смотрел, — а Claude значительно больше. Значит, либо здесь какой-то гибрид… либо это по сути Claude SDK в одёжке FM.» — читатель, тестирующий открытые модели

По документации он прав: пакет нацелен на серверную часть API фреймворка. «On-device» — это поверхность API, а не место вычислений.

Настоящая история: кто владеет слоем абстракции

Возник и более стратегический взгляд. Apple «прямо на горячем пути туда, куда разработчики будут безоглядно тащить ИИ в экосистему», утверждал один комментатор с высокой кармой, поэтому чистый API, на котором строятся вендоры вроде Anthropic — с биллингом напрямую от Anthropic разработчику — это расчётливо: Apple задаёт стандарт, не неся затрат на инференс. Другой воспринял это как намеренный онбординг: приучить разработчиков к абстракции Apple сейчас, чтобы будущая модель Apple стала заменой в одну строчку.

Затем практики нашли ловушку. Документация предупреждает: API-ключ, зашитый в приложение, можно извлечь из бинарника; тред высказался прямо — «зачем вообще кто-то стал бы шипить ключи Claude вот так» и «где хранится api ключ?». Официальный ответ — производственный прокси (.proxied), чтобы приложение не включало ключ, но быстрый старт по умолчанию отдаёт ключ прямо клиенту.

Для iOS-разработчика выбор теперь — один аргумент

Поменялось не модель — поменялся шов. Apple превратила «какой ИИ отвечает на этот запрос» в один параметр model:, и Anthropic первой подключила к этому слоту фронтирную модель. Удобство реальное, и ловушка тоже реальная: единый API скрывает разницу между «остаётся на телефоне, работает офлайн, бесплатно» и «покидает устройство, стоит денег за вызов, требует прокси». Интересный вопрос — кто займёт этот слот следующим и заполнит ли его сама Apple.

Получайте такие разборы каждый день

Главные истории Hacker News — на email, в Telegram или RSS.

Следующая новость · 6 из 22 Читать дальше
📈Biz

Fox News покупает Roku за 22 млрд долларов: владельцы приставок ищут замену

Fox платит $160 за акцию — около 22 млрд долларов — за приставку на 100 миллионах телевизоров и, что важнее, за данные о просмотрах от первого лица. Тред не обсуждает оценку. Он обменивается инструкциями, как перейти на что-нибудь другое.

★ 275 · 💬 369 · foxcorporation.com · 3 мин