OpenRouter

Автор разбирает, почему API-цены не удержатся: GLM-класс бьёт флагманов на coding-бенчмарках в десять раз дешевле, а подписки, по его версии, сильно субсидированы. Один из читателей переворачивает логику: может, дорогой API — это 3000%-я наценка, а не субсидия подписчикам?

Самый весомый ответ в треде — не прогноз, а факт: банки и страховщики уже сегодня держат критичные рабочие нагрузки на локальных моделях в собственных дата-центрах, а Claude с Codex работают только на жёстком поводке.

Инструмент работает как drop-in прокси поверх Anthropic, OpenAI, Gemini и открытых моделей: оценивает каждый запрос и маршрутизирует его, шифрует ключи, разворачивается локально. Обещание — минус 40–70% к счёту «просто сменой эндпоинта».

Структурное возражение: агентные сессии живут на кэшировании промптов с TTL пять минут, а чем больше разных моделей задействовано, тем больше промахов кэша. Схема «плановщик + исполнитель» из двух моделей уже даёт выигрыш без этой турбулентности.

Один сервис заказа такси попытался спланировать годовой ИИ-бюджет заранее и исчерпал его за четыре месяца. Выход нашли такой: личный лимит $1 500 в месяц на инструменты с искусственным интеллектом.

Скрытая проблема, которую никто не закладывал в расчёты: ни один из вендоров моделей пока не работает в прибыль, а значит, нынешние счета уже субсидируются. Потолок, в который упираются компании, — это ещё дешёвый вариант.

Статистика о том, что китайские модели «обогнали» американские по потреблению токенов, основана на данных одного агрегатора, а не на трафике реальных API.

OpenRouter запустил одиннадцать моделей в королевскую битву из 30 матчей — с машинами, гранатами и сжимающейся зоной. Grok 4.1 Fast взял 13 побед по $0,97 каждая. Claude Sonnet 4.6 победил 5 раз, вёл дневник самокритики и упорно предлагал сотрудничать, даже когда проигрывал.

Автор называет это «налогом на безопасность»: модель, обученную быть полезной, оказывается худшим убийцей — и именно её вы бы хотели видеть управляющей чем-либо в реальном мире. Тред же сперва заметил другое: сам пост за версту отдаёт текстом, написанным LLM.

Быстрая проверка одного инженера дала ответ без прикрас: примерно в 7 раз медленнее и в 4 раза дороже прямого вызова одной фронтирной модели — Fusion попадает в категорию «использовать только когда очень нужно».

Главное возражение пришло от того, кто уже выпустил точно такое же несколько месяцев назад: просьба к одной модели оценить ответ другой измеряет лишь, насколько он похож на то, что судья сказал бы сам. Это температура, одетая в костюм панельной дискуссии.

Один читатель крутит локальные Gemma и Qwen на машине без видеокарты и говорит, что много кодит с ИИ почти бесплатно. Другой за месяц сдал клиентам три приложения, потратив 15 центов на API DeepSeek.

Реальная экономика, которую вскрыл тред, проще: нет смысла гонять локальные модели, пока венчур субсидирует подписки на фронтир до абсурдных лимитов по токенам. А «разоряются» в основном сами — на долгих неконтролируемых сессиях.