DeepSeek уверяет: его трюк с декодированием ускоряет генерацию на 57–78%. Тред спрашивает, кому вообще ещё продавать токены
DeepSeek опубликовал статью: модуль спекулятивного декодирования DSpark ускоряет генерацию на пользователя на 57–78% на том же железе. Ответы разделились между восхищением открытостью и мрачным вопросом, кто ещё сможет выйти на IPO, продавая инференс.
DeepSeek выложил статью про DSpark — модуль спекулятивного декодирования, прикрученный к моделям V4, с заявкой на 57–78% более быструю генерацию на пользователя при той же ёмкости железа. Веса в тот же день ушли на Hugging Face.
Самый острый голос в треде был не про математику. Это предупреждение: у продавцов токенов, нацелившихся на IPO, рынок «почти только из разработчиков», открытые модели идут на шаг позади, и ни один клиент не хвастается выросшей из-за ИИ прибылью. Ещё подметили: заголовок — это даже не название статьи, а спекулятивное декодирование известно с 2022 года.
Что на самом деле заявляет DSpark
Статья DeepSeek, выложенная как PDF на GitHub, описывает модуль спекулятивного декодирования: маленькая быстрая модель набрасывает токены, которые большая затем проверяет пачкой. Модуль встроен в линейку DeepSeek-V4. Главное число, которое цитируют в треде из аннотации: «При сопоставимой ёмкости системы DSpark даёт на 57–78% более быструю генерацию на пользователя». Веса сразу выложили как DeepSeek-V4-Flash-DSpark и DeepSeek-V4-Pro-DSpark, и один пользователь сообщил, что Pro-модель уже работает примерно за четверть цены конкурентов.
Одну деталь подметил внимательный читатель: заголовок подачи вводит в заблуждение. «Это первая строка аннотации, а не название статьи. Спекулятивное декодирование для инференса LLM опубликовали ещё в 2022 году», указывая на исходную работу на arXiv. DSpark — улучшение известной техники, а не новый жанр, и об этом стоит помнить, пока хайп не накрутился.
«Почему именно сейчас», к которому потянулись все
Повторяющееся прочтение в треде было экономическим, а не техническим: вот как DeepSeek держит низкие цены, не влезая в долги.
«Это лишь одна из многих статей, которые DeepSeek выпустил, чтобы отдавать модели по предельно дешёвым ценам, в отличие от остальных, кто берёт более $100 млрд долга, строя дата-центры ради того же». — комментатор с \~9,5k кармы
Разработчик показал собственный счёт как доказательство, что дешевизна реальна: месяц на DeepSeek-V4-Pro внутри агентного инструмента для кода, 1,5 миллиарда токенов, около $40. Другой связал статью со снижением цен, которое DeepSeek сделал неделями ранее: «видимо, это уже какое-то время в проде».
Часть, которая должна напугать лаборатории, метящие на IPO
Дальше тред перешёл к тому, кто всё это вообще продаёт. Самый прямой аргумент против бизнес-модели «продавца токенов»:
«Эти компании, что продают токены, SOTA или нет, и хотят выйти на IPO, попадают во всё большую задницу со временем… TAM, который состоит почти только из разработчиков, и ни один их клиент не хвастается выросшей благодаря ИИ прибылью. Боюсь, их момент для IPO уже прошёл». — основатель консалтинга по данным
Под ценовой войной тлеет более острая претензия: кто вообще ещё показывает свою работу.
«DeepSeek продолжает не только двигать границы, но и публиковать эти потрясающие статьи с объяснением, как они добились результата, — то, что американские лаборатории, к сожалению, больше не делают». — комментатор с \~1,9k кармы
Вот настоящий разворот. Ускорение на 57–78% — хороший инженерный результат; тред же видит в нём довод в другом споре: лаборатория, раздающая свои методы бесплатно, душит те, кому для выживания нужна оценка в триллион долларов.
Получайте такие разборы каждый день
Главные истории Hacker News — на email, в Telegram или RSS.
Арбитр Meta штрафовал информатора на $50 000 за каждую критику. Она ответила, час просидев на сцене молча
Сара Уинн-Уильямс высидела часовую панель на фестивале, не сказав ни слова, потому что частный арбитр Meta назначил цену в $50 000 за каждую критику компании. А потом Meta заявила, что само молчание было нарушением.