«Зверь»-чип Nvidia для ПК — это прошлогодний кремний DGX Spark, и эксперты в треде это подтверждают

Твит становится «переломным моментом»

Источник — один-единственный пост компьютерного учёного Дэниела Лемира, прославляющего анонсированную Nvidia Windows-систему — GB10 / «RTX Spark» — как «зверя» и «переломный момент», исходя из тезиса, что пул объединённой памяти на 128 ГБ (подход Apple) наконец-то достаточен, чтобы гонять солидные ИИ-модели локально. Твит вынес тему на главную HN; оригинал — на X (для незалогиненных страница отдаёт 402).

Проблема, как быстро установил тред, в том, что таблица характеристик не соответствует эпитетам.

Те, кто строит GPU, считают цифры

«Не понимаю, в чём он „зверь“ хоть в чём-то. У него 300 ГБ/с пропускной способности памяти, едва выше AMD Strix Halo (256 ГБ/с) при тех же 128 ГБ ОЗУ, и меньше половины пропускной способности M5 Max 128 ГБ (614 ГБ/с)». — Макс, бывший инженер Meta, работавший над HHVM

Для ИИ-инференса — ровно того, ради чего вообще нужен большой пул памяти — узкое место именно в пропускной способности, а по этой оси чип где-то в середнячках. Другой комментатор указал, что он даже не новый:

«Чувак вдруг узнал о чипе, о котором остальная индустрия давно в курсе … Будто DGX Spark был переломным моментом? Да ну, он по большей части стал огромным разочарованием. Переоценённый ноутбук от nvidia ни на йоту не изменит уравнение». — скептик, опознавший в нём тот же кремний DGX Spark

«Объединённая память» — это компромисс, а не магия

Глубже в треде идёт техника: объединённая память звучит как чистый апгрейд, но инженеры объяснили, почему это не так.

«DRAM, оптимизированная под CPU, выглядит очень иначе, чем DRAM, оптимизированная под GPU. С архитектурой объединённой памяти вы оставляете кучу производительности на столе. В каких-то ситуациях это оправдано, но это не серебряная пуля». — отставной GPU-архитектор

CPU-нагрузкам нужна низкая задержка; GPU-нагрузкам — высокая пропускная способность; один пул не может быть оптимален для обоих. И по-настоящему сложна тут не железяка — а софт:

«Я геймдев. Для всех, кто это читает: дело не в том, что мы ленивые, а в том, что это реально сложно делать. Одно из крупнейших различий между текущим поколением консолей и текущим поколением ПК — объединённая память». — инженер-программист с десятилетием в игровой индустрии

Настоящая история: цикл хайпа, а не скачок в железе

Достойная машина тут есть — 128 ГБ в потребительском Windows-боксе полезны для локального ИИ, и Microsoft явно строит Windows вокруг этой идеи. Но «зверь» и «переломный момент» делают работу, которую цифры пропускной способности не вытягивают. Вердикт треда — более честный заголовок: компетентный годовалый чип, переупакованный под Windows и проданный на твите.