Гайд продаёт ферму за $40 тысяч ради «почти Opus». Тред: это 17 лет подписки
Гайд Jamesob по локальным LLM венчает пирамиду сборкой на четырёх GPU и 384 ГБ памяти, которая якобы приближается к Claude Opus. Комментатор пересчитал цену в подписку — и идея сдулась: сорок тысяч долларов покупают почти семнадцать лет облачной модели, которую эта сборка имитирует.
Гайд практичен: от стартовой сборки за ~$2k (две RTX 3090) под модель на 27B до топовой за ~$40k (четыре RTX 6000 Pro, 384 ГБ) под урезанный GLM-5.2 на ~80 токенов/сек. Секрет — вкладываться в объём VRAM и дешёвое переключение PCIe4, а не в дорогую инфраструктуру.
Читатели, которые сами собирают фермы, топовый вариант не одобряют. Один оценивает такой же интеллект в 8×H200 (~$400k, а не $40k); другой, потративший $4 200, говорит, что даже это не окупится против субсидированных токенов сегодня.
Что на самом деле советует гайд
Гайд Jamesob, который называется *local-llm*, даёт многоуровневые рекомендации середины 2026 года по запуску мощных моделей на собственном железе. В основе гайда простой принцип трат: вкладывать деньги в чистый объём VRAM и дешёвое переключение GPU по PCIe4, а не в премиальные платформы PCIe5/DDR5, а затем сжимать огромные модели в эту память агрессивным квантованием и обрезкой экспертов (REAP, NVFP4).
| Уровень | Железо | VRAM | Что запускает |
|---|---|---|---|
| Стартовый ~$2k | 2× RTX 3090 | 48 GB | модель класса 27B + локальный Whisper |
| Топовый ~$40k | 4× RTX 6000 Pro (~$13k каждая) | 384 GB | GLM-5.2, обрезанный по REAP (~22% экспертов срезано), Int8/NVFP4, ~594B параметров, ~80 t/s при контексте 460k |
Главное обещание топовой сборки: нечто «довольно близкое к Claude Opus», дома и офлайн.
Тред пересчитывает цену
Именно на этой фразе и накинулось обсуждение. Первый же ответ сделал арифметику, которую сам гайд не сделал:
«„~$40 тысяч... нечто довольно близкое к Claude Opus”. Это эквивалент 16,8 года подписки на Claude Opus 4.8 или Codex GPT 5.5 по $200 в месяц.» — комментатор, пересчитавший цену сборки в годы подписки
Второй комментатор усомнился, что обрезанная модель вообще осталась тем же зверем:
«GLM 5.2 называют „почти Opus”, и для комфортного инференса ему нужно минимум 8 штук H200 (то есть это ближе к $400 тысячам, чем к $40 тысячам)... порой модель на 8 или 16 битах оказывается умнее, чем лоботомированная большая.» — комментатор о стоимости запуска GLM-5.2 без обрезки
Даже человек, который реально собрал у себя такую ферму, отговаривал считать это выгодным:
«Даже моя сборка, на которую я потратил около $4200, сегодня уже не окупилась бы. Я покупал железо до того, как цены взлетели... не потому что рассчитывал когда-нибудь отбить эти деньги на фоне субсидированных токенов...» — выпускник YC, руководитель Virtualmin, собравший свою ферму
Общий совет треда прямо противоположен идее гайда: хватит гнаться за SOTA. Как выразился один комментатор, зачем просить гигантскую модель «пересказать эту переписку по почте», если с задачей справится крошечная. Локальный инференс в 2026 году означает покупку приватности и контроля, а не экономии, и честные создатели ферм в треде скажут вам это раньше, чем посоветуют, какую видеокарту брать.
Получайте такие разборы каждый день
Главные истории Hacker News — на email, в Telegram или RSS.
Инструмент режет счёт за нейросеть на 60%, превращая текст в картинки
pxpipe превращает промпты в плотные PNG перед отправкой, потому что визуальные токены тарифицируются по пикселям, а текстовые — по символам. Счёт это снижает. Но при встрече с паролем инструмент тихо галлюцинирует, а Gemini, замечает тред, отдаёт те же токены бесплатно.