Модель на 27B хорошо кодит локально — на ноутбуке за $6 699, что жжёт пальцы
Бенчмарк Quesma назвал Qwen 3.6 27B золотой серединой для локальной разработки: 32 токена/с на MacBook Pro со 128 ГБ. Первый вопрос треда: а у кого есть MacBook на 128 ГБ?
Пост сталкивает плотную 27B с более быстрым MoE-вариантом на 35B и выбирает качество, а не скорость: «лучше сгенерирую втрое меньше кода, но качественнее». Модель прогнали через сборку гекс-сапёра и лендинг свечной лавки.
Основатель, у которого ровно такая машина, резко возразил: запусти на самом ноутбуке тяжёлую задачу — пальцы жжёт, вентиляторы воют. Его решение: поставить Mac Mini в подвал и ходить к нему через Tailscale, втрое дешевле.
Что именно утверждает бенчмарк
Пост Quesma строит узкий, конкретный аргумент: среди моделей, которые можно запустить дома, плотная Qwen 3.6 27B — первая, что ощущается как рабочий универсальный ассистент, а не игрушка. Тестовый стенд — MacBook Pro M5 со 128 ГБ объединённой памяти, и автор гоняет модель через llama.cpp с предсказанием нескольких токенов и контекстным окном 64k. На первый план он выносит компромисс качества и скорости: более быстрый MoE-вариант 35B A3B выдаёт 105 ток/с, но, по мнению автора, пишет код хуже, тогда как плотная 27B держит около 32 ток/с с MTP. Заявленный выбор: «лучше сгенерирую втрое меньше кода, но качественнее».
Демки тяготеют к проектам с нуля: чат по квантовой механике, гексагональный сапёр в виде Node-пакета из одного промпта, лендинг для свечной лавки.
| Модель | Метод | Скорость | RAM |
|---|---|---|---|
| Qwen 3.6 27B | llama.cpp + MTP | 32 tok/s | 42 GB |
| Qwen 3.6 27B | llama.cpp | 18 tok/s | 41 GB |
| Qwen 3.6 35B A3B | llama.cpp + MTP | 105 tok/s | 45 GB |
| DeepSeek-V4-Flash | llama.cpp | 33 tok/s | 103 GB |
Тред: бенчмарк выбрал не ту машину — и не те задачи
Самое заплюсованное возражение было вообще не про модель. Дело в счёте за железо: MacBook Pro со 128 ГБ стартует около $6 699, и несколько комментаторов посчитали это против аренды топовых моделей на OpenRouter за те же деньги. А потом пошла тема жара.
«НЕ покупайте этот MacBook, если планируете серьёзно кодить на локальных LLM… пальцы будут гореть, а голова взорвётся от шума… возьмите MacMini M4 с 64 ГБ ОЗУ и поставьте в подвал… MacMini обойдётся почти втрое дешевле MacBook Pro». — основатель Podigee, который собирает машины сам
Инженер, опробовавший модель на реальной кодовой базе, а не на пустой, провёл черту, которую демки обошли:
«Сделать zero-shot проект с нуля относительно легко даже маленькой модели… Настоящая проверка — справится ли она с вашими существующими кодовыми базами». — onion2k, завсегдатай HN с весом кармы 1.0, прогнавший её на Rust+React-приложении и на C#-монолите
Не всем нужна коробка за $6 699. Один программист рассказал, что гоняет 35B Qwen-квант на железе двух поколений давности:
«Я гоняю Qwen3.6-35B Q4 на старой 1080 (8 ГБ vram) с 32 ГБ системной памяти… Выходит около 30 ток/с, мне хватает… Эти модели qwen3.6 — первые, что реально что-то могут». — разработчик, запускающий её на 1080 и i7-12700
А рабочая оценка изнутри государственной IT-команды добавила к заголовку вес авторитета:
«У нас тот же опыт (qwen3.6 — огонь), когда мы оцениваем локальные модели для наших разработчиков в правительстве Норвегии». — инженер, оценивающий локальные модели для правительства Норвегии
Раскол под всем этим экономический, а не технический. Модель и правда хороша; окупится ли её локальный запуск, зависит от того, покупаете ли вы приватность и независимость от сети — или просто платите вдесятеро против цены OpenRouter, чтобы смотреть, как крутятся вентиляторы на ноутбуке, к которому нельзя притронуться, пока он работает.
Получайте такие разборы каждый день
Главные истории Hacker News — на email, в Telegram или RSS.
Совладелец Mullvad спонсировал политическую партию. Это меняет доверие к VPN?
Шведское издание назвало одного из двух сооснователей Mullvad крупнейшим частным донором небольшой местной партии. За сутки тред раскололся: одни отписывались, другие говорили, что ценность no-logs VPN — в аудитах, а не в политике владельцев.