Raspberry Pi

Аварийный 20-ваттный ручной генератор питает Pi 5 через кастомную плату с конденсаторами, буферизующими около 20 секунд энергии. Модель на 350M параметров выдаёт ~49 токенов/сек; холостой ток — 4Вт, пик во время генерации речи — до 5А.

Нагрузку от инференса чувствуешь запястьем: когда модель и синтез речи работают одновременно, рукоятка физически тугеет. Половина треда хотела купить такое; другая половина уже представляла людей в беличьих колёсах на службе у ИИ-повелителей.

Комментаторы напоминают: за те же деньги берёшь M4 Mac Mini или мини-ПК на N100 — и оба способнее. Один назвал плату «памятью с гарниром из вычислений».

Самый мрачный прогноз: с дефицитом памяти и инфляцией через год $350 ещё покажутся хорошей ценой.