CrankGPT выглядит как сайт-шутка. Рукояточный ИИ внутри — настоящий
Страница настолько абсурдна, что половина треда не могла понять: шутка или нет. За ней — Raspberry Pi 5 с локальной языковой моделью, питающейся от ручного генератора. Чем дольше модель думает, тем тяжелее крутить.
Аварийный 20-ваттный ручной генератор питает Pi 5 через кастомную плату с конденсаторами, буферизующими около 20 секунд энергии. Модель на 350M параметров выдаёт ~49 токенов/сек; холостой ток — 4Вт, пик во время генерации речи — до 5А.
Нагрузку от инференса чувствуешь запястьем: когда модель и синтез речи работают одновременно, рукоятка физически тугеет. Половина треда хотела купить такое; другая половина уже представляла людей в беличьих колёсах на службе у ИИ-повелителей.
Да, это реально — и питается от ваших рук
Сайт CrankGPT намеренно доведён до абсурда: тред всерьёз спорил, существует ли устройство — «Я посмотрел видео "это реально?" и всё ещё не уверен, смеяться или нет.» Техническая документация расставляет точки: это работающий офлайн-голосовой помощник на ручном приводе.
Внутри — Raspberry Pi 5 (8 ГБ), на котором только на CPU крутятся распознавание речи, небольшая LLM и синтез речи. Питание — «дешёвый массовый переключаемый 20-ваттный ручной генератор для аварийной USB-зарядки». Поскольку при инференсе напряжение проседает, авторы добавили плату с конденсаторами, буферизующую около 20 секунд. Производительность на малых моделях оказалась неожиданной:
| Модель | Токенов/сек на Pi 5 |
|---|---|
| LFM2.5 350M | ~49 |
| LFM2.5 1.2B | ~15 |
| Gemma 3 1B | ~14 |
Потребление — от ~4 Вт в простое до ~15 Вт при совместной работе модели и синтеза речи, с пиками до 5 А, которые ощущаются напрямую: «когда инференс LLM и синтез речи запущены вместе, крутить рукоятку становится заметно тяжелее».
Тред не мог решить: смеяться или заказать
Комедия и искреннее восхищение пришли одновременно. Один читатель, явно из целевой аудитории, пофантазировал о гребном тренажёре, питающем ноутбук с промптами. Другой сформулировал антиутопическую подпись: «В будущем люди будут сидеть в беличьих колёсах, вырабатывая энергию для наших ИИ-повелителей.» Третий отрезал прямо: «Честно говоря, я бы купил.»
Самый полезный комментарий сделал то, от чего отказался сайт: нашёл ссылку на документацию реально работающего Pi с ручной рукояткой и локальной моделью — абсурд снаружи, инженерия внутри.
Игрушка, доказывающая серьёзный тезис
Уберите шутку — и CrankGPT станет чистой демонстрацией: полезный разговорный ИИ теперь влезает в CPU-only одноплатник с бюджетом мощности, который обеспечивает человеческая рука. Модель на 350M параметров выдаёт 49 токенов/сек от мышечной силы. Сайт хочет, чтобы вы смеялись. Таблица токенов на оборот рукоятки хочет, чтобы вы заметили: порог «запускает LLM» опустился до аварийного зарядника.
Получайте такие разборы каждый день
Главные истории Hacker News — на email, в Telegram или RSS.
Считать CVE у Rust и C++ — ловушка: один пример с curl объясняет почему
Передай NULL в функцию на C, получи segfault — и это «неправильное использование», не CVE. Сделай то же самое в безопасном Rust — и баг в памяти автоматически становится дырой в библиотеке. Статья показывает, как именно CVE-счётчики вводят в заблуждение.