PS5LM превращает взломанную PlayStation 5 в LLM-сервер с API, совместимым с OpenAI
Llama.cpp работает на GPU консоли через Vulkan, и любое устройство в домашней сети может с ним общаться.
На PS5 Slim README сообщает 207 токенов в секунду для модели Qwen на 0,8 млрд параметров, 55 — для 9 млрд и около 20 — для 27 млрд при контексте 64k. Консоль отдаёт модели 11,4 ГБ общей памяти.
Что делает проект
PS5LM запускает llama.cpp на GPU PS5 (бэкенд Vulkan), чтобы загружать и обслуживать модели в формате GGUF без ПК, облака и аккаунта. Он открывает API, совместимые с OpenAI (/v1/chat/completions) и Anthropic (/v1/messages), на порту 8081, а также веб-страницу чата и интерфейс для телевизора: чат, управление моделями и мониторинг консоли. Поддерживается и ввод изображений для моделей с проекторами, а также «модели решений», которые отвечают на набранные вопросы вероятностными ответами.
Для работы нужна взломанная PS5 с прошивкой от 7.00 до 13.60 и payload-ами kstuff-lite, etaHEN и ShadowMountPlus. Для датчиков и передачи файлов рекомендуются Elfldr и ftpsrv.
| Модель | Размер | Скорость (PS5 Slim) |
|---|---|---|
| Qwen 3.5 0.8B, Q4_K_M | 0.5 GB | 207 токенов/с |
| Qwen 3.5 9B, Q4_K_M | 5.3 GB | 55 токенов/с |
| Qwen 3.8 27B, UD-Q2_K_XL | 9.2 GB | ~20 токенов/с (контекст 64k) |
2 бита и 20 токенов в секунду: дёшево, но не умно
Результат для 27B помещается в 11,4 ГБ памяти консоли только при 2-битном квантовании. Комментатор, который пользовался Qwen 3.8 27B, предупредил о цене:
«Всё хоть немного сложное требует xhigh-рассуждений, и модель буквально тратит десятки тысяч токенов, перебирая задачу… До такого же качества, как при 2-битном кванте в этом проекте, вы не дотянетесь.»
Джейкоб Миллер, основатель, который раньше работал в Figma, Atlassian и Microsoft, считает, что для работы без присмотра это нормально:
«70 центов в день за электричество — и вы получаете около 2 млн выходных токенов в день (примерно на 3,50 доллара по тарифам API). Это не худшее на свете, если такая машина и так валяется без дела.»
Он предложил следить за частотой ошибок или за записями камер наблюдения. Относитесь к PS5 как к медленному батч-воркеру для фоновых задач с низкими ставками, а не как к замене размещённому в облаке ассистенту.
Получайте такие разборы каждый день
Главные истории Hacker News — на email, в Telegram или RSS.
Каждый слой трансформера — это память, и расчёт ёмкости объясняет, почему выигрывает внимание
Алекс Ван выводит, сколько пар ключ-значение могут вместить линейный слой, MLP и self-attention, прежде чем помехи сравняются с сигналом.