Llama.cpp auf gejailbreakter PS5: GGUF-Modelle lokal

PS5LM verwandelt eine gejailbreakte PlayStation 5 in einen Inferenz-Server. Das Projekt startet llama.cpp direkt auf der Grafikeinheit der Konsole und nimmt Anfragen über HTTP entgegen, statt sie an einen Cloud-Anbieter weiterzureichen. Auf dem Fernseher läuft dabei eine Oberfläche mit, die Anfragen sowie Temperatur, Leistungsaufnahme und GPU- und CPU-Last anzeigt.

Vulkan macht die Konsolen-GPU nutzbar

Technisch hängt alles am Vulkan-Backend von llama.cpp, das über den RADV-Treiber aus dem Umfeld von PS5_Vulkan auf die RDNA-2-Einheit zugreift. Für Modell und Kontext zusammen nennt die Projektseite 11,4 GB des gemeinsam genutzten Speichers — das ist die harte Obergrenze, an der sich jede Modellwahl orientieren muss. Gebaut wird unter Linux, auf der Konsole landet am Ende ein Homebrew-Paket.

Die eigentliche Hürde ist der Jailbreak. Nötig sind eine Firmware zwischen 7.00 und 13.60 sowie die Payloads kstuff-lite für Kernel-Patches, etaHEN für Homebrew-Unterstützung und ShadowMountPlus für die Einbindung ins Konsolenmenü. elfldr auf Port 9021 und ftpsrv auf Port 2121 empfiehlt der Entwickler zusätzlich für Diagnose und Dateitransfer.

Die Durchsatzwerte stammen vom Entwickler

Gemessen wurde nach Angaben des Projekts auf einer PS5 Slim. Die Tabelle gibt die dort genannten Werte wieder; eine unabhängige Nachmessung liegt nicht vor.

Dass das 27B-Modell mit 9,2 GB noch in den Rahmen passt, liegt an der sehr starken Quantisierung. Wer stattdessen viel Kontext belegt, verschiebt denselben Speicher nur an eine andere Stelle.

Zwei Protokolle, eine Konsole

Der Server spricht sowohl OpenAIs /v1/chat/completions als auch Anthropics /v1/messages; die Projektseite gibt an, dass Claude Code gegen diesen Endpunkt arbeitet. Für Entscheidungsmodelle kommt ein zusätzliches, Ollaya-kompatibles /v1/systemone hinzu. Eine Chat-Oberfläche im Browser liegt auf Port 8081, Bildeingaben unterstützen die dafür geeigneten Modelle.

Die Installation ist bewusst schlicht gehalten: ZIP-Archiv laden, den Ordner PPSA99575 per FTP nach /data/homebrew kopieren, danach GGUF-Dateien aus der vorgeschlagenen Liste, vom internen Speicher oder vom USB-Stick einbinden. Der Code steht unter GPL-3.0-or-later, llama.cpp selbst bleibt bei MIT.

Was sich hier nicht überprüfen lässt

Für diese Meldung war genau eine unabhängige Quelle verfügbar: die Projektseite von cobanov. Alle Durchsatzwerte, die Speicherangabe und die Firmware-Spanne sind damit Selbstangaben und nicht von Dritten nachgemessen. Die Seite führt auch keine ausdrückliche Liste von Einschränkungen — wie sich Dauerlast auf Temperatur und Stabilität auswirkt, bleibt deshalb offen.

Unabhängig davon ist der Weg für die meisten Leserinnen und Leser kein Alltagsweg. Ein Jailbreak setzt eine Konsole auf einem alten Firmware-Stand voraus und ist nichts, was sich nebenbei rückgängig machen lässt. Interessant ist der Fall vor allem als Beleg dafür, wie weit quantisierte Modelle inzwischen auf Hardware laufen, die nie für Inferenz vorgesehen war.