Llama.cpp on a jailbroken PS5: run any GGUF model natively on the console

Your PS5 runs the language model. Every device on your network uses it. llama.cpp on the console’s GPU, with OpenAI and Anthropic APIs and a screen made for the TV.

您的 PS5 可以运行语言模型，网络中的每台设备都能使用它。 在主机 GPU 上运行 llama.cpp，支持 OpenAI 和 Anthropic API，并配有专为电视设计的显示界面。

Get the app · Website · Get started · Issues

获取应用 · 网站 · 入门指南 · 问题反馈

New: decision models, powered by Ollaya. PS5LM now runs Jev-like decision models (d1, Clef, OpenJev and more) on the GPU and answers the same /v1/systemone API as Ollaya: typed decisions with calibrated probabilities, in a fraction of a second.

新功能：由 Ollaya 提供支持的决策模型。PS5LM 现在可以在 GPU 上运行类似 Jev 的决策模型（d1、Clef、OpenJev 等），并响应与 Ollaya 相同的 /v1/systemone API：在几分之一秒内提供带有校准概率的类型化决策。

PS5LM is for anyone with a jailbroken PS5 who wants a private model server at home. It loads a GGUF model onto the console’s GPU and serves it to your laptop, your phone and your coding tools. It needs no PC while it runs, no cloud and no account.

PS5LM 专为拥有越狱 PS5 并希望在家中搭建私有模型服务器的用户设计。它将 GGUF 模型加载到主机的 GPU 上，并为您的笔记本电脑、手机和编程工具提供服务。运行过程中无需 PC、云端支持或账户。

Qwen 3.5 9B answering requests from a laptop on a PS5 Slim. Click for the video.

Qwen 3.5 9B 在 PS5 Slim 上响应来自笔记本电脑的请求。点击观看视频。

Home, Models, Console, API and Settings on the TV.

电视上的主页、模型、控制台、API 和设置。

Ollaya runs open decision models on a PC the way Ollama runs language models. PS5LM brings the same idea to the console: a decision model reads a state and answers typed questions in one forward pass, with no text generated.

Ollaya 在 PC 上运行开放决策模型的方式与 Ollama 运行语言模型的方式相同。PS5LM 将这一理念引入了主机：决策模型通过一次前向传递读取状态并回答类型化问题，无需生成文本。

The Suggested list has d1 Omni 600M, d1 3B and Clef Flash. Any GGUF that carries llama.cpp’s decision metadata loads the same way, and the app labels it a decision model.

建议列表中包含 d1 Omni 600M、d1 3B 和 Clef Flash。任何带有 llama.cpp 决策元数据的 GGUF 模型均可按相同方式加载，应用会将其标记为决策模型。

You need a PS5 on firmware 7.00 to 13.60, jailbroken, with these payloads loaded:

您需要一台固件版本在 7.00 到 13.60 之间且已越狱的 PS5，并加载以下载荷：

To update, copy the new folder over the old one. Settings, models and downloads stay in /data/PS5LM. Using it from coding tools (opencode, Codex, Claude Code) is in docs/CLI.md.

如需更新，请将新文件夹覆盖旧文件夹。设置、模型和下载内容保留在 /data/PS5LM 中。通过编程工具（opencode、Codex、Claude Code）使用它的方法请参阅 docs/CLI.md。

C++ on ps5-homebrew-ui, llama.cpp with ggml-vulkan on PS5_Vulkan’s RADV, built on Linux.

基于 ps5-homebrew-ui 的 C++ 实现，使用 PS5_Vulkan 的 RADV 驱动运行带有 ggml-vulkan 的 llama.cpp，并在 Linux 上构建。

Building · Console notes · Porting · Research · Models that fit · Roadmap · Changelog · The original payload

构建 · 主机说明 · 移植 · 研究 · 适配模型 · 路线图 · 更新日志 · 原始载荷

GPL-3.0-or-later, see LICENSE. llama.cpp keeps its MIT licence, Manrope its OFL. No Sony SDK files, keys, firmware or model weights are in this repository.

采用 GPL-3.0 或更高版本协议，详见 LICENSE。llama.cpp 保留其 MIT 许可证，Manrope 保留其 OFL 许可证。本仓库不包含任何 Sony SDK 文件、密钥、固件或模型权重。

PS5LM is not affiliated with Sony Interactive Entertainment. “PlayStation” and “PS5” are trademarks of Sony Interactive Entertainment.

PS5LM 与 Sony Interactive Entertainment 无关联。“PlayStation”和“PS5”是 Sony Interactive Entertainment 的商标。

llama.cpp on a jailbroken PS5: run any GGUF model natively on the console, starting with Qwen 3.8

在越狱的 PS5 上运行 llama.cpp：在主机上原生运行任何 GGUF 模型，以 Qwen 3.8 为起点。