开发者将破解PS5转变为本地AI服务器以运行大型语言模型
开发者 abhi245y 在资深AI工程师 Mert Cobanov 开发的 PS5LM 项目的基础上，推出了 PS5LM Plus 应用，使得破解后的 PS5 主机能本地运行Qwen3.8-27B等大型语言模型。最初的 PS5LM 版本主要依赖 CPU，处理27B参数模型时生成速度仅为每分钟约1个 token。为了提升性能，abhi245y 将 Mesa 开源项目中的 AMD RADV 驱动移植，并利用 Vulkan 计算接口，使得 llama.cpp 能以原生应用方式在 PS5 上运行。这一改进将可用内存从约6GB 提升至11.4GB，从而支持高度量化的 Qwen3.8-27B 模型。由于 PS5 拥有较高的内存带宽（448GB/s），Qwen3.8-27B 的生成速度可达每秒20.9个 token。在测试中，GPU 使用率达到了100%，而CPU使用率仅为2%。对于更小的模型，PS5 还能实现更快的生成速度，比如 Gemma 4 E4B大约每秒61个 token，Llama 3.2 3B 达到每秒124个 token。
此外，PS5LM Plus 内置了网页聊天界面，并提供局域网 8081 端口的 API 服务，允许用户通过同一网络的其他设备来访问和与本地模型互动。该项目还兼容 OpenAI 和 Anthropic API，便于使用 opencode、Codex、Claude Code 等工具调用在 PS5 上运行的模型。作为一款以游戏为主的主机，PS5 能够作为本地 AI 服务器为大模型推理提供 GPU 加速，彰显其硬件在游戏之外的应用潜力。然而，该设备的16GB RAM 统一内存依然限制了模型的选择和运行质量。此外，运行原生版 llama.cpp 需要对 PS5 进行越狱，这可能导致游戏机和 PSN 账号被封禁等风险。
