News
越獄後 PS5 主機釋放 AI 算力 原生運行大型 AI 模型 速度達 100+ Tokens/s
1 min read
Source: hkepc.com
【用來玩 AI 😱】Sony PS5 遊戲越獄(Jailbreak)生態迎來突破性進展。開發者社群近期成功將知名推論框架 llama.cpp 改編為原生應用程式並移植至 PS5,直接調用 PS5 內置的 AMD GPU 硬體加速與高達 11.4 GiB 的系統記憶體。經實際測試,越獄 PS5 在本機離線運行大型語言模型(LLM)的生成速度最高可突破每秒 124 個 Token(Tokens/s),甚至能順暢運算 270 億參數(27B)的中大型 AI 模型。