正文内容 评论(0)
快科技11月17日消息,破解版PS4也能在本地跑大模型了。开发者Leonardo Alegría正式发布了名为Garlic LLM的开源项目,成功让这款2013年的老旧硬件本地运行了拥有90亿参数的阿里通义千问Qwen3.5-9B大模型。
实测数据显示,该项目在文本聊天模式下的生成速度最高可达43Token/秒,表现甚至优于部分主流PC平台。
这款Garlic LLM与通常依赖Vulkan或OpenCL驱动层的方案不同,该项目彻底绕过了PS4的图形驱动,通过OpenCL C直接编写针对AMD GCN架构的计算算子,并手动构建PM4指令缓冲直接与GPU通信。
这种越级通信方式大幅降低了指令延迟,使得即便主频较低的PS4显卡也能满负荷处理复杂的矩阵运算。
而且为了适配PS4仅有的8GB统一内存,开发者将Qwen3.5-9B模型进行了4位(4-bit)量化处理,将模型体积压缩至约4.5GiB。
除了纯文本生成,Garlic LLM还集成了完善的语音交互链条。它利用Nvidia的Parakeet模型实现25种欧洲语言的语音识别,并通过Chatterbox模型提供7种语言的语音合成输出。
在开启语音交互的情况下,模型运行速度仍能维持在22Token/秒左右。这意味着玩家只需通过手柄按键录音,即可与PS4进行完全离线的流畅语音对话,且无需任何互联网连接。
目前该项目已在Hugging Face平台开放下载,安装包体积约为5.66GB,要求PS4主机必须运行GoldHEN自制系统环境,开发者已经在固件版本为11.52的PS4 Slim主机上完成了全部测试。

- 热门文章
- 换一波
- 好物推荐
- 换一波
- 关注我们
-
微博:快科技官方
快科技官方微博 -
今日头条:快科技
带来硬件软件、手机数码最快资讯! -
抖音:kkjcn
科技快讯、手机开箱、产品体验、应用推荐...


