正文内容 评论(0

AMD用AI优化AI!ROCm.ai发布 本地能跑3000亿参数模型
2026-07-24 10:12:33  出处:快科技 作者:知微 编辑:知微     评论(0)点击可以复制本篇文章的标题和链接复制对文章内容进行纠错纠错

快科技7月24日消息,AMD在年度Advancing AI大会上连发多项软件和平台更新,从数据中心到本地开发再到机器人,整套AI软件生态正在全面铺开。

一、ROCm.ai:让智能体帮忙优化模型

AMD正式发布ROCm.ai软件栈,核心思路是用AI智能体来加速AI开发本身,整套软件栈分四层,分别对接编程智能体、工作负载优化、主流框架和底层工具,预计8月可用。

其中最值得关注的是HyperLoom这套自动优化工作流,它能够自己分析模型性能瓶颈,定位需要调优的环节,然后自动执行优化并反复迭代。

AMD用AI优化AI!ROCm.ai发布 本地能跑3000亿参数模型

现场演示直接用Claude Code下达优化指令,系统自动完成性能剖析和调优,一次点击就把MiniMax M3推理性能拉升了38.3%。

AMD用AI优化AI!ROCm.ai发布 本地能跑3000亿参数模型

另一个演示则用Codex在Helios机架上跑起了1.6万亿参数的DeepSeek-V4 Pro,全程自动配置环境并启动模型。

这种用AI优化AI的思路,实际效果已经体现在数据上,AMD的推理性能已经提升到ROCm 7初期的3.3倍,训练性能提升约2.4倍。

AMD用AI优化AI!ROCm.ai发布 本地能跑3000亿参数模型

DeepSeek-V4 Pro从4月获得首日支持到现在,仅靠软件优化,三个月就拿到了5.3倍性能提升。

生态方面,ROCm已经支持Hugging Face上超过300万个模型,新开源模型发布当天就能跑,过去一年外部开发者贡献增长10倍以上,发布节奏也从每4到6个月一次压缩到大约每六周一次。

AMD还直接给Hugging Face、PyTorch、vLLM、SGLang等开源项目提供硬件,让它们跑每日集成测试。

二、Gorgon Halo:把3000亿参数模型塞进桌面

AMD用AI优化AI!ROCm.ai发布 本地能跑3000亿参数模型

本地AI这块,AMD之前在CES上推出过Ryzen AI Halo开发者平台,128GB统一内存,能跑大约2000亿参数模型,这次新一代Gorgon Halo把统一内存直接拉到192GB,本地可运行模型上限提到约3000亿参数,对应Ryzen AI Max PRO 400系列。

AMD同时深化了和Hugging Face的合作,每台Ryzen AI Halo附赠一年Pro订阅,更重要的是,ROCm软件栈能横跨不同硬件平台,开发者可以先在本地跑模型、做微调,再无缝迁移到数据中心,不用换软件。

AMD用AI优化AI!ROCm.ai发布 本地能跑3000亿参数模型

目前AMD的个人AI生态已经覆盖笔记本、工作站、台式机和开发者平台等多种形态,主流AI PC配上足够内存就能跑240亿参数模型,本地模型性能也在快速提升,过去需要1000亿参数才能达到的效果,现在90亿参数就能做到。

三、Kria AI:给机器人开发者一套全家桶

AMD这次还发布了一整套机器人开发工具,包括Ryzen AI Embedded X100嵌入式处理器、Kria AI系统模块和开发者平台,以及机器人合作伙伴网络。

AMD的机器人能力,很大程度上来自当年收购赛灵思后拿到的FPGA技术。

AMD用AI优化AI!ROCm.ai发布 本地能跑3000亿参数模型

新发布的X100处理器主打低功耗始终在线的推理,16核Zen 5架构,适合机器人这类对功耗敏感的场景。

AMD用AI优化AI!ROCm.ai发布 本地能跑3000亿参数模型

Kria AI系统模块(SOM)是AMD给机器人厂商准备的半成品,核心计算和接口已经做好,客户只需要设计自己的载板插上去就能用,大幅缩短产品上市时间。

AMD用AI优化AI!ROCm.ai发布 本地能跑3000亿参数模型

性能方面,和英伟达Jetson AGX Thor对比,Kria AI平台在实时控制性能上达到3.4倍,并发智能体数量2.3倍,CPU容量1.6倍。

Kria AI机器人开发者平台计划今年第四季度出货,将搭载Ryzen AI Embedded X100系统模块和一块参考载板。

AMD用AI优化AI!ROCm.ai发布 本地能跑3000亿参数模型

载板自带FPGA做传感器数据整合,前面板专门给机器人接传感器用,支持时间敏感网络和摄像头等接口。

AMD用AI优化AI!ROCm.ai发布 本地能跑3000亿参数模型

AMD把载板的设计文件全部开源,客户可以根据自己的需求直接改,不用从零开始。

AMD用AI优化AI!ROCm.ai发布 本地能跑3000亿参数模型

总得来看,AMD把机器人全链路都包了,Kira AI负责高层AI推理,Versal AI Edge负责数据调度和自适应计算,Zynq UltraScale+做实时运动控制,Spartan UltraScale+处理传感器接口。

其机器人合作伙伴网络也日益壮大,覆盖模型、中间件、传感器、应用与系统、物理仿真等领域,以及负责测试、验证和产业协作的相关组织。

AMD用AI优化AI!ROCm.ai发布 本地能跑3000亿参数模型

【本文结束】如需转载请务必注明出处:快科技

责任编辑:知微

文章内容举报

  • 支持打赏
  • 支持0

  • 反对

  • 打赏

文章价值打分

当前文章打分0 分,共有0人打分
  • 分享好友:
  • |

  • 热门文章
  • 换一波

  • 好物推荐
  • 换一波

  • 关注我们

  • 微博

    微博:快科技官方

    快科技官方微博
  • 今日头条

    今日头条:快科技

    带来硬件软件、手机数码最快资讯!
  • 抖音

    抖音:kkjcn

    科技快讯、手机开箱、产品体验、应用推荐...