正文内容 评论(0)
【生态伙伴、软件篇】
GPU加速器这样的产品要想成功,不但要有强大的硬件规格与性能,甚至更重要的还有两点,一是生态合作,二是软件支持。
生态方面,AMD Instinct系列的“朋友圈”不断壮大,领先的OEM整机厂商、云服务厂商、AI方案厂商都选择了AMD,那些我们熟悉的行业巨头名字都在这份越来越长的名单中。
尤其是微软、OpenAI、Meta,都在部署越来越多的Instinct平台。
软件方面,AMD ROCm开发平台是一套完整的AI软件堆栈,硬件之上,运行时、编译器、开发工具、库、AI框架、AI模型与算法一应俱全。
AMD ROCm的进化速度也在加快,新特性新功能不断加入进来,不但已经支持全部重要的AI框架与模型,还在不断优化对生成式AI的支持,包括新的算法、新的库等等,对开发者也越来越友好。
ROCm开发平台的性能也在不断优化提升,最新的6.2版本对比6.0版本,不同大模型的训练性能提升了1.7-1.9倍,平均约1.8倍;推理性能更是提升了1.9-2.8倍,平均约2.4倍。
这些都是无需升级硬件,完全靠软件优化得来的,可以说是“白捡”。
同时,AMD与开发者社区一直保持着良好、深度的合作,也是最大的贡献者之一,尤其是在PyTorch机器学习库、Triton编程语言和编译器上提供了及时、全面的支持。
AMD一直坚持开放开源的原则,不但自己的诸多技术对外公开,还全力支持着开源社区,不断壮大开源的力量。
以MI300X为例,上机无需任何调试适配,就能支持超过100万个生成式AI模型,尤其是第一时间支持Llama 3.1/3.2等领先大模型的最新版本。
良好的支持当然不仅仅是能用,更是好用,比如Llama 3 405B大模型上,MIX300X的延迟相比NVIDIA H100有着1.2倍的领先。
顺带一提,AMD近期还以6.65亿美元的价格,完成了对欧洲最大的私人AI实验室Silo AI的收购,获得了全面的端到端AI解决方案、约300名AI专家,势必会大大增强AMD在欧洲的AI业务实力,分析人士认为有望超越NVIDIA。
附MI325X官方精美图赏——
- 热门文章
- 换一波
- 12025年最强拍照旗舰!小米15 Ultra评测:今年再无Ultra
- 24499元起惊爆!AMD RX 9070显卡正式发布:FSR4翻天覆地
- 3国补叠加开学季优惠别错过!学生党换机首选nova 13系列
- 4女网红顾茜茜被禁言!自曝一天啥也不干收入30万 越骂越赚
- 5莆田交警:第一批体验特斯拉FSD的车主被罚扣6分
- 6断码清仓手慢无:艾芙格丽×康纶气凝胶保暖裤19.9元
- 72小时大定超1万台!小米SU7 Ultra为何降价30万 雷军回应
- 8门店439元:361° E韧3SE跑鞋等89元起(2折清仓)
- 9“童话大王”郑渊洁宣布全平台停更!21年维权生活像吃苍蝇
- 10越过格力对标大金!小米中央空调Pro成了:1.6万起被抢光
- 好物推荐
- 换一波
-
-
立省186元!上海老字号森蜂园蜂蜜便宜了:2斤仅14.9元
2025-02-27 3 -
摘养100%纯椰子水10盒到手19.9元:解腻更解渴
2025-02-21 1
- 关注我们
-
微博:快科技官方
快科技官方微博 -
今日头条:快科技
带来硬件软件、手机数码最快资讯! -
抖音:kkjcn
科技快讯、手机开箱、产品体验、应用推荐...