正文内容 评论(0)
快科技10月23日消息,据报道,谷歌与亚马逊在PyTorch Conference 2026上同步放出软件大招。谷歌开源TorchTPU,亚马逊推出TorchNeuron,目标直指英伟达CUDA生态最坚固的壁垒:模型迁移成本。
谷歌宣称,超过98%的既有PyTorch模型,只需将设备设定改为“model.to(‘tpu’)”,便能在TPU上运行。谷歌验证了近5000个Hugging Face高频模型,其中4917个完成端到端验证,Tier-1无崩溃通过率达98%。迁移时间压缩至几分钟到数天。
亚马逊的TorchNeuron同样采用开源策略(Apache 2.0授权),让PyTorch模型直接运行于Trainium2与Trainium3芯片。开发者只需修改少量配置,将指向CUDA的设定改为AWS Neuron,无需重写整套应用。
性能层面,TPU已展现出竞争力。据悉,16颗谷歌Ironwood TPU(TPU v7)运行Kimi K3模型,开启推测解码后,单用户生成速度达每秒709个token。同等配置的16块英伟达GB200搭配vLLM,速度为每秒452个token,TPU领先约57%。
需要指出的是,CUDA的护城河,从来不只是GPU算力,而是二十年积累的工具链、开发者习惯与迁移成本。当TorchTPU和TorchNeuron把“换芯片”的软件门槛从数月压缩到几分钟,企业就有了按能效和价格重新选择硬件的底气,而英伟达的生态黏性,正被软件工具一点点撬开。
- 热门文章
- 换一波
- 好物推荐
- 换一波
- 关注我们
-
微博:快科技官方
快科技官方微博 -
今日头条:快科技
带来硬件软件、手机数码最快资讯! -
抖音:kkjcn
科技快讯、手机开箱、产品体验、应用推荐...




