正文内容 评论(0

腾讯Angel获世界互联网大会领先科技奖:让通信成本降低70%
2024-11-20 17:12:16  出处:快科技 作者:拾柒 编辑:拾柒     评论(0)点击可以复制本篇文章的标题和链接

快科技11月20日消息,2024年世界互联网大会今日在浙江乌镇开幕,腾讯获得全新设立的世界互联网大会杰出贡献奖—创新突破类。

据“腾讯”公众号介绍,腾讯Angel机器学习平台也获得了本年度世界互联网大会领先科技奖。

腾讯称,该奖项被视为科技行业的最高荣誉之一,在270个申报项目中,共有20个项目获奖。

评选委员会点评腾讯Angel机器学习平台:突破万亿级模型分布式训练和推理以及大规模应用部署等难题。

腾讯Angel获世界互联网大会领先科技奖:让通信成本降低70%

据了解,突破主要在通信、效率、规模三方面实现。

通信:

从网卡到交换机,再到路由协议,腾讯自研的RDMA网络实现了集群高速互联,单节点带宽达到3.2T,相比于同类领先产品,性能提升30%,成本降低70%。

效率:

自研了训练/推理框架,提出显存加主存的一体化机制,实现多维并行和算子优化,相比开源框架,训练性能提升2.6倍,推理速度提升2.3倍。

规模:

实现了单任务万卡的线性扩展,GPU集群加速比从50%提升到99%。

腾讯Angel机器学习平台是干嘛的,如果你手握一堆数据,想从零开始训练一个大模型,整个过程可以分成三层,Angel会在中间层发挥作用。

其中,底层GPU、云服务器等计算硬件提供算力支持,中层是机器学习平台,负责处理数据、开发算法和执行训练任务,上层是训练好的大模型。

简单来说,Angel机器学习平台可以把一堆杂乱的数据经过清洗、训练、加工等工序,变成一个强大的大模型。

腾讯Angel获世界互联网大会领先科技奖:让通信成本降低70%

【本文结束】如需转载请务必注明出处:快科技

责任编辑:拾柒

文章内容举报

  • 支持打赏
  • 支持0

  • 反对

  • 打赏

文章价值打分

当前文章打分0 分,共有0人打分
  • 分享好友:
  • |
本文收录在
#腾讯#算力#大模型

  • 热门文章
  • 换一波

  • 好物推荐
  • 换一波

  • 关注我们

  • 微博

    微博:快科技官方

    快科技官方微博
  • 今日头条

    今日头条:快科技

    带来硬件软件、手机数码最快资讯!
  • 抖音

    抖音:kkjcn

    科技快讯、手机开箱、产品体验、应用推荐...