正文内容 评论(0

华为宣布开源盘古7B稠密和72B混合专家模型
2025-06-30 09:28:43  出处:快科技 作者:哈尔 编辑:哈尔     评论(0)点击可以复制本篇文章的标题和链接复制对文章内容进行纠错纠错

快科技6月30日消息,华为今日正式宣布开源盘古70亿参数的稠密模型、盘古Pro MoE 720亿参数的混合专家模型和基于昇腾的模型推理技术。

华为表示:“此举是华为践行昇腾生态战略的又一关键举措,推动大模型技术的研究与创新发展,加速推进人工智能在千行百业的应用与价值创造。”

根据华为官网显示:

盘古Pro MoE 72B模型权重、基础推理代码,已正式上线开源平台。

基于昇腾的超大规模MoE模型推理代码,已正式上线开源平台。

盘古7B相关模型权重与推理代码将于近期上线开源平台。

华为宣布开源盘古7B稠密和72B混合专家模型

据悉,基于MoGE架构构建的盘古Pro MoE大模型(72B总参数、16B激活参数)在昇腾300I Duo和800I A2可实现更优的专家负载分布与计算效率(321 tokens/s和1528 tokens/s)。

而在模型能力方面,盘古Pro MoE在最新一期业界权威大模型榜单SuperCLUE上交出了超能打的成绩。

和其他动辄千亿以上的大模型相比,如DeepSeek-R1具有671B参数,盘古Pro MoE以72B总参数量达到了59分,千亿参数量以内大模型排行并列国内第一。

并且,16B激活参数量可以媲美其他厂商更大规模的模型。

【本文结束】如需转载请务必注明出处:快科技

责任编辑:哈尔

文章内容举报

  • 支持打赏
  • 支持0

  • 反对

  • 打赏

文章价值打分

当前文章打分0 分,共有0人打分
  • 分享好友:
  • |

  • 热门文章
  • 换一波

  • 好物推荐
  • 换一波

  • 关注我们

  • 微博

    微博:快科技官方

    快科技官方微博
  • 今日头条

    今日头条:快科技

    带来硬件软件、手机数码最快资讯!
  • 抖音

    抖音:kkjcn

    科技快讯、手机开箱、产品体验、应用推荐...