正文内容 评论(0)

长坡厚雪:后摩智能以2D CIM、3D CIM双路加码存算一体
2026-10-17 18:16:05  作者:cici 编辑:cici     评论(0)点击可以复制本篇文章的标题和链接复制对文章内容进行纠错纠错

“存储从来没有像今天这样站在芯片舞台的中央。”在后摩智能生态合作伙伴大会上,后摩智能联合创始人、产品副总裁信晓旭发布面向Agent时代的技术与产品战略。在他看来,AI时代正在改写计算与存储的“剧本”,谁的技术路径选得对、布局得早,谁就可能成为新时代的赢家。

模型与芯片双向演进,Agent打开端边AI新周期

为什么端边AI会在今天进入新的发展阶段?

答案首先来自模型与芯片两条技术曲线的加速交汇。以Qwen系列模型的演进为例,在达到相近能力的前提下,Dense模型所需规模在17个月内压缩至原来的约八分之一,MoE模型则在约6个月内压缩至原来的约六分之一。

模型变得更小、更强,端边芯片能够承载的模型规模也在快速提升。2024年的端边芯片主要运行7B级模型;到2026年,能够承载的模型规模已经提升至120B级。

两条曲线同时向前,让大模型在端边设备上运行有了更扎实的技术基础。

[MD:Title]

Agent的兴起则进一步将需求推到前台。现象级Agent平台不断出现,模型、工具与应用资源开始加速聚集。这与iOS、Android出现后推动智能手机应用创新的过程有相似之处:平台能力逐渐成熟,新的应用和产品形态也随之生长。

不同的是,Agent不再只是等待用户提问,而是开始持续理解目标、调用工具和执行任务。当工作与生活越来越依赖Agent,响应速度、数据隐私、运行成本和用户可控也变得更加重要。越来越多任务需要在本地完成,智能终端则需要从被动执行指令的设备,转向能够持续生产和消耗Token的计算入口。

AI进入真实世界后,芯片面对的也不再只是单一算力问题。如何在有限的空间、功耗和成本内,同时提升计算效率、存储容量与访存带宽,成为端边AI规模落地必须解决的问题。

[MD:Title]

根植SRAM-CIM,双技术路线拓展架构边界

2020年创立后摩智能时,团队就在思考一个底层问题:AI时代需要什么样的芯片,又该怎样构建这样的芯片?

传统冯·诺依曼计算架构中,计算与存储相互分离。模型参数需要在处理器与存储器之间频繁搬运,数据规模越大,搬运带来的延迟和能耗就越突出。AI时代的计算范式,需要计算与存储更紧密地协同,而存算一体正是后摩选择的答案。

底层架构创新是一条长坡。从存算电路、IP和芯片架构,到芯片制造、软件工具、产品适配和量产交付,每一步都需要长期研发和工程验证。

六年来,后摩始终根植SRAM-CIM,围绕计算与存储协同持续推进架构创新。通过将部分计算放到数据所在的位置,SRAM-CIM减少处理器与存储器之间的数据搬运,从而提升计算效率与能效。

基于这一技术根基,后摩结合不同的存储配置与封装方式,形成2D CIM与3D CIM两条技术路径,分别回应端边负载对算力、容量和带宽的差异化需求。

2D CIM将SRAM-CIM计算架构与2D封装相结合,面向高算力、大存储容量的场景;3D CIM则将SRAM-CIM与先进封装相结合,面向高算力、高访存带宽的需求。

当逻辑计算层采用SRAM-CIM架构,传统3D堆叠面临的散热压力也能得到改善,在有限面积下进一步提升算力,并降低相同算力条件下的功耗。两条技术路径最终指向同一个目标:持续提升端边AI的Token/W与Token/$。

[MD:Title]

场景驱动,构建端边AI算力产品矩阵

后摩智能的产品战略因此由场景驱动。在芯片层面,M系列面向高算力及多元端边推理需求;A系列将重点应对高访存带宽及高算力要求高的负载,尤其适合Dense模型等带宽密集型场景。

已经量产的M50拥有160 TOPS@INT8算力、150 GB/s内存带宽,典型功耗为10W。基于3D CIM架构的新一代产品A20目前已经投产,将进一步拓展后摩智能面向大模型端边推理的产品布局。

[MD:Title]

围绕两条芯片路线,后摩智能的板级产品沿小型化与标准化两个方向展开。一类采用PCIe标准卡设计,覆盖从半高半长到全高全长的规格,支持客户根据产品空间、供电和散热条件灵活选型;另一类面向空间和功耗受限的终端,覆盖M.2、MXM等不同形态。

通过芯片、模组、标卡和多芯系统的组合,后摩智能面向从8B级到近千B级模型的本地化运行需求展开产品规划。

[MD:Title]

有所为、有所不为,以开放生态加速伙伴落地

要让大模型真正进入终端,仅有一颗芯片还不够。端边AI产品开发连接着CPU、操作系统、模型、推理框架、AI基础设施、IDH/ODM、整机和应用等多个环节,后摩智能让自身的芯片和软件能力更容易与这些环节连接,减少伙伴在模型迁移、性能优化和工程适配中的重复投入。

过去几年,后摩围绕易用性持续完善大道软件栈,支持伙伴完成模型编译、适配、性能优化和应用部署。150多个产品定点项目中遇到的共性问题,也持续推动后摩补齐软件与开发支持能力。

在此基础上,后摩智能宣布开源“后摩AI生态软件”,将项目中积累的模型适配经验、性能优化方法和软件能力沉淀为可复用的工具,邀请伙伴与开发者共建共用,帮助客户缩短模型部署与应用开发周期,把更多资源投入产品定义、场景创新和用户体验。

[MD:Title]

从芯出发、向端而生,共启端边 AI 新蓝海

六年来,后摩从SRAM-CIM技术积累和两代芯片的量产实践,走到2D CIM、3D CIM双技术路线及算力产品矩阵,持续将技术沉淀转化为伙伴可以采用的产品能力。

面向Agent时代,后摩以架构创新提升Token/W与Token/$,以场景需求推动芯片和板级产品演进,并通过软件开放连接产业伙伴,推动更强的模型以更低能耗和成本进入更多智能终端。

【本文结束】如需转载请务必注明出处:快科技

责任编辑:子莹

文章内容举报

  • 支持打赏
  • 支持0人

  • 反对

  • 打赏

文章价值打分

当前文章打分0 分,共有0人打分
  • 分享好友:
  • |
本文收录在
#快讯

  • 热门文章
  • 换一波

  • 好物推荐
  • 换一波

  • 关注我们

  • 微博

    微博:快科技官方

    快科技官方微博
  • 今日头条

    今日头条:快科技

    带来硬件软件、手机数码最快资讯!
  • 抖音

    抖音:kkjcn

    科技快讯、手机开箱、产品体验、应用推荐...