正文内容 评论（0）
无锡将建立一座大规模“Token工厂”：首批将部署4台华为昇腾384
复制
纠错
快科技5月17日消息，据媒体报道，弘信电子与无锡高新区合作，成功签约落户江苏省首个基于华为昇腾384超节点的算力集群。
与此同时，以该超节点集群为首期基础设施，弘信电子将在无锡建设一座大规模Token工厂，力争打造规模化、高性能的“国芯国模”算力集群新样板。
据介绍，此次落地无锡高新区的Token工厂，首批将部署4台华为昇腾384超节点服务器。
每套超节点拥有384卡算力规模，4套串联后形成一个超级集群。这一规模在当前国内面向市场端的Token工厂中位居前列。
Token即词元，是大模型处理信息的最小单位，具备可计量、可定价、可交易的特征，是AI服务计费与结算的基础单元。粗略估算，1个Token约等于1个英文单词或1-2个汉字。
东方证券研报指出，Token工厂比拼的不完全是算力规模，而是Token生产的速度、质量和成本，核心评价指标是每瓦功耗对应的高性能Token吞吐量。值得注意的是，传统算力租赁企业并不直接生产Token。
若想转型为Token工厂，必须强化推理与模型优化能力。近期，算力服务公司Nebius以6.4亿美元收购AI推理与模型优化公司Eigen AI，正是这一趋势的例证。
- 热门文章
- 换一波
- 好物推荐
- 换一波
- 关注我们
-
微博：快科技官方
快科技官方微博 -
今日头条：快科技
带来硬件软件、手机数码最快资讯！ -
抖音：kkjcn
科技快讯、手机开箱、产品体验、应用推荐...
豫公网安备 41010502003949号
