正文内容 评论(0

H200月租破10万仍抢不到!国产AI芯片卡在编码这道坎:高价值Token只能靠英伟达
2026-08-22 23:19:42  出处:快科技 作者:红茶 编辑:红茶     评论(0)点击可以复制本篇文章的标题和链接复制对文章内容进行纠错纠错

快科技8月22日消息,据报道,随着AI从模型开发转向大规模部署,推理算力需求正以前所未有的速度膨胀。然而,国产AI芯片在处理编码等复杂推理任务时仍需要提高,导致国产AI企业不得不在有限的英伟达芯片供应中挤牙膏式地分配算力。

趋境科技副总裁关嘉伟近日向媒体透露,推理市场已出现明显的两极分化。高质量Token的需求远大于供给,高端任务对性能的要求极为严苛,国产处理器目前还无法稳定满足。

尤其是在编码等场景中,用户愿意为此支付溢价,而这些高价值任务目前仍高度依赖英伟达的芯片。

正是这种供需失衡,直接推高了英伟达芯片的租赁价格。趋境科技数据显示,英伟达H200芯片的月租赁价格已从2025年第三季度末的5万至8万元人民币,飙升至今年早些时候的10万元以上。

Token用量的爆炸式增长是需求端的直接推手。最新统计数据显示,我国日均词元调用量在2026年6月已激增至近175万亿,较2024年初增长超千倍。

面对严峻的供应压力,中国AI企业被迫寻求技术突破。月之暗面设计了一套面向异构推理场景的数据传输库,可实现英伟达H20与华为昇腾910B芯片之间的高效数据交换。

趋境科技则采用了“异构P/D分离”技术,让昇腾910B处理请求的初始阶段,英伟达H20负责最终的响应生成。趋境科技的推理引擎KTransformers已成功在单张RTX 4090上运行DeepSeek完整版模型,成本降低10至20倍。

H200月租破10万仍抢不到!国产AI芯片卡在编码这道坎:高价值Token只能靠英伟达

【本文结束】如需转载请务必注明出处:快科技

责任编辑:红茶

文章内容举报

  • 支持打赏
  • 支持0

  • 反对

  • 打赏

文章价值打分

当前文章打分0 分,共有0人打分
  • 分享好友:
  • |
本文收录在
#H200#AI芯片#英伟达

  • 热门文章
  • 换一波

  • 好物推荐
  • 换一波

  • 关注我们

  • 微博

    微博:快科技官方

    快科技官方微博
  • 今日头条

    今日头条:快科技

    带来硬件软件、手机数码最快资讯!
  • 抖音

    抖音:kkjcn

    科技快讯、手机开箱、产品体验、应用推荐...