正文内容 评论(0

NVIDIA、AMD还在堆料!一家小公司用28nm+DDR4单卡跑7000亿大模型
2026-05-11 11:45:36  出处:快科技 作者:红茶 编辑:红茶     评论(0)点击可以复制本篇文章的标题和链接复制对文章内容进行纠错纠错

快科技5月11日消息,当英伟达、AMD还在不断堆高制程、堆砌HBM显存推出高端AI加速卡时,一家小公司却用老旧技术走出了不同路线。

中国台湾企业Skymizer推出HTX301 PCIe AI加速器,采用28nm芯片搭配LPDDR4/LPDDR5内存,单卡即可运行7000亿参数大语言模型。

HTX301单张PCIe卡集成6颗自研芯片协同工作,总内存容量最高可达384GB,整卡功耗仅为240W,全程未使用行业主流的HBM或 GDDR显存方案。

NVIDIA、AMD还在堆料!一家小公司用28nm+DDR4单卡跑7000亿大模型

该加速器基于Skymizer HyperThought平台打造,搭载专为大语言模型工作负载设计的下一代LPU IP核,核心优化方向为大模型推理效率。

NVIDIA、AMD还在堆料!一家小公司用28nm+DDR4单卡跑7000亿大模型

通过对权重和KV缓存采用专属高效压缩技术,HTX301的推理性能比开源框架llama.cpp 提升9%至17.8%,官方标称带宽可达100GB/s。

功耗对比方面,英伟达RTX PRO 6000 Blackwell 执行同类任务功耗约为600W,AMD Instinct MI350P功耗同样远高于该产品,均达到HTX301的两倍以上。

HTX301采用标准PCIe卡外形尺寸,可直接安装在普通风冷服务器中,无需对数据中心的电力和冷却系统进行任何改造。

该方案同时解决了云端部署的两大核心痛点,既避免了数据上传带来的隐私泄露风险,也实现了基础设施成本的可预测性。

目前HTX301所宣称的全部性能数据均来自Skymizer官方,尚未经第三方独立测试验证。

不过,Skymizer将于今年台北国际电脑展上首次提供实机演示,并开放给独立第三方机构对其性能参数进行全面验证。

NVIDIA、AMD还在堆料!一家小公司用28nm+DDR4单卡跑7000亿大模型

【本文结束】如需转载请务必注明出处:快科技

责任编辑:红茶

文章内容举报

  • 支持打赏
  • 支持0

  • 反对

  • 打赏

文章价值打分

当前文章打分0 分,共有0人打分
  • 分享好友:
  • |
本文收录在
#NVIDIA#AMD#DDR4

  • 热门文章
  • 换一波

  • 好物推荐
  • 换一波

  • 关注我们

  • 微博

    微博:快科技官方

    快科技官方微博
  • 今日头条

    今日头条:快科技

    带来硬件软件、手机数码最快资讯!
  • 抖音

    抖音:kkjcn

    科技快讯、手机开箱、产品体验、应用推荐...