大家最早接触HBM高带宽内存，应该是AMD Fury系列显卡，但其实这种内存放在游戏显卡上大材小用，更适合它的是高性能计算CPU与GPU，比如NVIDIA A100/H100、AMD Instinct MI200/MI300、Intel四代至强等等。

作为HBM的开拓者，SK海力士宣布，已经全球率先研发出12层堆叠的HBM3内存，单颗容量就能达到24GB。

SK海力士在新品上使用了名为“高级批量回流模制底部填充”(MR-MUF)的技术，将多颗芯片放置在下层基板上，通过回流焊一次性粘合，同时使用用模塑料填充芯片之间或芯片与基板之间的空隙。

同时还有经典的TSV硅穿孔技术，将单颗芯片的厚度减少了40％，从而在容量增加50％的情况下，保持整体厚度不变。

SK海力士已经向客户提供24GB HBM3的样品，但量产和供货时间未公布。

NVIDIA H100、AMD Instinct MI250X加速卡分别用了六颗16GB HBM3、八颗16GB HBM2e，物理总容量一个96GB、一个128GB。

如果换成新的单颗24GB，一张卡上就能分别有144GB、192GB之多。

NVIDIA H100

AMD Instinct MI250X