• 快科技
  • 中文科技资讯专业发布平台
性能暴增50%!NVIDIA全新显卡架构Volta解析
2017-05-11 18:47:52  出处:超能网  作者:bolvar 编辑:鲲鹏   点击可以复制本篇文章的标题和链接

本文经超能网授权转载,其它媒体转载请经超能网同意。

NVIDIA这几年垄断了高端显卡市场,从他们的Q1季度财报中虽然也能看到Tegra、数据中心等业务有了明显增长,不过营收的主力还是游戏PC市场,Q1季度游戏PC市场营收就增长了50%,高端玩家现在买游戏显卡往往是从GTX 1080 Ti/1080/1070中选一款了。如今Pascal还未显出颓势,今天凌晨的GTC 2017主题演讲上,NVIDIA CEO黄仁勋发布了Volta架构显卡,新一轮升级又要来了。

性能暴增50%!NVIDIA全新显卡架构Volta解析

NVIDIA能够获得现在的表现很大程度是因为他们的产品路线图比较连贯,从Kepler到Maxwell,再到现在的Pascal架构,NVIDIA每一代GPU升级都很稳定,短时间内就能完成高端到低端的布局。以Pascal这一代为例,首发的是GTX 1080、GTX 1070,接着是Titan X,陆陆续续又有GTX 1060 6GB及GTX 1060 3GB,还有GTX 1050 Ti、GTX 1050,今年3月份又有GTX 1080 Ti、Titan Xp,马上还会有GT 1030主打入门级市场——不算不知道,NVIDIA在Pascal这一代的GPU产品组合还真是挺多的。

Pascal显卡发布一年整了,产品线布局还在完善,不过大家的兴趣点现在已经开始向新一代GPU转移了,特别是今天发布了Volta架构显卡——Telsa V100,这跟去年Pascal架构首发GP100核心的Telsa P100一样,也在去年这个时候,我们撰文详细介绍了GP100核心的改进情况,今天我们也会针对GV100核心及Tesla V100显卡做更深入的探讨。

早上已经有Tesla P100的新闻发布了,大家也了解过基本情况了,我们先来看看Tesla V100加速卡的真身,这次同时展示的是两个版本的。

Tesla V100显卡真身:NVLink与PCI-E版大不同

性能暴增50%!NVIDIA全新显卡架构Volta解析
NVLink 2接口的Tesla V100显卡

老黄手里曝光最多的就是这个短小强悍的Tesla V100,它实际上NVLink版的,跟去年的Tesla P100看着很像,毕竟这二者都使用了HBM 2显存,功耗也没有明显增加,应该是直接沿用相同的PCB电路。

性能暴增50%!NVIDIA全新显卡架构Volta解析
PCI-E接口的Tesla V100显卡

PCI-E版的Tesla V100显卡不太引人注意,找到了上面这张照片,如果跟去年PCI-E版的Tesla P100显卡对比,可以看出PCI-E版Tesla V100显卡跟PCI-E版P100有很多不同,散热器明显小多了,体积跟NVLink版差不多。

性能暴增50%!NVIDIA全新显卡架构Volta解析
这是去年的PCI-E版Tesla P100加速卡

Telsa V100加速卡规格:Volta架构终于来了

Tesla V100是针对HPC市场设计的,跟普通消费者没啥关系(属于吃瓜群众买不到买不起系列),之所以引人关注是因为它使用的是新一代Volta架构,首发的依然是GV100这种大核心。早上的新闻中大家也看到了它各方面规格都很惊人——815mm2核心面积、211亿晶体管、5120个CUDA核心、15TFLOPS浮点性能等等,放在当前的显卡中简直是鹤立鸡群,拿来跑游戏不知道多爽,可惜老黄不卖给消费级玩家。

性能暴增50%!NVIDIA全新显卡架构Volta解析
NVIDIA Volta/Pascal与AMD Vega显卡的规格对比

为此我做了一个详细的规格表,对比的产品除了目前的Tesla P100和Titan Xp之外,还加入了AMD的Vega 10核心的Radeon Instinct MI25显卡,尽管还没上市,但AMD早前公布过这款显卡的一些信息,比如带宽、浮点性能,不过Vega核心的晶体管、核心面积等关键参数还是个谜。

对比GP100核心与GV100核心,可以看出后者规模进一步扩大,SM单元数量从之前的56组提升到了80组,CUDA核心数从3584个提升到5120个,计算单元数量增幅为43%。显存位宽及容量都没变化,还是16GB HBM2显存,不过频率有所提升,带宽从前代的720GB/s提升到了900GB/s,非常接近HBM 2显存理论上1024GB/s的带宽了(搭配4颗HBM显存的情况下)。

计算单元的增加也使GV100核心的规模进一步扩大——晶体管数量从目前的153亿增加到了211亿,核心面积从610mm2提升到815mm2,一举创造了NVIDIA GPU同时也是现代GPU的核心面积新纪录。NVIDIA这几代大核心虽然核心面积有涨有降,不过之前最多是在600mm2级别徘徊,这一次直接做了815mm2的大核心。

与Pascal架构GP100核心相比,Volta的GV100核心在架构上更多地是量变而非质变,不过它在架构也不是说没升级,这次GV100核心主要的变化就是针对AI人工智能、DL深度学习等新兴领域专门做了运算单元,我们下面再说这个。

Volta架构改进:Pascal翻新,新增Tensor单元

在之前解析GTX 1080与Tesla P100时,我们说过主流的GP104核心跟GP100核心是不同的,前者跟Maxwell架构没多大变化,每组SM单元是128个CUDA核心,GP100上每组SM单元是64个CUDA核心,而后面的GP102核心跟GP100也不同,更像是GP104核心的扩大版,也是每组SM单元128个CUDA核心。

性能暴增50%!NVIDIA全新显卡架构Volta解析
GP100核心架构示意图

回到GP100与GV100大核心上,他们的架构也是渐进式变化,也是6组GPC计算单元,不过GP100核心每个GPC单元中是10组SM单元,每个SM单元有64个CUDA核心,而GV100大核心中每组GPC单元是14个SM单元,总数应该是84组SM单元,但是现在Tesla V100跟Tesla V100一样都不是完全体,前者启用了56组SM单元,后者启用了80组SM单元,总计80x64=5120个CUDA核心。

性能暴增50%!NVIDIA全新显卡架构Volta解析
GV100核心架构示意图

以上算的是典型的FP32单精度运算单元,除此之外还有FP64单元,GV100依然延续了GP100中FP32:FP64=2:1的比例,每个SM单元中有32个FP64单元,理论上有2688个FP64单元,实际启用的是2560个。

NVIDIA这两年在深度计算、人工智能等领域投入很多精力,GPU架构也在传统HPC应用之外开始适应这些新兴领域,他们对运算精度要求没这么高,但对性能要求很高,Pascal显卡中就开始支持FP16、FP8精度运算,执行这些运算的性能也是翻倍增长。

性能暴增50%!NVIDIA全新显卡架构Volta解析
GV100与GP100核心SM单元的变化

因此在GV100大核心,NVIDIA还加入了专门的Tensor(张量)运算单元,大部分人估计不熟悉这个词,不过还记得前不久Google搞的那个TPU在AI性能上吊打GPU的新闻吗?Google的TPU处理器中的T也是Tensor这个词,大家可以把它当作专用的AI运算单元来看。

性能暴增50%!NVIDIA全新显卡架构Volta解析
GV100核心中增加了专门的Tensor运算单元

在GV100大核心中,每组SM单元中还有8个Tensor单元,这样整个SM单元中就是FP32:FP64:Tensor=64:32:8的比例存在,GV100也因此有了Tensor计算能力这个指标,Tesla P100的Tensor计算能力高达120TFLOPS,NVIDIA宣称它的Tensor性能是Pascal架构的12倍。

Volta支持第二代NVLink技术:300GB/s带宽

除了针对AI等新兴领域改进了Tensor单元之外,GV100核心在总线技术上也有升级,这次使用的是NVLink 2,如果你注意看了上面的架构示意图,应该可以发现GV100核心是6组NVLink通道,双向总带宽可达300GB/s。

相比之下,GP100核心上是4组NVLink通道,每个通道带宽是40GB/s,总带宽是160GB/s。

不论NVLink还是NVLink 2总线,相比PCI-E 3.0 x16双向32GB/s的带宽都有明显提升,不过NVLkink并不是通用技术,主要用于IBM和NVIDIA开发的超算平台,这次GV100核心就会用在双方合作的Summit超算上,预计今年下半年正式启用。

Volta工艺升级:这个12nm有点特别

NVIDIA在主题演讲中还提到了Volta显卡的制造工艺,使用的是TSMC的12nm FFN工艺,听上去要比目前TSMC 16nm工艺更先进,那这种新工艺对Volta显卡到底有什么改善吗?我们依照上次的计算简单评估下不同工艺下的晶体管密度及效能。

由于AMD Vega显卡的核心面积、晶体管数量都是未知数,所以这里只对比了NVIDIA几代显卡的。

性能暴增50%!NVIDIA全新显卡架构Volta解析

GV100核心是12nm工艺,211亿晶体管,核心面积815mm2,算下来晶体管密度是每平方毫米25.9百万晶体管,与16nm工艺的晶体管密度差不多。实际上,TSMC的12nm工艺也是16nm工艺的改良版。根据TSMC此前公布的资料,它实际是基于16nm FFC工艺改进的,性能是后者的1.1倍,功耗只有后者的70%,核心面积则可以缩小20%。

按照TSMC的说法,16nm FinFET Plus依然是他们性能最好的16nm工艺,现在GV100用的12nm工艺在性能上还真不一定能超过16nm FinFET Plus工艺,Tesla V100的加速频率就比P100要低一些,但从核心面积来看,计算单元规模增加了43%,核心面积只增加了33%,说明这个12nm工艺对缩小面积还是挺管用的。

至于未来的消费级显卡,GV102、GV104核心上12nm工艺也没跑了,但显卡的核心频率不会再像Pascal对比Maxwell时代那样大幅提升了,性能提升只能靠计算单元数量增加了。

Volta架构性能:比Pascal提升50%

说到性能,我们再简单看下NVIDIA官方资料中介绍的GV100性能提升情况:

性能暴增50%!NVIDIA全新显卡架构Volta解析
DL深度计算性能三倍快,这个因为有Tensor单元加持,性能暴涨很正常

性能暴增50%!NVIDIA全新显卡架构Volta解析
HPC性能提升情况

与Tesla P100加速卡相比,Tesla V100在不同HPC应用中性能提升有所不同,多的能超过70%,少的也有40%以上,官方给出的平均性能提升大约是50%——考虑到计算单元增幅也有43%,性能提升基本上与计算单元数量增幅呈正比,这跟Tesla P100时代频率大幅提升带来性能大提升的情况也有所不同。

总结:

GV100核心是为HPC运算市场而生的,跟Tesla P100的GP100核心一样也不会用于消费级市场,所以这篇文章对我们的意义更多地是分析未来的GV102、GV104核心的GeForce 20系列显卡的性能及表现。

与GV100一样,GV102/104核心的CUDA核心数量也会进一步提升,NVIDIA还可以通过阉割对消费级市场没什么用的FP64、Tensor单元来降低核心面积及成本,一如GP100到GP102那样。

Volta架构使用的12nm工艺在降低核心面积上很有用,但是从GV100上的频率来看,12nm下消费级Volta显卡的核心频率恐怕也很难有明显提升了,现在的GTX 10系中高端非公版显卡核心频率都能达到2GHz左右,未来的12nm Volta显卡估计也就是这个水平,甚至还有可能更低一些。

如果是这种情况,NVIDIA要想提高新一代显卡的性能,那么就只能从CUDA核心数量上着手了,Pascal这一代在频率上占了很多红利,Volta又要回到GPU运算单元提升的道路上了。

目前消费级的Volta显卡还没有明确的发布时间,今年底有希望推出部分高端产品,不过更有可能的还是2018年Q1季度,所以现在的Pascal显卡并不会受到什么冲击,大家现在该买什么卡就买什么卡,不着急的也可以等等AMD发了Vega显卡之后再看。不过NVIDIA看起来并不担心AMD的竞争,黄仁勋在之前的财报会议上表态2017年的市场竞争态势不会有什么变化,换言之就是AMD发布的Polaris 20及Vega 10显卡对他对不会有什么影响。

文章价值打分
当前文章打分0 分,共有0人打分
文章观点支持

+0
+0

快科技客户端

扫描安装快科技APP

驱动之家微信公众号

扫描关注驱动之家