正文内容 评论(0

深度学习提速280%!阿里云性能怪兽GN6 V100 GPU实例深度测试
2017-11-15 12:06:09  作者:lovexx 编辑:lovexx     评论(0)点击可以复制本篇文章的标题和链接

在GTC 2017大会上,NVIDIA的CEO黄仁勋正式发布了其新一代旗舰计算卡Tesla V100,但是一项技术从发布到真正使用到生产环境中,仍需要大量的时间。V100何时才能够被广大消费者接触到呢?阿里云首先交出了自己的答卷。

近期,国内云计算一哥阿里云开启了新一代高性能GPU计算云服务器GN6系列的公测,也是国内运营商中首个提供最新NVIDIA V100 GPU的云服务提供商。

深度学习提速280%!阿里云性能怪兽GN6 V100 GPU实例深度测试

据悉,新的计算实例搭载最新的NVIDIA V100计算核心,宣称可带来数倍的深度学习性能提升。究竟搭载英伟达V100的阿里云GPU实例有几把刷子,我们申请了一台最新的GN6系列云服务器,进行了深度测试,一起来看下。

人工智能市场爆发GPU云服务器成香饽饽

深度学习提速280%!阿里云性能怪兽GN6 V100 GPU实例深度测试

随着人工智能的发展,基于GPU的异构计算开始不断升温。特别是传统的CPU通用计算由于受到半导体工艺、存储带宽瓶颈等问题,开始在人工智能的运算中显露疲态。而GPU由于省去了CPU中复杂的控制流,可以将所有算力都投入到深度学习所需要的矢量运算中去,大大提高了算力和算力利用率。

除了性能之外,带来的更多的还是成本的降低。按照传统方案,云服务商可以采购4个机架、共160个CPU服务器,在功耗65千瓦的情况下提供每秒45000张照片的处理能力。而如果换成GPU的产品,你可能只需要一个装有8片GPU的服务器,同样的每秒45000张照片处理能力,但是你只需要7个服务器插槽,总共的功耗也只有3千瓦。

深度学习提速280%!阿里云性能怪兽GN6 V100 GPU实例深度测试

在公测期间,用户可以登陆阿里云平台提交测试申请,提交申请的用户会拿到阿里云异构计算平台提供的GN6云服务器,进行业务和平台验证。如果你像我一样,忍受不了长时间的计算,那么GN6系列可能是在目前所有的选择中最合适的那一款。

得益于搭载的NVIDIAV100GPU拥有的新的VOLTA架构及新增的Tensor单元等因素,GN6云服务器相比前代GN5云服务器拥有更加强劲的性能,能够以更少的时间花费来完成计算。

从P100到V100性能提升近300%

深度学习提速280%!阿里云性能怪兽GN6 V100 GPU实例深度测试

我们也通过申请拿到了一台GN6云服务器(实例IDecs.gn6p-c8g1.2xlarge,8vCPU,32GB内存)来测试,同时我们还购买了几个同配置的其他机型,来进行对比测试,具体的测试结果如下:

使用MXNet框架,测试Inception-V3网络在ImageNet数据集的图像分类训练的Benchmark性能

深度学习提速280%!阿里云性能怪兽GN6 V100 GPU实例深度测试

使用NVCaffe框架,测试GoogLeNet网络在ImagNet数据集的图像分类训练性能

深度学习提速280%!阿里云性能怪兽GN6 V100 GPU实例深度测试

目前来说,社区的框架还没有更新到能够完全利用TensorCore的水平,所以性能无法达到在发布会上声称的十数倍的提升,不过即使是在这种情况下,我们测试到的结果依然表现不俗,性能相比于前代GN5云服务器提升了接近3倍。同样工作量的训练任务工作时间将压缩过半。

随着后续机器学习框架不断升级优化,TensorCore的性能将得到全面发挥,将会给机器学习带来再一次大幅度提速。

姗姗来迟的基础镜像云服务器开箱即用

一直以来,我们购买GPU云服务器后,都需要花费大量的时间来进行基础环境的配置、安装NVIDIA的驱动。在此处更新中,阿里云还上线了新的基础镜像,新的基础镜像预装了NVIDIAGPU驱动和深度学习框架的系统镜像,我们在云服务器启动随即可以准备开始进行深度学习的计算,大大节省了环境配置的时间,减少重复工作,GPU云服务器也终于做到了开箱即用。

创建云服务器时,开发者可以直接在选择镜像时在镜像市场搜索“深度学习”,就可以找到预装深度学习框架的系统镜像,点击使用就可以直接创建开箱即用的GPU云服务器。

深度学习提速280%!阿里云性能怪兽GN6 V100 GPU实例深度测试

我们在使用GPU云服务器进行深度学习所需要的准备时间从原来的数个小时缩短到了不到五分钟,确确实实节省了大量的工作时间。

总结

就目前人工智能而言,已然进入战国时代,而且各家的产品都有可能在这个广阔的市场中找到自己的定位和细分市场,从跑分来看,阿里云的GN6系列云服务器是市面上性能最强的GPU云服务器,没有之一。在易用性上,一键部署、镜像市场等服务都有不俗的表现。

在价格方面,阿里云GN6相比同类的V100服务器要低上不少,让我们看到了作为云计算领军者的诚意。同时我们也相信未来会有更多的云厂商推出类似的服务,让整个人工智能市场拥有强大的计算能力。

【本文结束】如需转载请务必注明出处:快科技

责任编辑:文章纠错

  • 支持打赏
  • 支持0

  • 反对

  • 打赏

文章价值打分

当前文章打分0 分,共有0人打分
  • 分享好友:
  • |
本文收录在
#快讯

  • 热门文章
  • 换一波

  • 好物推荐
  • 换一波

  • 关注我们

  • 微博

    微博:快科技官方

    快科技官方微博
  • 今日头条

    今日头条:快科技

    带来硬件软件、手机数码最快资讯!
  • 抖音

    抖音:kkjcn

    科技快讯、手机开箱、产品体验、应用推荐...