1度电可实现多少次AI推理计算?宁畅的答案是:上百万次!

11月4日,2022云栖大会上,宁畅公司首席技术官赵雷介绍,依托“全系统定制液冷服务器方案”,宁畅可让1度电能实现上百万次的AI模型推理计算,让高能耗AI产业顺应“低碳”政策要求。

伴随AI产业高速发展,数据中心建设迎来热潮,但对更高算力的需求,也给数据中心行业带来能耗难题,伴随多项政策出台,降低PUE(数据中心能源效率指标)成为IT企业追求目标。

2022云栖大会上,宁畅首席技术官赵雷在远程分享《场景化绿色算力发展与实践》报告时表示,宁畅“全系统定制液冷方案”不仅可让数据中心PUE值降低至1.2以下,还可满足服务器单芯片500W功耗的散热,让单机柜功率得到提升并节省部署空间80%,噪音低于50分贝。

2022云栖大会宁畅报告现场

“通过总负载10MW的数据机房来看,采用宁畅液冷方案,相比传统风冷模式,其年均节省电费可高达1580万元,节省的电能,每1度都可进行数百万次AI推理计算。”

赵雷介绍基于MLPerf-training2.0、MLPerf-inference2.1人工智能测试标准,宁畅新款液冷服务器,仅1度电就可实现16870314次目标识别分类、435343次重量级目标分析,能效比位列行业头部。

2022年9月,在国际权威AI性能基准测试平台MLPerf的最新推理(Inference 2.1)结果中,宁畅两款液冷服务器共获得13项的第一成绩,该成绩背后是每秒可完成679915个样本处理的世界顶级性能。

另据IDC最新发布的《2022上年度(H2)中国加速计算服务器市场分析报告》显示,宁畅(Nettrix)已位列中国区加速服务器市场第二名。

如今,宁畅作为智能算力定制专家,已承接定制化服务器项目近千个,其中液冷方案众多。