中国制造业竞争力价值研究官网
助动中国制造2025战略

栏目
价值专题 民营百强 行业中心 课题研究 上市百强 媒体报道
当前位置:主页 > MIC 2025 > 行业中心 >
行业中心

性能提升20倍!NVIDIA A100 GPU打破16项AI芯片性能记录

2020/08/01 作者:智造文记 来源:智造新闻互联网 点击:

  摘要:2020年7月30日,MLPerf组织发布第三个版本MLPerf Trainingv0.7基准测试(Benchmark)结果。结果显示,英伟达基于今年5月最新

2020年7月30日,MLPerf组织发布第三个版本MLPerf Trainingv0.7基准测试(Benchmark)结果。结果显示,英伟达基于今年5月最新发布的Ampere架构A100 TensorCore GPU,和HDR InfiniBand实现多个DGXA100系统互联的庞大集群——DGX SuperPOD系统在性能上开创了八个全新里程碑,共打破16项纪录。

MLPerf是成立于2018年5月的行业基准测试组织,致力于机器学习硬件、软件和服务的训练和推理性能测试,囊括行业中几乎所有知名企业和机构,比如Intel、NVIDIA、Google、微软、阿里巴巴等。

DGX SuperPOD系统公布于去年6月17号。最初由96台NVIDIA DGX-2H超级计算机和Mellanox互连技术在短短三周内建成,提供9.4千兆次的处理能力,用于该公司在无人驾驶车辆部署计划中的需求。

而此次创造纪录的NVIDIA DGX SuperPOD系统主要基于Ampere架构以及Volta架构,并且搭载了今年5月份发布的Ampere架构GPU A100。

黄仁勋在GTC 2020大会上说道,A100是迄今为止人类制造出的最大7纳米制程片。A100采用目前最先进的台积电(TSMC)7纳米工艺,拥有540亿个晶体管,它是一块3D堆叠片,面积高达826mm^2,GPU的最大功率达到了400W。

这块GPU上搭载了容量40G的三星HBM2显存(比DDR5速度还快得多,就是很贵),第三代TensorCore。同时它的并联效率也有了巨大提升,其采用带宽600GB/s的新版NVLink,几乎达到了10倍PCIE互联速度。

随着安培架构出现的三代TensorCore对稀疏张量运算进行了特别加速:执行速度提高了一倍,也支持TF32、FP16、BFLOAT16、INT8和INT4等精度的加速——系统会自动将数据转为TF32格式加速运算,现在你无需修改任何代码量化了,直接自动训练即可。

A100也针对云服务的虚拟化进行了升级,因为全新的multi-instanceGPU机制,在模拟实例时,每块GPU的吞吐量增加了7倍。

最终在跑AI模型时,如果用PyTorch框架,相比上一代V100芯片,A100在BERT模型的训练上性能提升6倍,BERT推断时性能提升7倍。

电子发烧友综合报道,参考自镁客网、机器之心,转载请注明来源和出处。

性能提升20倍!NVIDIA A100 GPU打破16项AI芯片性能记录

人收藏

分享:

评论

发布评论请先

相关推荐

MediaTek针对5G芯片做出了快速的响应

针对网络升级,MediaTek 天玑1000系列可以用快、稳、省电、灵活、准确来概括。无论是5G连接....

的头像

联发科技 发表于 07-31 10:32 186次 阅读

NVIDIA生态系统赋能AI产业

目前,客户已经采用这些参考架构来构建自身的DGX POD和DGX SuperPOD。其中包括美国最快....

发表于 07-31 10:08 342次 阅读

NVIDIA生态系统赋能AI产业

骁龙移动平台协助你在游戏战场上纵横驰骋

骁龙移动平台采用先进的制程工艺,集成了强大的Kryo CPU核心,Adreno GPU,拥有强悍性能....

的头像

Qualcomm中国 发表于 07-31 09:59 77次 阅读

NVIDIA已经与ARM达成了潜在交易

该报告还补充说,NVIDIA的收购报价有可能无法实现,ARM可能会选择公开上市。如果收购成功,那么它....

的头像

倩倩 发表于 07-29 16:23 402次 阅读

NVIDIA已经与ARM达成了潜在交易

OPPO Find X2 / X2 Pro在中国获得GPU驱动程序更新

 Oppo Find X2 / Find X2 Pro的GPU驱动程序更新当前仅限于设备的中文版本。....

的头像

倩倩 发表于 07-29 09:21 196次 阅读

OPPO Find X2 / X2 Pro在中国获得GPU驱动程序更新

NVIDIA通知三季度GPU芯片供应量仅为70%水平

7月28日消息,据最新爆料,NVIDIA已经通知AIC厂商8月到10月份GPU供应量只有上季度的70....

凡本网注明“中国制造2025”的所有作品,媒体转载请注明。

凡注明为其他来源的信息,均转载自其他媒体,转载目的在于传递更多信息,并不代表中国制造2025网赞同其观点及对其真实性负责。

分享到: 0

图文阅读

英特尔智能边缘创新日成功举办 产品、方案、生态三力齐发

英特尔智能边缘创新日成功举办

智造文 发布于2020-07-31

英特尔关键技术部门拆分 英特尔二号人物首席工程官离职

英特尔关键技术部门拆分 英特尔

智造文 发布于2020-07-31

特斯拉上海超级工厂启动大规模招聘 成立中国设计研究中心

特斯拉上海超级工厂启动大规模招

智造文 发布于2020-07-31

低功耗无线技术助力智慧物流市场快速成长

低功耗无线技术助力智慧物流市场

智造文 发布于2020-07-31

比尔·盖茨痛批美国核酸检测:根本没意义 无法阻止疫情爆发

比尔·盖茨痛批美国核酸检测:根

智造文 发布于2020-07-31

中国制造2025官网

 

中国企业竞争力发展研究中心

 

中国制造产业智库

 

关于中国智造网|About CHINA-MIC.CN|联系我们|网站地图 |RSS地图

京ICP备19032137号 邮箱:MIC@CHINA-MIC.CN

中国企业竞争力发展研究中心主办 Copyright t © 2019-2020 中国智造网 版权所有