2024年9月20日

NVIDIA 今天宣布,NVIDIA Turing T4云GPU继续强势加速,几家科技巨头正在推出基于全新 NVIDIA® T4 GPU 的新产品和服务,它已成为普及最为迅速的一款服务器 GPU。

搜索、社交媒体和在线购物网站等互联网公司是 T4 的早期使用者,也是最大的终端客户群。中国首批开始使用 T4 扩展并提升工作负载横向扩展的企业包括百度、腾讯、京东以及科大讯飞。中国领先的计算机制造商也将推出一系列基于 T4 的服务器,包括浪潮、联想、华为、曙光、浪潮商用机器和新华三等。

此前 NVIDIA 曾在上周宣布,T4 在仅推出 2 个月后,即在全球领先的计算机制造商的 57 种独立服务器设计中发挥重要作用。此外,谷歌云宣布谷歌云平台客户可以使用 T4。

NVIDIA 副总裁兼加速计算总经理 Ian Buck 表示:“中国采用 T4 的速度之快并不令人意外,以前我们从未推出过这样的 GPU,为公共云和私有云提供所需的综合性能和能效,可大规模、更经济地运行计算密集型工作负载。并且,中国的市场‘规模’无可比拟,我们预测 T4 将非常受欢迎。”

采用 T4 的中国服务器公司包括浪潮、华为、联想、曙光、浪潮商用机器和新华三。这些新系统包括:

T4 旨在满足横向扩展的公共云和企业云环境的独特需求,最大限度地提高吞吐量、利用率和用户并发性,帮助客户高效应对用户及数据爆炸式增长的问题。

小巧的 70 瓦特 T4 GPU 大致相当于一条巧克力糖的大小,可灵活适应于标准服务器或任何开放计算项目的超大规模服务器设计。服务器设计的范围可从单个 T4 GPU 直至单节点中的 20 个 GPU。

T4 的多精度功能可支持 4 种不同精度等级的各类AI工作负载,助力实现突破性的 AI 性能,FP32精度能够提供 8.1TFLOPS,FP16 精度能够提供 65 TFLOPS,INT8 精度能够提供 130 TOPS,INT4精度能够提供 260 TOPS。针对 AI 推理工作负载,配备 2 个 T4 GPU 的单个服务器最多可取代 54 台CPU服务器。针对 AI 训练,配备 2 个 T4 的单个服务器可取代 9 台双套接字 CPU 服务器。

基于NVIDIA GPU在易用和能效上的卓越特性,浪潮与NVIDIA已共同协助全球众多的AI商业公司,部署了高性能、低功耗、高带宽、低延迟的AI线上推理平台,极大促进了AI商业价值的实现。随着NVIDIA新一代Turing架构T4和TensorRT 5的发布,浪潮将凭借强大的产品创新能力,第一时间为全球AI用户带来极致的AI加速体验,并与NVIDIA共同推动全球AI生态的可持续发展。

联想在进军人工智能和HPC领域已经积累了相当的技术和经验,并在HPC领域占有绝对优势。在数据中心,GPU 应用性能爆发推进了HPC及云计算的跨越式发展。结合最新的NVIDIA T4 GPU,联想将向市场推出性能更加强大的产品和解决方案,保持在HPC领域的领先地位,并在数据挖掘,数据检索,大数据分析,人工智能等领域帮助用户取得数据科学应用的突破。

华为智能计算致力于让计算无处不在,让智能无所不及。华为G系列服务器在第一时间支持NVIDIA Tesla T4,一起为客户提供具有竞争力的AI解决方案。面向未来华为将永远保持开放合作生态,和业界合作伙伴加速AI的普及。NVIDIA作为AI领域的领先者,华为将和NVIDIA持续深入合作,一起构建无所不在的智能社会。

曙光作为中国计算技术的领导者,我们一直认为“智能改变世界,计算决定未来”。人工智能产业化基础之一是计算技术,基于NVIDIA Turning架构的Tesla T4 GPU是面对HPC横向扩展的人工智能训练和推理计算的最佳选择,曙光全新发布的XMachine系列人工智能专用服务器搭配最新的T4 GPU,服务于人工智能推理应用部署,将成为人工智能技术产业化落地的重要技术保障。

新华三始终致力于新技术与新应用的不断探索,为用户数字化转型提供领先的基础架构服务。在人工智能领域,新华三与业界领导者NVIDIA一直保持紧密的合作,为国内用户提供最新的AI技术和场景化的应用解决方案。最近NVIDIA公司发布了新一代GPU Tesla T4 ,新华三R4900G3 在第一时间支持了这款性能卓越的GPU ,帮助用户大幅提升语音、视频、搜索引擎等AI训练和推理性能,加速AI 应用。

云计算与混合异构计算的技术,为人工智能的发展带来了巨大的算力支撑,创造了非常庞大的应用体系。面向人工智能的新的业务负载,浪潮商用机器以开放POWER横向扩展平台,在OpenPOWER合作生态环境下,浪潮商用机器与NVIDIA正在联合构建下一代推理硬件和软件平台,构建高效推理负载效能新标准。利用POWER9和Tesla T4激发巨大的潜力,推动各种新型的应用的发展,为整个IT系统的跃迁提供重要的台阶。

“京东云致力于为用户提供一站式全方位的云计算解决方案,在云计算、AI技术方面有深厚的技术积累。京东云与NVIDIA基于最前沿IT技术联合开发GPU云产品,为当今的公共云和私有云提供了大规模计算密集型工作负载所需的性能和效率。期待双方的合作能给用户带来更加便捷、高效的体验与服务。”

科大讯飞作为国内领先的人工智能公司,秉承平台+赛道的AI战略,一直保持着在语音识别、机器翻译和图像识别等领域的领导地位。在此过程中,科大讯飞和NVIDIA保持了非常紧密的技术沟通和产品合作,作为国内首批TESLA T4的客户,经过详尽的测试,我们充分的感受到了Turing架构的优秀AI计算能力,相信我们双方会携手合作,利用两家的优势为广大AI用户提供更好的AI体验。

训练模型的时候,如果机器锁屏一段时间再打开的时候鼠标非常卡顿,或者说显示界面非常卡顿,使用

架构和RTX技术,使得GCP用户可以在任何位置,借助任何设备使用新一代计算机图形技术,包括实时光线追踪、AI、仿真和光栅化。

可以将ResNet-50的推理速度提高10倍以上。受益于全球供货和谷歌的高速网络,GCP上的

深度学习训练和推理、机器学习以及数据科学工作负载的 Tensor Core,以及丰富的平台堆栈,包括用于深度学习的cuDNN、用于数据分析和机器学习

以及TensorRT推理引擎进行INT8低精度推理,极大提升了微信搜索的速度,进一步提升了用户体验,节约了公司成本。

洞悉 Omniverse:Marmoset 带来渲染方面的突破,通过扩展对 OpenUSD 的支持改进 3D 艺术创作流

184.最新Python教程19天从入门到精通(Python Tutorial) P185 【第10天】03

发表评论

邮箱地址不会被公开。 必填项已用*标注