2024年9月21日

,以及搭载该 GPU 的 OVX 服务器系统,这款计算加速显卡可以用于图形渲染、人工智能大模型训练和推理、三维设计和视频处理等用途,AI 运算性能高于 A100 GPU。由于这款加速卡不支持 NVLink,且没有选择采用 HBM 显存,而是采用 GDDR6 ECC 显存,因此 L40S 相比 A100、H100 更加适用于边缘运算。

据悉,这款 L40S GPU 搭配最新发布的 OVX 服务器,可适用于 AI 大模型训练和推理、三维设计、可视化、视频处理、工业数字化等多种用途,相比 A100 GPU,这套“相得益彰”的 L40S 系统能够“增强生成式 AI、图形和视频处理能力,并满足不断增长的算力需求”。

英伟达声称,L40S 的生成式 AI 推理性能比 A100 高 1.2 倍,训练性能高 1.7 倍,英伟达表示,对于“具有数十亿个参数和多种数据模式的复杂 AI 工作而言”,L40S 的效能更加突出。

英伟达表示,英伟达 L40S GPU 将在今年秋季上市,每台英伟达 OVX 服务器系统最多可搭载 8 个 L40S 加速卡,不过英伟达并没有透露该 GPU 的定价。

英伟达同时表示,华硕、戴尔、技嘉、HPE、联想、QCT 和美超微等厂商,将“很快推出”搭载 L40S GPU 的 OVX 服务器系统。

NVIDIA L40S GPU 可为您提供突破性的多工作负载性能体验。 精心设计的 L40S GPU 将强大的 AI 计算性能与出色的图形和媒体加速功能相结合,旨在为新一代数据中心工作负载提供支持。从生成式 AI 和大型语言模型(LLM)推理与训练,到 3D 图形、渲染和视频,都能应对自如。

多年来一直专注于科学计算服务器,入围政采平台,H100、A100、H800、A800、RTX6000 Ada,单台双路192核心服务器有售。返回搜狐,查看更多

发表评论

邮箱地址不会被公开。 必填项已用*标注