2024年9月20日

集微网消息,此前英伟达GPU严重短缺,过去几个月,许多规模不同的公司称收到了数千个英伟达H100 GPU。

英伟达一直对H100施行配给制度,根据人工智能(AI)模型的规模、可用基础设施和客户概况来评估客户,并优先考虑各个行业财力雄厚的客户。特斯拉是其中之一。

几个月前,特斯拉CEO马斯克表示注意到GPU短缺,并正在等待接收英伟达GPU以提高人工智能能力。马斯克表示,特斯拉启动了由10000个H100 GPU组成的集群,并且部署速度极快。

此外,数据中心提供商和前比特币挖矿公司正在开设具有H100集群的数据中心。英伟达还提供了关于客户何时收到H100 GPU的更清晰的时间表。

数据中心提供商Applied Digital购买了34000个H100 GPU,其于9月开始收到5月下订的GPU。9月份,它收到了1024个GPU,CEO Wes Cummins估计10月份数量翻了一番,并且11月、12月以及明年1月份这个数字可能会显著增加。

加密矿企Iris Energy正在创建人工智能计算基础设施,支付约1000万美元购买248个英伟达GPU。预计其订购产品在未来几个月内交付。

由亿万富翁Jed McCaleb资助的初创公司Voltage Park收到24000个H100 GPU,这些GPU分布在华盛顿州、得克萨斯州和弗吉尼亚州的集群中。该公司表示,订单是在2023年4月左右下的。团队提前下了一份非常大的订单,以保证有足够的供应。

Voltage Park还旨在通过支持FLOP Auction计划,为客户提供廉价的H100 GPU计算能力。类似eBay在H100上进行人工智能训练,出价最高者获得服务器时间。

除了提供H100,英伟达也通过云端供应商租用GPU扩大H100产能,而非直接出货给客户。研调机构TrendForce报告指出,因美国的AI禁令,可能使英伟达更积极主推以A100或H100 AI服务器为基础DGX cloud订阅租赁模式,甚至拓展到L40S等其他云端,以服务中国客户,或其他潜在有地缘风险地区的客户。

Crusoe Energy是一家前加密货币矿商,以20000台H100作为抵押,获得2亿美元的融资。同样,GPU计算提供商CoreWeave也以H100作为抵押获得价值24亿美元的融资。

此前,由于CoWoS封装产能限制加剧GPU的短缺,英伟达正在帮助台积电寻找新的合作伙伴和供应商来解决短缺问题。

展望未来,其他因素可能会意外地结束短缺并加速英伟达的GPU出货量。如美国对华出口限制可能释放英伟达的制造能力生产更多H100芯片。

对于短缺问题是否已得到解决,英伟达拒绝发表评论。报道称,该公司可能会在11月21日的财报电话会议上提供GPU供应的最新信息。

此外,尽管市场对H100的需求火热,英伟达最近还是宣布了更新的路线图,计划在未来三年推出新的GPU。

【一周IC快报】英伟达RTX 4090显卡11月17日起将被限制对华出口;印度IT硬件进口管理新系统11月1日生效;郭台铭团队因涉嫌选举行贿遭调查……

发表评论

邮箱地址不会被公开。 必填项已用*标注