2024年9月20日

财联社资讯获悉,机构指出,随着大模型以及相关应用的发展,算力需求呈现爆发式增长。中小企业在发展AI模型、应用过程中,遭遇算力瓶颈,此时算力租赁成为广大中小企业解决算力需求的最优解。

AI大模型的兴起和ChatGPT的快速使用,对GPU芯片的需求急剧增加。根据Omdia统计预测,第二季度英伟达的H100 GPU出货量超过816吨。考虑到单H100芯片(叠加散热器)总重量超过3公斤,则单二季度英伟达H100出货量约30万片。根据GPU Utils预测,H100 GPU当前供给缺口近43万片。

从GPU客户类型看,主要分为训练LLM的创业公司(OpenAI、Inflection等)、云服务提供商(AzureGoogle Cloud、AWS)、垂类应用龙头(特斯拉等),由于云厂商、垂类应用公司自身仍对GPU有较大需求,GPU对于LLM等创业公司仍是较为“稀缺”资源。

民生证券表示,算力租赁介于上游GPU供应商及下游客户间,起到了“中介人”的角色,即租即用的商业模式一定程度上降低了算力使用门槛,也令中小型LLM创业公司触及高性能GPU芯片。在未来核心硬件紧俏的市场格局下,国内算力租赁仍有较大发展空间。

国盛证券报告指出,算力租赁是一种通过云计算服务提供商租用计算资源的模式,云算力采用“化整为零”的方式赋能产业链各方,具备可持续性。需求侧,随着AIGC大模型所需算力狂飙,AI算力租赁市场潜力增加。

根据OpenAI测算,自2012年至2018年,用于训练AI所需要的算力大约每隔3-4个月翻倍,每年头部训练模型所需算力增长幅度高达10倍,整体呈现指数级上涨。供给侧,算力生产商与云平台的合作由来已久,用户可以通过阿里云、腾讯云等平台租用英伟达A100等显卡与AI处理器,随着英伟达DGX云的推出,AI云算力进入新阶段。

青云科技可以为企业提供算力租赁服务,基于AI算力调度服务提供预训练模型的算力服务。青云科技的超级智算平台适用于生命科学、CAE仿真、海洋气象、影视渲染、石油勘探、深度学习、测绘地理、模型训练、场景推理等计算场景。

润建股份算力服务可以提供算力租赁业务和算力管维服务,在算力租赁业务上,润建股份智能算力中心第一期将为客户提供2533Pops(Int8)定点算力或43Pflops(FP32)单精度浮点算力,后续根据客户需求持续投入。

真视通近期签订服务器采购合同,公司采购协议购买的是GPU为英伟达H800芯片的服务器,合同金额2.91亿,1000张H800芯片算力约在2000p左右,本次采购基本都是为算力租赁准备的。规划首期规模2000p,根据需求情况,不排除万p以上的投资计划。

发表评论

邮箱地址不会被公开。 必填项已用*标注