2024年9月17日

受AI大模型发展热潮,市场算力需求大增,AI服务器作为算力基础设施之一,因市场需求大增,外加核心零部件GPU芯片持续紧缺、价格不断上涨等原因,近期AI服务器价格大涨。

据证券时报·e公司报道,有企业向记者透露,其去年6月购买的AI服务器不足一年价格涨了近20倍。同期,GPU价格也不断上涨,例如A100GPU市场单价已达15万元,两个月前为10万元,涨幅50%,而A800价格涨幅相对更小,价格在9.5万元左右,上月价格为8.9万元左右。

东莞松山湖一家检测企业相关负责人表示:“去年6月我们公司购买了8台AI服务器,它的基础配置为8颗英伟达A100GPU,存储是80G,当时购买价格为8万元/台,今年3月已经涨到130万元/台,现在大约160万元/台,不到一年涨了近20倍。不仅是这款AI服务器涨价,基本上所有与英伟达相关的AI服务器都在涨价,后悔买少了”

某服务器ODM企业相关人士告诉证券时报记者:“从5月份开始该公司A100卡也有15%涨幅,整体AI服务器为10%左右的涨幅。”

“AI服务器价格这几年一直变化较大,主要因其配置在不断提升,同时其核心零部件GPU全球主要厂家英伟达、AMD在GPU方面的产能有限,市场GPU供应持续紧缺,预计未来AI服务器价格仍将保持上涨趋势。”IDC中国研究经理索引表示。

事实上,今年以来,市场频传AI服务器价格大涨。究其原因,市场需求大增是AI服务器价格大涨的主因。

据了解,ChatGPT火热后,全球各大科技企业都在积极拥抱AIGC(生成式AI),据不完全统计,国内已有超过30项大模型产品亮相。

然而,AI大模型的实现,需要海量数据和强大算力来支撑训练和推理过程,AI服务器作为算力基础设施单元服务器的一种类型,由于普遍采用CPU(中央处理器)、GPU等组合的异构式架构,可以满足大模型所需强大的算力需求。

据了解,不同于高性能服务器、通用服务器,AI服务器除了2颗CPU外,一般还要配备4~8颗GPU,部分高配服务器甚至可以搭配16颗GPU,目前市场上主流的AI服务器一般配置2颗CPU加8颗GPU,因此AI服务器需求的提升,将直接成倍增加市场对GPU的需求,同时也提升了GPU、CPU等零部件在AI服务器中的成本占比。

有机构数据显示,AI服务器(训练)芯片组(CPU+GPU)成本占比达83%、AI服务器(推理)芯片组占比为50%。

目前GPU市场主要由英伟达和AMD两家所占据,其中英伟达占据全球约八成市场份额,且英伟达GPU产能有限,持续紧缺,价格也不断上涨。

5月15日,据证券时报记者从一家英伟达终端商家了解到,目前英伟达A100单价为15万元,两个月前为10万元,涨幅50%,另外A800目前单价约为9.5万元,上月单价为8.9万元。

商家表示:“现在的A100是在之前买的一点尾货,卖完就没有了,别说涨价,或者是不是全新,有货就很好了。”这位商家还提到,“A100还会涨,8月份估计要涨到20万每颗”。

还有代理商透露,英伟达A100价格从去年12月开始上涨,截至今年4月上半月,5个月价格累计涨幅达到37.5%;同期A800价格累计涨幅达20%。

由于算力需求的增加,即使是涨价后市场对于英伟达芯片的需求并未减少,这导致英伟达GPU交货周期也被拉长,之前拿货周期大约为一个月,现在基本都需要三个月或更长,甚至部分新订单“可能要到12月才能交付”。

而为了应对增加的订单量,英伟达也向台积电追加预订1万片先进封装产能,以满足AI规格芯片的生产。

注:本文来源证券时报,文章仅供参考学习和交流之用,不构成任何建议,不代表本号立场。如有任何问题,敬请联系我们()。

发表评论

邮箱地址不会被公开。 必填项已用*标注