2024年9月20日

生成式AI的持续火爆,催生了对AI算力的急剧增加,同时引发了对GPU计算卡和高性能AI服务器的巨大需求。ChatGPT成为了热门话题后,全球各大科技巨头纷纷倾向于生成式AI,积极涉足AI大模型领域,AI大模型的实现需要大量数据和强大的算力支持进行训练和推理。华为预测 2030 年相 比 2020 年 AI 爆发带来的算力需求将增长 500 倍。

服务器,也称伺服器,本质是计算机,核心硬件包括以 CPU(中央处理器)、GPU 为代表的加速卡、内存、硬盘、网卡、电源、主板等。AI服务器作为算力基础设施单元服务器的一种类型,由于普遍采用 CPU、GPU 等组合的异构式架构,相较通用服务器具备图形渲染和海量数据的并行运算等优势,能够快速准确地处理大量数据,可以满足大模型所需的强大算力需求,广泛应用于深度学习、高性能计算、搜索引擎、游戏等行业,其价值也逐渐凸显。

核心零部件 GPU 持续紧缺与价格大涨,也是导致AI服务器价格大涨的重要原因之一。 据了解,不同于高性能服务器、通用服务器,AI 服务器除了2 颗 CPU 外,一般还要配备 4~8 颗 GPU,部分高配服务器甚至可以搭配16 颗 GPU,目前市场上主流的 AI 服务器一般配置2 颗CPU加8颗 GPU,因此AI服务器需求的提升,将直接成倍增加市场对 GPU 的需求,同时也提升了 GPU、CPU 等零部件在AI服务器中的成本占比。 有机构数据显示,AI服务器(训练)芯片组(CPU+GPU)成本占比达 83%、AI 服务器(推理) 芯片组占比为 50%。

在GPU市场中,目前主要由英伟达和AMD两家所主导。其中,英伟达占据全球约八成的市场份额,然而英伟达的GPU产能有限,持续供不应求,导致了价格的不断上涨。特别是面向中国市场,2022年8月,美国禁售了英伟达的高端显卡A100/H100。尽管在2022年11月,英伟达宣布将在2022年第三季度投产面向中国客户的A800(A100的替代品),以及在今年3月推出的面向中国市场的H800(H100的替代品),国内企业仍然面临着供不应求的局面。相关人士称,“服务器厂商(包括国内)很少会采用国产GPU,绝大多数会选用英伟达和AMD公司的GPU,但现在根本很难买到这两家公司的GPU,哪怕是被美国禁供后A100、H100的替代品A800、H800也一直供不应求。”

在AI领域,捷易科技未来将专注于三个产品方向的发展。一是新一代智能算力基础设施产品,如高性能AI服务器,将全面支持大模型的训练和推理。二是针对数字人领域,捷易科技将推出通用大模型+行业场景+训练调优的解决方案,为行业大模型的训练提供全方位的支持。三是捷易科技将扩展运维服务,以应对新一轮数字经济浪潮带来的市场机遇。面对当前市场的机遇,捷易科技将进一步加大在服务器和存储领域的资源投入,为AI领域的发展贡献更多力量。返回搜狐,查看更多

发表评论

邮箱地址不会被公开。 必填项已用*标注