当前，全球AI布局加速，大量AI模型不断涌现，模型的推出和迭代极大地带动了上游对算力的需求。 随着国内数字基础设施对数据负载的需求不断增长，中国AI服务器市场正在加速增长。
从整体发展趋势来看，各国密集出台大模型相关政策，数据、算力、算法更新迭代步伐加快，共同带动AI大模型性能提升。
以AI服务器为载体的算力是人工智能的终端表现之一。 与算力挂钩的储运能力也将相应提升，这将带动硬件算力芯片（GPU、FPGA、AISIIC等）、存储芯片、光模块、PCB、电源管理、散热等的增长。 从历史上看，整个行业将看到人工智能服务器渗透率的提高带来的增长。
据TrendForce集邦咨询预测，预计2024年AI服务器（含GPU、FPGA、ASIC等）出货量近120万台，同比增长38台4%，占整体服务器出货量的近9%。 人工智能
计算能力的提高直接带动了对服务器的需求。 AI服务器作为解决算力的核心支撑，可用于支持本地应用和网页，也可以为云端和本地服务器提供复杂的AI模型和服务。
AI服务器采用异构架构，GPU数量远高于普通服务器。
从服务器上游成本来看，芯片、内存、硬盘占服务器生产成本的近百分之七十。 推理服务器的GPU占成本的25%，训练服务器的GPU占总成本的73%左右。
AI服务器与普通服务器的主要区别在于架构不同，AI服务器采用CPU+GPU FPGA ASIC等异构架构，而普通服务器一般采用CPU架构; GPU 数量差异很大，单个 AI 服务器使用的 GPU 数量通常在 4 个以上。
GPU架构是主流的加速架构，是服务器的核心成本组成部分。 GPU采用并行计算，适用于图形渲染、机器学习等处理密集型计算，AI算力需求的增加进一步提高了GPU卡的计算速度和使用要求。
与一般服务器相比，AI服务器的增加主要是由于AI芯片和内存带宽的大幅增加，相应的数值和其他配套组件也进行了不同程度的升级。
据半导体行业观察，以NVIDIA DGX H100为例，GPU板组（含HBM）价值占比最高，达到73%，其次是存储约占5%，其中DRAM占比3%，NAND占比约2%。 GPU 和存储加起来占总数的 90%。
此外，随着算力的提升，对散热的需求也相应增加，液冷技术的引入有望为散热环节带来新的机遇。
与一般服务器相比，AI服务器增加了GPGPU的使用，因此HBM使用量约为320 640GB，NVIDIA A10080GB配置为4或8帧。
未来，AI模型的逐渐复杂化将刺激更多的内存使用，同时推动对serverdRAM、SSD和HBM的需求增长。
AI服务器GPU成本占比较大：
据统计，2024年北美四大云厂商Microsoft、谷歌、Meta、AWS占AI服务器采购总量的66%左右，海外云巨头对AI服务器的需求更大，但随着国内AI大模型的开发和应用带动更多的AI服务器需求，中国AI服务器市场空间有望进一步增加。
近年来，国内AI建设浪潮持续升温，字节跳动年度采购量占62%，其次是腾讯、阿里巴巴。 5% 对比 15%。
据IDC数据显示，在市场份额方面，浪潮信息、新华社.
3、超融合位列2024年中国AI服务器市场份额前三，市场份额占比如下。 00%。
2024年，浪潮AI服务器在全球权威AI性能测评大赛MLPERF中斩获49项冠军，以全面领先的AI训练和推理性能为AI研发和应用提供强劲动力，其AI服务器产品已应用于AI+科学领域的全球领先互联网巨头和领先科技公司， AI+Graphics、AIGC等，成为全球最大的AI服务器提供商。
浪潮信息盈芯服务器NF5688M6和配置：
中科曙光是中国领先的高端服务器制造商。 公司高端服务器产品为全栈自研，具有规模化部署实践; 持续发展算力服务业务，通过国家综合算力服务平台，加速海量复杂行业应用的创新落地，为国内多个大模型提供算力支撑。
AI服务器布局厂商还包括中国长城、拓威信息、同方股份等。 上下游环节参展厂商众多，部分代表厂商包括中兴通讯、科大讯飞、海康威视、360、澜起科技、龙芯中科、神州数码、海天瑞声、东华软件等。
目前，AIGC和云计算等先进技术给各行各业带来了巨大的变化和机遇。 在此背景下，作为支撑大规模数据处理和高性能计算的重要基石，超级计算的需求和应用场景也呈现出持续增长的趋势。
超级计算与云计算的结合，为服务器市场带来了新的增长点。 云计算的弹性和可扩展性使超级计算资源更高效地服务于科学研究、工业设计、仿真和大数据分析等多个领域。 这种组合不仅提高了计算效率，还降低了使用成本，让更多的机构和企业可以享受到超级计算带来的便利。
与此同时，超算所需的AI高端服务器也成为服务器市场的新星。 AI服务器具有更高的性能、更强的稳定性和更好的扩展性，可以满足超算在计算速度和数据处理能力方面的严格要求。 随着超级计算应用的不断普及和深化，对此类高端服务器的需求将持续上升，有望带动整个服务器市场实现进一步增长。
关注乐清智库，洞察产业格局！