如今,计算能力正以前所未有的速度增长。 虽然算力厂商此前在PC产业生态中就已经存在,但在大模型的催化下,他们的角色也在发生变化。 近日,在首届AI PC产业创新论坛上,联想集团与IDC联合发布了业界首个“AI PC产业(中国)**以下简称”**算力是AI PC各项功能实现的前提,终端异构混合(CPU+NPU+GPU)算力是AI大规模落地的必然要求。
据了解,异构混合计算利用架构的不同类型的指令集和计算单元组成本地计算系统,通过CPU(**处理单元)、GPU(图形处理单元)、NPU(神经网络处理单元)等计算设备的组合应用,可以充分发挥各硬件的性能。 并为不同的 AI 工作负载提供灵活的解决方案。CPU 在通用计算方面表现出色,GPU 在图形和并行计算方面表现出色,NPU 针对神经网络工作负载进行了优化。
异构混合算力不仅保证了终端模型推理的可行性,还使终端设备能够承载越来越大的AI模型,执行越来越复杂的任务。 当设备侧的嵌入式AI算力能够达到10 tops时,已经可以在本地完成特定场景下的AI模型推理,可以为智能设备管理、图像增强、游戏调优等做出贡献。 当设备上的AI算力达到40TOPS时,可以使AI PC支持普通参数规模的本地模型推理,虽然仍然需要GPU或云合作来完成更复杂的任务,但它已经能够完成大部分工作、习、娱乐等场景的AI创作需求。
当设备侧的算力进一步提升时,不仅AI PC在设备侧独立建模推理的能力进一步增强,大多数复杂任务可以完全离线处理,而且终端在功耗控制、图像呈现、复杂计算、游戏体验等方面的性能也可以通过AI得到充分优化。 设备端算力提升的每一步,都能带来显著的杠杆效应,利用AI PC在任务理解、个性化反馈、复杂任务处理能力和速度等方面实现更大提升。
值得一提的是,ARM和x86架构产品的算力厂商将在我国AI PC的生态发展中发挥重要作用。 主流厂商将进一步优化CPU+GPU+NPU的架构,将混合普惠算力的提升作为行业发展方向,助力AI PC的大规模普及。 通用AI开发框架和终端适配将是厂商重点关注的主要方向。
IDC**,在整个PC市场(仅针对笔记本电脑和台式机,不包括平板电脑),未来AI ARM的占比将稳定在5%左右,AI X86的占比将从2024年的50%逐步提升至2024年的80%。