作者:刘文轩。
今年下半年,大机型成为广泛讨论的焦点,从“百模大战”到“行业模式”、“设备端模式”,甚至智能手机都参与其中。
大模型可以帮助终端设备的用户提高生产率,对于生产率来说,什么样的终端设备才能充分发挥大模型的作用呢? 联想给出的答案是——AI PC。
12月7日,在联想举办的首届AI PC产业创新论坛上,联想集团与IDC联合发布了首届“AI PC产业(中国)**,以下简称”*”。
**指出,未来每个人都可以拥有自己的AI PC,运行自己的“个人大模型”。 个人模型可以继承公共模型的强大能力,可以为个人提供个性化和专属的服务,从而满足用户各方面的需求。 模型终止的关键是将大型模型压缩到适合终端的规模,以便进行本地推理和实时响应。 因此,模型蒸馏和压缩等技术变得至关重要。
为什么选择AI PC?
个人计算机(PC)具有强大的计算和存储能力、丰富的交互方式和广泛的应用场景,并具有全模态的人机自然交互条件,是适合承载大模型的理想平台。 AI PC将成为个人、家庭、企业不可或缺的个人AI助手,在通用场景下为用户提供个性化服务,提供即时可靠的服务响应,降低大模型使用成本,提供可信安全的个人数据和隐私保障。
在一般场景下提供个性化服务:
AI PC可以为工作、学习、习、生活提供个性化创作服务、私人秘书服务、设备管家服务等个性化服务。
基于终端厂商的定制化设计、场景化功能预置、用户需求的不断挖掘,在丰富的模型和应用生态支撑下,AI PC具备个性化创作、秘书服务、设备管理等能力,在工作、学习、习、生活娱乐场景中都能体现出多种独特的价值。
即时、可靠的服务响应:
在 2023 年 IDC 用户使用 AIGC 平台体验的调查中,“响应速度慢”和“反馈时间长”是用户的主要负面反馈。 AI PC主要基于本地推理,边缘和云端推理为辅,可以在混合算力和混合模型之间智能合理分配任务,有效缩短响应时间。
AI PC仍然可以在没有互联网连接的情况下运行,并且可以随时随地为用户做创造性的工作,使用户不再受到网络条件的束缚。 局部大模型通常更容易与局部知识和数据进行整合和充分利用,可以有效避免“错觉”的产生。 并且根据用户的风格偏好,可以准确生成符合用户需求的作品。 这种准确、可靠的服务是 AI PC 的独特优势。
使用大型模型的成本更低:
AI PC以本地推理为主,云端公共推理为辅,用户一次性购买AI PC后,可享受全生命周期免费本地推理服务,外加有限的云订阅,可大幅降低个人用户使用AI大模型服务的成本。
对于应用厂商来说,将一些处理从云端转移到端点,可以大大减轻云基础设施的压力,降低运营费用。 独立应用开发者和应用开发者也将依靠 AI PC 来更经济、更高效地探索和构建应用。
可信、安全的个人数据和隐私保证:
作为安全的基础,AI PC的个性化本地知识库拥有专门用于存储用户特定类型的文件和数据的安全空间,确保个人用户和企业用户的隐私和机密信息可以在本地安全隔离,并且只能在可信环境中调用。
AI PC本身可以通过个人代理对用户隐私数据进行有效识别和管理,通过本地化的模型和充足的AI算力,在本地完成大部分数据处理和模型计算,只有不涉及用户隐私的公共请求才需要调用云服务。
为了实现这些用户价值,AI PC将不仅仅是一个硬件设备,而是一个包含AI模型和应用程序以及硬件设备的混合体。 同时,在AI PC的驱动下,PC产业生态将发生颠覆性变革,形成以人为本、终端主导、AI原生的AI PC生态。
AI PC作为承载本地混合AI算力的设备,还涵盖了多种产品形态,包括AI笔记本电脑、AI平板、AI桌面等多种形态,其中AI桌面不仅包括传统台式电脑、工作站、一体机(AIO)等形态,还包括与终端紧密配合的边缘设备、家庭AI主机、 和企业 AI 边缘主机。此外,随着未来AI PC的发展,将会出现更多创新形式。
在AI时代,终端设备、个人模型、个人代理已经成为密不可分的组合,共同为用户带来智能体验。 AI PC的创新需要以用户需求的满足和体验的提升为驱动,“设备+个人模型+个人代理”的结合需要融合创新。
在新的行业格局下,终端厂商作为用户与整个行业沟通的核心枢纽,同时也是算力、模式、应用生态转型的推动者和集成者,是完成这一融合创新的最佳交付者。 在AI PC上,个人代理将作为用户进入AI功能的集成入口,终端厂商将凭借数十年对用户交互和体验习的研究和积累,成为这种入口体验的创造者和维护者。
五大特性让AI PC成为AI普惠的首选终端
IDC中国区总裁霍金杰表示,AI PC不仅仅是一个全新的产品,它代表着整个行业即将进入一个新时代。
霍金杰,IDC中国区总裁。
IDC中国区副总裁王继平博士对此次发布的“**”进行了解读。 他指出,AI PC在硬件上集成了混合AI计算单元,可以在本地运行“个人大模型”,创建个性化的本地知识库,实现个性化、自然的交互。 它不仅承担了原有生产力工具和内容消费载体的功能,而且将功能从工具属性升级为助手属性,成为个人的“第二大脑”,成为与用户孪生一样的个人AI助手。
王继平,IDC中国区副总裁。
AI PC将为用户打造四大核心价值:一是通用场景个性化服务,针对工作、习、生活等通用场景提供个性化创作、贴身秘书、设备管家服务。 其次,服务响应即时、可靠,即使在离线时也可以使用。 第三,使用大模型成本更低,以本地免费推理为主,云端公共推理为辅,一次性购买一台AI PC即可享受全生命周期免费本地推理服务。 第四,可信且安全的个人数据和隐私保护、个性化的本地知识库、隐私数据的本地推理机制和设备管理器服务,为用户带来极致的安全体验。
王继平总结说,真正的AI PC产品应该具备五个特征:
自然语言交互的个人代理:多模态自然语言交互UI,基于本地大模型的个人代理;
终端中嵌入的个人模型:以本地为主,边缘云为辅的大模型; 个性化的本地知识库;
终端标配本地混合AI算力CPU&NPU&GPU本地混合计算架构,个人终端与家庭主机,企业边缘主机协同计算;
连接开放的 AI 应用生态系统AI 原生应用和 AI 赋能应用可由智能体调度,并适配混合 AI 计算平台。
设备级个人数据和隐私保护:本地隐私推理>非敏感任务调用云大模型,硬件级安全芯片保护和个人数据加密脱敏传输。
不过,王继平认为,要演化到五大特征完整的状态,还需要一段时间。 他将 AI PC 的开发分为两个阶段:AI 就绪和 AI 开启。
AI Ready Stage(人工智能就绪阶段),该产品具备基本的本地混合AI算力,可为AI PC的软件和服务创新提供基础保障,启动体验创新。 初期主要表现为芯片计算架构的升级,集成NPU计算单元的CPU陆续推向市场,以更高的能效比实现计算速度的提升,在运行过程中具有更高的稳定性和可靠性。 终端设备的混合AI算力使AI软件能够更快地处理数据和任务,这对于语音识别、图像处理等需要实时响应的AI应用尤为重要。
2024年,处于AI Ready阶段的AI PC将陆续推出。 这种类型的AI PC在硬件上具有一定的AI加速算力,但尚不具备AI PC的完整特性。
舞台上的人工智能,产品具备完整的AI PC核心功能,在核心场景下提供划时代的AI创新体验,成为每个人的个人AI助手。 随着核心技术的创新、产品体验的优化、AI应用生态的繁荣,AI PC可以服务于更广泛的通用场景,可以基于个人数据和使用历史,实现设备边缘协同计算、跨设备互联能力,甚至可以在边缘私域环境中对单个大模型进行微调和训练。
从2024年开始,符合AI ON阶段标准的AI电脑,即具备完整的AI PC核心特征的AI PC将陆续进入市场,这将进一步带动市场的快速增长,为整个行业的发展注入新的活力。
个性化,打造个性化模型
今年以来,基于大模型的生成式AI技术取得重大突破,发展迅速。 另一方面,所谓大模型是基于公共数据库预训练的公共大模型,提供不涉及个人隐私数据的基础推理服务,并非个人专属的AI。
联想集团副总裁、中国区战略与业务发展副总裁阿布力克木·阿布米米(以下简称“阿木”)在论坛上回顾了几十年PC发展历程。
Ablikim Ablimiti,联想集团副总裁兼中国区战略与业务发展副总裁。
他介绍说,PC经历的第一次升级是在上世纪70年代末到80年代初。 当时,大规模集成电路和新型CPU通用计算架构的引入大大降低了计算机的成本,同时也开始小型化,更直观的图形交互方式也让普通人快速上手,降低了使用门槛。 同时,在国内,联想等终端厂商相继成立,并推出个人电脑产品,迅速形成全球个人电脑产业链,个人电脑时代正式到来,PC真正成为名副其实的个人电脑。
PC的第二次升级 世纪之交,网络通信技术和移动计算技术的发展使互联网能够为每台计算机建立连接。 在此期间,联想的“天玺”互联网电脑诞生了,通过“一键上网”真正改变了PC与用户的关系,同时在全球发展的大背景下赢得了世界顶级PC。
Amu指出,目前PC正迎来第三次重大升级。 他说:“混合人工智能正日益演变成一个更明确的趋势,人工智能将在未来更好、更专门地为每个人服务。 PC在各个方面都表现出了出色的性能和性能,有望再次成为AI包容到每个人的首选终端。 PC将承担起为用户带来划时代的AI新体验的历史使命,让AI真正成为每个人的个人AI双胞胎。 ”
“为了数据安全和隐私保护,以及以更高的效率和更低的成本响应用户需求,人们不仅希望获得大众模式强大的通用服务,还希望AI能够真正了解自己,提供专属的个人服务,充分保护个人数据和隐私安全,“阿木说。 他认为,公共模型和个人模型的混合部署,满足用户的需求,正日益成为行业共识,混合人工智能正日益成为未来AI的发展趋势,以更好地、专属地服务于每个人。
为了让每个人都拥有自己的AI,有必要建立一个个人模型。 大型个人模型的建立、部署和应用并非易事,它要求终端能够承载多模态自然语言交互,能够承载复杂的通用场景功能,具备强大的本地智能算力,能够提供足够大、可信、安全的个人数据存储和保护功能。
阿木表示,联想作为全球PC和中国PC的领导者,已经与深耕IT行业多年的IDC一起完成了对中国AI PC的前期研究和洞察,并借着今天创新论坛的机会正式发布,并依托这个平台与行业各界进行交流,加速AIPC发展的路径和方法。
方静,民生**电子行业首席分析师。
民生**电子行业首席分析师方静认为,当前PC市场已经结束去库存,已经开始复苏,“上半年澎湃算力的是供给侧,目前AI终端密集落地是需求端。 在众多终端产品中,AI PC可以完美解决本地大型模型应用、隐私保护、定制化解决方案等需求。 以联想为代表的厂商将在新的AI生态中占据核心地位,有望引领这一浪潮。 ”
产业转型,构建AI PC产业新生态
AI PC将开启一个与以往完全不同的全新AI PC生态:以人为本、面向终端、AI原生。 AI PC即将带来颠覆性变革,PC产业生态将从“应用驱动”转向“以人为本”,从应用驱动转向意图驱动,用户将成为行业生态创新的驱动力和创造者。
在新的AI PC时代,终端设备、个人大模型、个人代理已经成为不可分割的组合,为用户带来智能体验。 AI PC的创新需要“设备+个人模型+个人代理”的融合创新。 终端厂商作为集成创新的最佳传递者,将成为用户与整个行业沟通的核心枢纽,负责推动算力、模型、应用生态的转型与融合。 终端制造商已经从产品提供商发展成为生态组织者。
传统的PC行业生态系统是以操作系统为基础的,用户直接在系统界面中操作,管理和应用各种应用。 在新的AI PC生态中,AI PC技术和体验的迭代不能单独通过应用和系统更新来实现,也不能仅仅依靠算力产品的更新和迭代来实现。
大型模型厂商一般使用“插件”方式调用其他应用的模块化功能。 应用的插件化和大模型的集成,意味着第三方应用可以成为大模型能力的一部分,为用户提供服务。 只有将大模型与生态插件功能相结合,才能实现“无所不能”。
**指出,随着AI应用生态的不断发展,围绕公共和局部大模型的AI原生应用占比将持续上升。 AI原生应用以大模型为核心,在开发过程中使用各种AI工具和框架,实现AI功能和特性。 个人代理将取代操作系统,成为用户对AI功能的集成入口,在大模型和应用生态的支持下,完成用户提出的任务。
开放的应用生态应包括AI原生应用、AI赋能应用和公共模型。 AI原生应用是指从基础设施和设计之初,就直接基于AI算法构建的以AI能力为核心的应用,在大模型时代会越来越普遍。 AI赋能应用是指传统应用,这些应用也入并增强到可以调用或被大型模型调用的功能能力中。
越来越多的企业加入AI PC的开放生态,形成了多层开放用户、终端厂商、型号、应用、算力的繁荣生态。 用户的视野会发生变化,模型和应用之间的新关系将改变用户需求的底层逻辑。 用户需求是推动整个生态发展的关键要素,终端厂商根据场景需求为用户整合产业资源,提供软硬件融合的混合交付体验。 模型制造商和芯片制造商也将与终端制造商建立更紧密的联系。
**指出,在AI PC时代,用户的声音将得到提升,用户的主动性将越来越影响产品的演进和产业生态的发展。 AI技术的发展将进一步降低程序开发的门槛,用户可以通过问题+解决方案的指导思想,直接使用AI PC“开发”应用,也可以借助AI大模型制作自己的应用和软件。
随着用户在设备侧和云端开发的海量创新应用数量的增加,社区的新形态和运营模式也将形成。 用户可以在社区上分享他们 AI 创建的应用程序,供其他用户**和使用; 用户可以在社区上与UGA进行评论和交流,发布付费需求,并获得收入。
基于个人模型,Agent通过插件调用各种应用,用户的评价和使用行为将成为Agent应用分发的关键依据。 用户只需对其体验结果提供反馈,即可影响应用的呼叫优先级以及它到达用户的频率。 个人代理可以根据用户的行为反馈,随时选择和切换应用背后的服务提供者,形成一种用户驱动的应用创新形式。
AI PC元年开启
在本次论坛上,联想集团还正式发布并推出了“AI PC先锋行动”。 该行动旨在共同繁荣生态系统,加速AI PC的早期落地,包括两个方面:面向AI生态系统开发者推出的“AI PC生态开发者计划”; 面向AI内容创作者的“AI PC内容创作大赛”正式启动。
联想集团副总裁、联想中国首席营销官王传东。
联想集团副总裁、联想中国首席营销官王传东宣布,以“联想AI PC Together”为主题的联想AI PC Pioneer Action正式发布并上线。 行动包括两个方面:面向AI生态开发者的“AI PC生态开发者计划”; 面向AI内容创作者的“AI PC内容创作大赛”正式启动。 王传东表示,联想AI PC先锋行动旨在共同繁荣生态,加速AI PC的早期落地,让AI PC惠及所有人。
王传东介绍,联想还将在12月26日举办2023联想天玺生态合作伙伴大会,届时将发布基于天玺生态的AI小程序平台,欢迎更多AI PC开发者和合作伙伴参与AI生态建设,共赢未来。 同时,联想还将携手AI PC生态伙伴举办AI PC创新应用大赛,让更多开发者分享AI PC时代的红利。 在“AI PC内容创意大赛”中,联想将邀请充满想象力和创造力的AI博主、AI平面设计师、AI内容创作者,畅想AI PC的美好未来。
对于AI PC的市场前景,智智科技主编高飞表示,业内广为流传的说法是,大模型会让所有软件都重新做一遍。 然而,事实上,大模型也会改变硬件的形式。 就像移动互联网和智能手机的发展史一样,也会有一个相互成就的过程。 即新的硬件形态创造了新的场景,而新的场景反过来又对硬件提出了更高的要求。 AI PC的算力供应正好适合用户在设备侧的大模型中既“足够智能”又“足够可靠”。
方静表示,在联想等龙头厂商的带动下,产业链各个环节都将成为“AI PC概念股”,比如内置NPU单元的处理器封装厂商——同富微电子、长电科技等,散热龙头——思泉新材料、中石科技、飞荣达等; 电磁屏蔽水龙头 - 龙阳电子; 结构件水龙头——光大同创、春秋电子等
除了终端厂商身份的改变,AI技术(大模)厂商在AI PC行业新生态中首次引入。 在众多大型模型制造商中,终端设备制造商对大型模型的理解将起到关键作用。 联想集团副总裁、联想研究院人工智能实验室负责人范建平博士表示,为了提供真正可信的个性化服务,联想提出了“云公共大模型+企业私有大模型+端侧个人大模型”混合智能(Hybrid AI)的概念。
联想集团副总裁、联想研究院人工智能实验室负责人范建平。
为了实现终端厂商构建混合智能模型的目标,大模型厂商需要提供可内置为轻量级本地大模型的公共大模型技术,可针对不同形态和性能的终端进行优化适配,也可能为用户推出个性化微调和自微调服务。
大模型厂商在为用户带来适合AI PC的轻量化、小型化大模型的同时,也为AI PC的应用带来了无限的想象空间。 未来,围绕公共和本地模型的AI原生应用占比将持续上升。 许多传统应用也会通过云调用等方式,通过大模型赋能,提高任务完成效率和智能化。 在大多数情况下,由单个代理以插件的形式调用将是启动和使用应用程序的主要方式,而不是围绕操作系统框架。
通益千文在业界率先实现全尺寸、全模态开源。 阿里巴巴-同益实验室和通益千问模型负责人周畅表示,自今年4月发布以来,同益千问模型不断迭代,先后开源了4个不同参数大小的大语言模型和2个多模态大模型,得到了全球开源社区的广泛好评。 无论是开发者还是终端用户,都对同益千问终端部署的前景充满期待,“联想是全球PC的领军企业,我们将与联想加强合作,共同探索和推动生态领域更多场景落地大模型。 ”
周畅,阿里巴巴-通益实验室负责人,通益千文模型。
论坛上,金山办公助理总裁陈波进一步演示了金山基于大语言模型开发的智能办公助手WPS AI。 他表示,期待与联想共建新生态,实现WPS AI与AI PC的结合,确保企业和个人数据资产的安全性和保密性。
陈波,金山办公部总裁助理。
网易执行副总裁、网易有道CEO周峰介绍了中国教育领域首个垂直模式——“紫悦”教育模式及相关应用,并表示:“AI PC将为行业和生态带来巨大的发展机遇。 ”
周 Feng,网易执行副总裁、网易有道CEO。
与应用厂商一样,算力厂商此前也存在于PC行业生态中,但在大模型的催化下,他们的角色也在发生变化。 在构建本地智能算力方面,以CPU+GPU+NPU异构架构方案提供本地算力,是最成熟的解决方案之一。 异构混合算力不仅保证了终端模型推理的可行性,还能快速提升算力,使终端设备能够承载越来越大的AI模型,执行越来越复杂的任务。
会上,英特尔中国区技术总经理高宇表示:“人工智能工作负载有多种形式和规模。 因此,硬件上没有一个放之四海而皆准的解决方案。 因此,基于多年的习和市场经验,我们提出了XPU的概念,包括GPU NPU CPU。 他还表示,联想是英特尔的战略合作伙伴,两家公司已经在推进基于即将推出的Meteor Lake处理器的AI体验的开发和创新。 ”
高宇,英特尔中国区技术总经理。
阿木表示:“AI PC产业的成熟需要一个过程,整机厂商、车型、应用、算力等行业参与者需要与用户携手共进,打造中国全新的AI生态圈。 ”
IDC**,未来几年中国PC市场的AI PC(不包括AI平板)将快速增长,到2024年将达到85%,成为PC市场的主流。 其中,消费市场换代浪潮将加速,新款AI PC组装占比将略高于整体市场; 到2024年,在中小企业市场组装的AI PC比例将比消费市场增长得更快,达到88%。 在大型企业中,到2024年,新组装的AI PC占比将达到74%,其中IT、互联网、金融、专业服务等大型企业将率先引入AI PC。
IDC数据显示,目前PC消费市场人群结构偏保守,节俭从众用户和精明自主用户对最好敏感、注重实用功能的总比例接近6%。 随着AI PC的出现,IDC PC消费市场的人口结构将发生变化。 对新技术敏感并愿意尝试新技术的品味精明的用户将成为AI PC的首批早期采用者。 之后,越来越多注重生活质量和工作效率的稳定体面的用户,将在品酒师的影响下更换旧手机,成为AI PC的主流用户,带动PC消费市场的高端人群结构。 2024年后,随着AI PC的普及,越来越多对技术参数和**变化敏感、注重性能和功能的精明自主用户将成为AI PC的主要消费者。
在AI PC的带动下,个人电脑在中国消费市场的渗透率将突破瓶颈期,实现持续增长。 未来几年,越来越多的家庭将选择AI PC作为家庭办公、习、娱乐、创作的第一终端,因为它们具有多模态交互、全场景应用、强大的算力、安全存储等独特优势。
王传东预测,2024年将成为中国AI PC元年。 联想集团基于“端-边-云-网-智”的全新IT技术框架,形成了AI嵌入式智能终端、面向AI的基础设施、AI原生解决方案服务等全栈智能能力,为全面支撑大模型在终端的部署奠定了坚实的基础,为AI造福每个人、造福企业做好最充分的准备。