为所有手机制造商开启长达数年的军备竞赛的最后一条赛道是成像,而下一个这样的机会是人工智能。
温有勇。 周陆平编辑。
2月8日上午,OPPO正式发布海报,预告明天......将发生大事
三天前,OPPO发布了央视春晚彩排后台预告,春晚主持人Nigmaiti、任鲁豫、马凡树特别体验了OPPO手机的AI功能,包括AI消除、AI通话总结、新年问候
OPPO将通过春晚的舞台,在全国人民面前展示AI的能力,同时也宣告手机行业将进入AI的新时代。
一个时代的帷幕正在拉开
ChatGPT在AI领域的深远影响持续发酵。 如果说前期更像是云厂商的狂欢,他们已经推出了通用的大语言模型,并开始在千行百业寻找落地应用。
然后在过去的六个月里,随着底层芯片平台的成熟和模型量化压缩的进步手机、PC等硬件终端厂商加快步伐,推动大模型在设备端应用。
去年年底,高通和联发科最新的旗舰平台都支持了端侧大机型的部署。 例如,骁龙 8Gen3 作为首款专为生成式 AI 打造的移动平台,支持终端侧运行 100 亿个参数的模型,为 70 亿个参数的大语言模型每秒生成多达 20 个代币。 联发科天玑 9300 还搭载了第七代 APU 790 的 AI 性能引擎,可支持终端运行 10 亿、70 亿、130 亿、最高 330 亿参数的 AI 大型语言模型。
在底层芯片平台的加持下,OPPO、小米、vivo、荣耀和三星都已推出或即将推出70亿参数的端侧机型。 手机作为智能体,在端端大模型的应用中发挥着越来越重要的作用。 大型模型也被认为是未来带来革命性用户体验的关键,这反过来又将导致设备更换。基于这种认识,投身研发AI成为手机厂商的策略。
据悉,一向谨慎的苹果也有望在今年6月的全球开发者大会上,为Siri等产品推出一系列基于大模型的AI体验。
PC行业也在全速向AI电脑演进。英特尔首席执行官亨利·基辛格直言不讳地表示,“人工智能代表着一个新时代的到来。 AI将通过云端与PC的紧密协作,从根本上改变、重塑和重塑PC体验,释放人们的生产力和创造力,我们正在迈向AI PC的新时代。 ”
英特尔特别发布了酷睿超处理器,首次将CPU、GPU和NPU合二为一,满足AI电脑的需求。 AMD和高通也推出了集成AI模块的CPU。 基于英特尔的AI处理器,联想推出了首款支持AI的笔记本电脑,宣布全面转型为AI电脑。
IDC中国区总裁霍金杰指出,AI PC不仅仅是一个新产品,更代表着整个行业即将进入一个新时代——一个行业巨变的时代,一个历史性突破的时代。 Counterpoint的观点是,预计到2025年,AI笔记本电脑将分享50%的销售额,至少有一个NPU或AI加速器来补充其主要CPU和GPU的功能。
无论是PC还是手机,都是在日常生活和工作中扮演着重要角色的行业,但也面临着增长困难,现在它们都巧合地将AI置于极其重要的战略地位。
在新时代到来的背后,当下的PC和手机行业面临着很多增长困难。 根据IDC最新统计,2023年中国智能手机市场出货量约为271亿台,同比下降50%,为近10年来最低。 这背后有很多因素,包括智能手机本身缺乏创新,用户更换周期从前两年增加到现在的三四年。
如今,手机行业的潮流正在转变,人工智能将成为刺激行业创新和销售增长的最佳催化剂。
2024年被认为是AI手机的第一年。 一位业内人士判断,让所有手机厂商开启长达数年的军备竞赛的最后一道赛道是成像,比如更多的镜头、更大的传感器等,而这几年,手机的成像能力有了实质性的提升。 下一个这样的机会是人工智能,但与成像相比,人工智能是一个更长的旅程,是的对技术积累和研发投入的要求会更高
抢占大型手机机遇
如果不布局大模型的手机厂商,就没有戏了! OPPO高级副总裁刘作虎说得非常直率有力,这种观点也代表了目前手机行业的普遍情绪。
根据 Counterpoint** 的数据,2024 年将是 GenAI(生成式 AI)智能手机的关键一年,出货量将超过 1 亿台; 到2027年,Genai智能手机市场份额,出货量将取决于。 22亿台。
虽然业内对AI手机的定义没有统一的标准,但也从侧面进行了解释AI将是未来手机的标准配置,而这个标准配置不仅仅是一个独立的应用和场景,而是从系统底层对手机体验的重构让AI的能力在系统端无处不在,“未来的手机将是AI代理”。
今年1月初,OPPO的年度旗舰Find X7系列在深圳发布。 这次新闻发布会与之前的新闻发布会有很大的不同,之前的新闻发布会是从介绍图像或手机设计开始的。 但这一次,OPPO花了将近半个小时的时间,在端侧演示了大机型带来的应用落地。 其他厂商在发布会上也做了类似的调整,各自将设备端大模型的优先级提升到了最重要的位置。
OPPO Find X7是业界首款落地7B端侧大模型的车型。刘作虎在发布会上特别演示了在设备侧大模型中实现的几个场景,比如通话总结,大模型会根据通话记录生成简洁但重点突出的总结,然后生成待办事项列表,甚至在用户没有时间回答的时候帮助用户记录关键点,这样在工作和生活场景中就不会遗漏任何重要信息。 此外,与 1b 模型相比,7b 模型在摘要上的表现明显更好。
除了语言模型之外,OPPO的AndesGPT还拥有功能全面、强大的生成视觉模型,能够准确理解图像的语义,并在此基础上实现了对120多种主体的识别和分割支持,用户可以选择抹去路人、杂物甚至头发级别的分割**, 并填充消除后的细节和纹理,将相册中的“废片”变成令人满意的“好画面”。
除了OPPO,三星也开始探索大机型在端端的应用。 相较于OPPO的通话汇总能力,Galaxy S24展现了通话翻译的场景,双方可以跨语言实时交流,相当于身边有同声传译,很抢眼。
整体来看,三星和OPPO在端侧大机型的应用方向上比较相似,都在切口和通话场景下都展现了AI应用。 但是,两者的实现路径和重点不同,例如:三星在端端大机型上的能力主要来自谷歌的Gemini Nano机型,而OPPO则是其自练的大机型。
一位手机圈人士告诉数智前方,市面上声称已经实现7B设备侧大模型的厂商大部分功能,其实都是在云端实现的,因为云端的速度足够快,端端受限于功耗、内存等因素。 据他介绍,目前,只有国内手机厂商的OPPO真正做到了端端大模型的效果,一是通话总结,二是智能消除,其他厂商基本都在云端处理。
目前,在设备侧部署大型模型的最大问题在于模型的压缩和量化,以及设备侧存储性能的提升。
据另一位熟悉手机厂商的人士透露,端端大机型最大的瓶颈不在GPU或NPU,而是在内存带宽。 目前最强大的内存LPDDR5X的实际带宽在每秒50GB以上,而7B型号在量化稀疏度后占了4G内存左右,其性能需要达到每秒40GB以上才能达到10个以上的代币,这正好是LPDDR5X的带宽极限。
为了实现大机型在端侧的落地,OPPO将7B大机的内存占用降低到4GB以下,性能达到10Token S以上,功耗现在已经达到了800mAh的水平,“在这种情况下是可以接受的,不会让手机发烫。 “据了解,oppo的RENO系列产品也将在端侧大型车型上实现
但是,设备端大模型处理的更多的是一些简单的任务,大多数场景仍然在云中推断。 端云协同是目前移动应用中大型模型的主流
因此,除了70亿参数的设备侧大模型外,OPPO还训练了700亿参数的Andesgpt-Turbo和1800亿参数的Andesgpt-Titan,可以满足高度复杂任务的深度推理,并且两个模型都部署在云端。
据OPPO称,未来,OPPO将继续在两个方向上发展大尺寸手机的技术:一是继续攻克大尺寸手机的端到端部署,以获得更好的性能和更强的处理能力; 二是用更通用、更先进的架构来解决端云协同的问题。
抵御冬季的创新向善
现在任何看起来具有前瞻性的布局都不会在真空中发生。 事实上,OPPO在大机型的研发方面并不短。
早在2020年,OPPO就已经启动了预训练语言模型的探索与实践,自主研发了1亿、3亿、10亿参数的大模型。
但BERT 和 GPT 都基于 Transformer 架构这也为OPPO后续的AndesGPT培训打下了坚实的基础,也积累了丰富的经验。 如今,AndesGPT在一般问答和对话方面表现出色,并在C-ENAL全球中文榜单中名列前茅。
OPPO正在加大技术投入,确保自己在这个红海市场的竞争中不落后,这也成为OPPO抵御行业寒冬最有效的法宝。
如果说OPPO过去在营销上花了很多钱,但近几年的一个直观变化是,OPPO越来越愿意在技术和产品研发上投入。 外界也看到了OPPO越来越多的创新领先优势,包括业界首款端大机型、业界首款双潜望镜旗舰,以及通信和芯片底层技术的突破。 在好风创新的理念下,OPPO正在从单一的手机公司向生态科技公司转型。
不久前,OPPO与诺基亚正式宣布签署5G专利交叉许可协议,之后双方将结束所有司法管辖区的所有未决诉讼。 这场长达近三年的专利纠纷以和解告终。
这一事件的意义不仅限于OPPO本身,也是国内企业面对不合理专利许可的好榜样
当然,实力是面对不合理的力量。 OPPO在研发上的巨额投入和多年来积累的大量专利,为其全球业务和安全运营保驾护航。 目前,OPPO约60%的员工是研发人员。 截至 2023 年 12 月 31 日,OPPO 已在全球提交了超过 98,000 项专利申请。 其中,发明专利申请量超过8.9万件,占比超过90%,位居全球第6位,在国内仅次于华为。 在这些外界不容易关注的地方,OPPO正在积蓄能量。
正是多年来对研发的投入和专利的积累,让OPPO有信心选择对国际厂商采取强硬态度。 据悉,随着OPPO与诺基亚的和解,也为OPPO未来重返部分欧洲市场铺平了道路。
而这些技术和专利最终被用于产品体验中。 以新发布的Find X7系列为例,除了上述实现的端侧大模型外,在通信技术、芯片底层架构、安全性等方面也有优化。
这一次,第一个“潮汐架构”,解决了SoC的存储和读写速度远低于计算速度的问题。潮汐架构将芯片性能优化到L3缓存级别,并通过识别应用场景需求来动态调节系统资源。 例如,如果有很多计算任务,则会主动向 CPU 分配更多的缓存。 面向渲染的任务往往会将资源倾斜到 GPU。 这种架构使 SoC 的平均能效节省了 8%。
此外,OPPO全套自主研发的通信技术解决方案Super Signal Engineering,包括天线技术、智能通信、近场通信的整体突破,还可以提供“用户场景下最佳的通信和网络连接体验”。
如今,人工智能和成像已成为OPPO技术的两大支柱。 刘作虎透露,不久前,OPPO将公司所有AI相关合作伙伴召集在一起,成立了“AI中心”,由集团技术负责人独立管理和协调。 过去,这些职位分散在各个部门,没有系统性,“我们决定集中所有资源,成立一个AI中心,让AI成为OPPO的核心竞争力。 刘作虎说。
从目前来看,大型模型在设备端的应用才刚刚开始。 未来,有没有大模型,如何深入使用,将决定产品是否具有竞争力。
当然,正如比尔·盖茨(Bill Gates)经常引用的名言一样——我们总是高估未来两年会发生什么,而低估未来十年会发生什么。 这句话也适用于AI,无论是AI手机还是AI PC,其实还处于起步或准备阶段,需要经历比较长的迭代和演进期才能实现真正的革命性体验。 但这是毫无疑问的2024年成为AI手机的重要时刻
《花》里有一句话很贴切:目标从不遥远,一步一步,一天一天。 全力以赴,剩下的留给时间。