编者按：人工智能无疑是 2023 年的科技流行语。 人工智能（AI）作为一项战略性新兴技术，日益成为技术创新、产业升级和生产力提升的重要驱动力。 您如何看待人工智能热潮？ 如何处理发展与治理的关系？ 如何促进相关产业的应用和有序发展？ 为此，本版推出了一个特别计划，以造福读者。
记者 崔爽.
人工智能无疑是2023年最热门的数字科技关键词。 一方面，各国加快了人工智能产业的布局。 近日，俄罗斯公布了新的国家人工智能发展战略计划，新加坡发布了国家人工智能战略20。另一方面，人工智能的治理体系也越来越完善。 美国出台了《关于安全、可靠和可信赖的人工智能行政命令》，欧盟就《人工智能法案》达成了协议。 在2023年底举行的首届全球人工智能安全峰会上，包括中国、美国、英国在内的28个国家和欧盟签署了《布莱切利宣言》，旨在促进人工智能的全球治理。
可以看出，在数字经济时代，人工智能的布局已经成为各国的共识。 然而，如何布局、如何发展，仍然需要世界智慧、科研院所和产业界的智慧。 2024年AI技术将会发生什么？ 面对快速的技术发展，如何更好地监管人工智能？
工业应用的关键一年。
在传统的信贷业务模式下，银行向一些小农场放贷后，工作人员需要每隔一天进行一次贷后检查和监控，既费时又费力。 在西部的一些地区，一次检查甚至可能需要两三天时间。 中国农业银行研发中心负责人耿波在近日召开的首届人工智能应用大会上表示。
人工智能技术大规模应用后，高昂的运营成本大大降低。 “我们在小农场安装了一些摄像头，通过这些摄像头收集数据，然后使用人工智能进行计数。 耿波介绍，“不光是计数，人工智能还可以做辨别。 比如这头牛是老王的还是老李的。 耿波介绍，人工智能的应用提高了贷后管理效率，降低了贷后管理成本，让部分偏远地区享受到智慧金融服务。
这只是人工智能技术应用于地面的冰山一角。 “2024年将是人工智能技术在工业应用中实施的关键一年。 北京工商大学副校长左敏评判道。 在他看来，随着过去一年大模型的快速发展，人工智能技术的应用潜力得到了广泛认可。 与此同时，人们意识到，在人工智能领域建立越来越大的模型并不一定是最终目标。 将人工智能技术转化为具体可行的解决方案和产品对于推动人工智能行业和实现商业价值也至关重要。
未来一段时间，人工智能，尤其是大型模型，值得关注的方向是什么？ 中国移动通信联合会常务副会长杜正平给出了自己的答案：智能涌现的工程机理、新技术商业模式、新型智能组织和技术架构。
智能涌现，是指人工智能出现与初始训练目标无关的新行为和功能。 业界普遍认为，智能的出现是人工智能迈向更高阶段的表现。 然而，科学家们对智能涌现的机制和工程路径仍不清楚。 杜正平提到，互联网公司Meta近日表示，计划斥资数十亿美元购买英伟达的电脑芯片，用于人工智能研究及相关项目。 Meta首席执行官马克·扎克伯格（Mark Zuckerberg）也透露，根据该公司的AI未来路线图，该公司将构建大规模的计算基础设施。 到 2024 年底，该基础设施将包括 350,000 个 NVIDIA H100 显卡。 在杜正平看来，像Meta这样的“暴力”方法，是否一定会在人工智能中推动智能的涌现，以及智能涌现的机理和工程路径，还有待探索。
同时，杜正平认为，虽然大模型的开发正在如火如荼地进行，但仍需全行业在哪些方面开发新技术商业模式，有待探索。 “在模型智能时代，如何构建新的智能组织和技术架构也是我们关注的焦点。 杜正平说。
我国经济已从快速增长阶段转向高质量发展阶段，正处于转变发展方式、优化经济结构、转变和增强动力的重点问题时期。 中国电子商务协会联盟理事长聂林海表示，“要深刻把握新一代人工智能发展特点，加快人工智能与相关产业融合发展，为高质量发展提供新动能。 ”
推动治理规则和实践深化。
以大型模型为代表的生成式人工智能技术发展迅速，并初步显示出其对行业的颠覆性影响。 与此同时，人工智能安全治理问题也引起了前所未有的关注。 各国、国际组织、学术和科研机构、工业组织和技术公司都加入了它。 “全球人工智能安全治理的规则和实践将进一步深化和实现。 在谈到全球人工智能安全治理的发展趋势时，中国信息通信研究院人工智能研究中心高级业务总监胡纳英表示。
根据中国人工智能产业发展联盟安全治理委员会发布的研究成果，随着人工智能加速千行百业赋能，人工智能的安全治理问题正在从隐私保护、数据安全、算法黑匣子、模型漏洞等传统技术安全问题拓展到应用于生物、生物 化工、核能、关键基础设施等领域。
在人工智能安全治理解决方案方面，胡纳英介绍，全球持续加强人工智能安全治理。 2023年10月，联合国成立了人工智能高级别咨询机构。 该机构旨在监管人工智能并解决人工智能可能带来的风险。 在加强AI安全治理的过程中，风险导向已成为各国AI的共同治理路径。 例如，中国《生成式人工智能服务管理暂行办法》积极应对生成式人工智能在训练数据、算法模型、生成内容、个人信息权益等方面存在的风险。 欧盟的《人工智能法案》对人工智能进行了不同层面的监管，并对风险进行了监管。 联合国人工智能咨询机构在其中期报告中还表示，人工智能风险管理框架的开发将是下一步的重点。
具体措施方面，在技术快速发展的背景下，利用人工智能治理人工智能成为行业探索的重点。 其中，可扩展性监管、可解释性研究、模型评估等价值对齐方式是行业的主要探索方向。 例如，2023 年 5 月，AI 初创公司 Anthropic 宣布将通过一个名为“Constitutional AI”的大模型来评估和训练公司大模型的值。 人工智能研究公司OpenAI紧随其后，宣布成立超级对齐团队，投入20%的计算资源，打造一个在4年内解决对齐问题的人工智能。 （技术**）。