今天分享人工智能系列深度研究报告：人工智能专题研究报告《人工智能伦理治理研究报告2023》中国信息通信研究院
报告制作人：中国信息通信研究院
报告总计：30页。
专题报告**：人工智能学院
（一）人工智能伦理的概念与特征
人工智能伦理是开展人工智能研究、设计、开发、服务、使用等科技活动需要遵循的价值理念和行为规范。 人工智能伦理关注技术的“真”与“善”，为人工智能的发展提供了更广阔的讨论空间。 人工智能伦理包括两个方面：价值目标和行为要求。 在价值目标方面，人工智能伦理要求人工智能活动的各个阶段都应以增进人类福祉为目标，尊重生命权，坚持公平正义，尊重隐私。 在行为要求方面，人工智能伦理要求人工智能技术安全、可控、透明、可解释，在人工智能研发和应用的各个环节加强人类责任，倡导和鼓励多方参与与合作。
人工智能伦理呈现出三个特征：哲学、技术和全球。 首先，人工智能伦理学拓展了人类道德和哲学反思的边界。 人工智能伦理学包含了对人与机器之间关系的伦理思考，并扩展了人类对善良、理性和情感等问题的探索。 人工智能伦理学的讨论不仅包括人工智能主体、人格、情感等方面的本体论伦理问题研究，还关注人工智能的应用是否符合社会道德的要求。 对人工智能伦理的讨论体现了当代人对社会生活的价值理想，并将人类互动的伦理规范延伸到对人与技术互动的反思。 其次，人工智能伦理与人工智能技术的发展和应用密切相关。 从2024年第一波人工智能浪潮，阿西莫夫提出“机器人三原则”，到2024年第三波人工智能浪潮，机器人伦理研讨会在第三波人工智能浪潮中正式提出“机器人伦理学”，而如今，人工智能伦理学已成为世界共同关注的问题， 工业界和学术界。随着深度学习算法的演进和人工智能技术应用领域的拓展，人工智能伦理关注的是算法技术风险和技术应用危机的防范。 在“强人工智能”时代到来之前，人工智能伦理主要集中在歧视性偏见、算法“黑匣子”、技术滥用、数据收集不当等方面。 然而，随着大规模模型技术的发展，人工智能伦理讨论的话题也不断深入。 第三，改善人类福祉是全球对人工智能伦理的共识。 与传统伦理观念的差异以及区域历史和传统文化的影响不同，人工智能技术的发展和应用带来了全球性的伦理挑战。 当前，社会偏见、技术鸿沟、多样性危机已成为国际社会面临的共同挑战。 以人为本、智慧向善、推动可持续发展已成为全球人工智能伦理共识。
（二）人工智能伦理治理的必要性
面对人工智能带来的风险，通过人工智能治理的多重机制推动人工智能健康发展已成为普遍共识。 人工智能伦理治理是人工智能治理的重要组成部分，主要包括以人为本、公平非歧视、透明可解释、人为控制、责任可追溯、可持续发展等。 基于人工智能技术的发展和应用，人工智能伦理治理可以及时提出调整人与人工智能关系、应对人工智能风险的途径。 人工智能伦理治理的重点不是聚焦创新主体的最低义务要求，而是推动“智造福人类”价值目标的实现。
（1）人工智能的伦理挑战
在技术研发阶段，由于在数据采集与使用、算法设计、模型调优等方面的技术能力和管理方法缺乏，可能存在偏见与歧视、隐私泄露、错误信息、不可解释性等伦理风险。 偏倚歧视的风险是由于数据集的质量，如有偏见的内容和缺乏多样性，以及针对不同群体的算法设计不公平，导致歧视性算法决策或内容输出。 隐私风险是指在未经同意的情况下使用个人数据进行模型训练，这反过来又增加了模型输出内容可能侵犯隐私的风险。 错误信息的风险主要发生在人工智能的基本模型中，因为大模型是基于预购文本为下一个单词进行自回归**生成的，内容受预购文本的影响很大，大模型可能会产生“幻觉”，进而产生不正确和不可靠的内容。 无法解释的风险是指由于人工智能算法的复杂性和“黑匣子”，导致人工智能决策的无法解释的原因和过程。 在产品开发和应用阶段，人工智能产品的具体领域以及人工智能系统的部署和应用范围都会影响人工智能的伦理风险程度，可能导致误用、滥用、过度依赖等伦理风险，对教育和就业造成影响。 误用和滥用风险是指由于使用人工智能技术的便利性和完成任务能力的增强，人工智能容易被用于不适当的任务的风险，包括快速生成大量虚假内容、产生恶意**、诱导输出不良信息等。 过度依赖风险是指用户因AI技术能力的提升而对AI的过度依赖和信任，包括未经事实核查就接受大模型生成的内容，甚至因长期互动而产生情感依赖。 影响 教育和就业风险是指人工智能便利性的提高，它允许学生在机器的帮助下完成作业**，影响了教育和学习的基本方法，青少年与人工智能的广泛直接互动也可能带来心理健康风险。 同时，人工智能对就业的影响不仅限于数字替代，还可能影响从事艺术、咨询、教育等领域的专业人士，加速教育投资的贬值7，引发进一步的就业替代冲击。
（2）人工智能在典型应用场景下的伦理风险
根据人工智能的具体应用场景，在主要伦理风险、风险影响对象和范围、伦理治理对象等方面存在较大差异。 目前，**代电、自动驾驶、智慧医疗等应用领域面临的典型伦理风险存在一定差异，需要在不同场景下进行分析和探讨。
报告总计：30页。
专题报告**：人工智能学院