编者按
针对全球人工智能产业的监管，欧盟立法者将掀起新一轮的“布鲁塞尔效应”。
《互联网法律评论》今日整理了TechCrunch欧洲版高级记者娜塔莎·洛马斯（Natasha Lomas）的一篇新文章，让中国读者了解欧盟关于人工智能监管的最新立法规则，以及悬而未决的问题。
经过近三天的马拉松式谈判，欧盟立法者——欧洲议会、理事会和欧盟委员会——于 2023 年 12 月 9 日就第一套针对人工智能的综合监管规则达成了一项政治协议，规范了人工智能在生物识别监控等工具中的使用。 他们将在未来几周内讨论最终立法的细节，该立法预计将于明年初生效，并于2024年实施。
欧盟主席乌尔苏拉·冯德莱恩（Ursula von der Leyen）称赞该政治协议是“全球首创”。 当她于2024年底上任时，她将制定一项促进“可信”人工智能的法规作为其任期内的关键优先事项。
在准备和公布最终文本之前，可能需要数周时间才能完全确认所达成的协议的全部细节。 根据欧洲议会刚刚发布的公开文件：
人工智能禁令
全面禁止在以下领域使用人工智能：
使用敏感功能生物特征分类系统（例如，政治、宗教、哲学、性取向、种族）;
漫无目的地来自互联网或闭路电视录像抓取面部图像以创建面部识别数据库
在工作场所和教育机构情绪识别
基于社会行为或个人特征社会评级
操纵人类行为规避他们的自由意志;
利用人类的脆弱性牟取暴利（由于年龄、残疾、社会或经济地位）。
欧盟执法机构在公共场所使用远程生物识别技术尚未被完全禁止但欧洲议会表示，谈判代表已就一系列保障措施和一些例外情况达成一致，以限制面部识别等技术的使用。 这包括需要事先司法授权的罪行清单，这些罪行仅限于“严格界定”的用途。 这种侵入式AI技术的实时使用受到时间和地点的限制，只能用于以下目的：
有针对性地寻找受害者（绑架、贩运、性剥削）;
防止具体和当前的恐怖主义威胁;
查明或查明涉嫌犯有《条例》所述具体罪行之一（如恐怖主义、贩运、性剥削、绑架、持械抢劫、参与犯罪组织、环境犯罪）的人。
欧洲联盟理事会强调《人工智能法案》不适用于专门用于军事或国防目的的系统，也不适用于仅用于研究和创新目的的人工智能系统，也不适用于出于非专业原因使用人工智能的人
民间社会团体对此持怀疑态度，担心商定的对国家机构使用生物识别技术的限制不足以保障人权。
“高风险”AI和通用AI的规则
高风险“人工智能系统，包括”对健康、安全、基本权利、环境、民主和法治有重大潜在危害“的人工智能。
欧洲议会议员成功地将强制性基本权利影响评估纳入其他要求，这些要求也适用于保险和银行业。 用于影响选举结果和选民行为的人工智能系统也被归类为高风险，而公民将有权对人工智能系统提出投诉，并获得基于高风险人工智能系统的决定的解释。
会议还商定，将将“两层”护栏系统应用于“通用”人工智能系统，例如支撑 ChatGPT 等生成式 AI 应用程序病毒式增长的所谓基础模型。
人工智能通用模型 （GPAI） 和基础模型将受到透明度要求的约束，例如起草技术文档、遵守欧盟版权法以及传播算法训练中使用的内容的详细摘要。 对于具有所谓“系统性风险”的“高影响力”GPAI（定义为以浮点运算法衡量的累积计算大于 10 25 进行训练）：
评估模型并降低风险;
进行对抗性测试;
向欧盟委员会报告严重事件;
确保网络安全并报告其能源效率;
在统一的欧盟标准发布之前，必须依靠行为准则来遵守法规（欧盟委员会一直在与行业合作制定权宜之计的人工智能协议）。
已经商业化的基本模型GPAI面临该法案的监管，但研发不在法律范围内 - 根据今天的声明，完全开源模型的监管要求将比闭源模型更宽松。 该协议还促进了国家当局建立监管沙盒和真实世界的测试，以支持初创企业和中小企业在人工智能进入市场之前开发和训练人工智能。
处罚和效果
根据欧洲议会的说法，对违规行为的处罚可能导致 3500 万欧元或全球营业额的 7%，达到 750 万欧元或 1罚款从5%不等。，取决于违规行为和公司的规模。
违反被禁止的人工智能应用程序将受到更严厉的制裁（7%），而提供不正确的信息将受到15% 罚款。 此外，临时协议还允许对中小企业和初创企业在侵权案件中的行政罚款设定“更相称的上限”。 因此与人工智能巨头相比，人工智能初创公司面临的侵权处罚似乎要小
该协议还允许在法律通过后分阶段生效——在禁止用例的规则生效前 6 个月;12个月的透明度和治理要求;其他要求有 24 个月的期限。 因此，《欧盟人工智能法案》的全部影响可能要到2024年才能感受到。
西班牙数字和人工智能国务秘书卡梅·阿蒂加斯（Carme Artigas）领导了理事会关于该文件的谈判，他表示，该法律将以“法律确定性和技术确定性”支持欧洲开发商、初创企业和未来的规模化企业。
前方的道路是否清晰？
虽然欧盟对就“世界首创”人工智能规则达成的协议表示赞赏，但这并不是欧盟立法程序的结束，因为仍有一些正式步骤需要采取——尤其是最终文本将在议会和理事会进行投票。
《欧盟人工智能法案》中待讨论的未决事项：豁免问题：以法国为首的欧盟国家要求对任何用于军事或国防目的的人工智能系统（包括外部承包商）给予广泛豁免;
该法的适用范围：若条文有重大改动，是否适用于在实施前已上市的人工智能系统;
生物识别禁令的对象：生物识别禁令是否仅适用于欧盟内部使用的系统，还是会阻止欧盟公司在国外销售这些被禁止的应用程序。
然而，鉴于在如何（甚至是否）监管人工智能方面存在如此多的分歧和争议，这项政治协议消除了最大的障碍，未来几个月通过欧盟人工智能法案的道路看起来很清晰。
毫无疑问，欧盟委员会表现出了信心。 该协议的实施工作将立即开始——在欧盟行政部门内设立一个人工智能办公室，负责与需要对人工智能公司执行规则的成员国监管机构进行协调;监督最先进的人工智能模型，包括促进标准和测试实践的制定。 欧盟将任命一个由独立专家组成的科学小组，就GPAI模型向人工智能办公室提供建议。
最近几周，法国和法国人工智能初创公司Mistral带头反对在人工智能包中包含通用人工智能分层规则，这些规则一直在游说完全剥离GPAI义务的基础模型。 如果西班牙同意的协议**确实包含GPAI和基本模型的某些义务。 因此，这不是米斯特拉尔和他的游说者一直在推动的“完全剥离”。
在回应有关政治协议的消息时，法国数字部长办公室表示，他将仔细分析妥协，并将“保持其战略自主权”。
作者：natasha lomas，TechCrunch 欧洲高级记者，专注于移动和无线、电信和网络以及 IT 技能问题。
编纂者： 互联网法律评论
免責聲明撰写本文所需的信息均从合法和公开来源收集，我们无法对信息的真实性、完整性和准确性提供任何形式的保证。 本文仅以共享和交换信息为目的，不构成任何企业、组织或个人的决策依据。