研究人员警告说，强大的人工智能模型可用于增强网络虚假信息、网络攻击或生物**的创建。
欧盟谈判代表周五就世界上第一个全面的人工智能规则达成协议，为对人工智能技术的法律监督铺平了道路，该技术有望改变日常生活，并发出人类面临生存危险的警告。
来自欧洲议会和欧盟27个成员国的谈判代表克服了在生成式人工智能和使用面部识别监控等有争议的问题上的巨大分歧，签署了关于《人工智能法案》的临时政治协议。
交易！"午夜前，欧盟委员蒂埃里·布雷顿（Thierry Breton）在推特上写道： "欧盟成为第一个为人工智能的使用制定明确规则的大陆"。
本周有一场马拉松式的闭门会谈，第一轮会谈持续了22小时，第二轮会谈只在周五早上开始。
*我们都在为这项旗舰立法的政治胜利而努力。 然而，民间社会团体对该法案一直不冷不热，因为他们仍在等待未来几周需要解决的技术细节。 他们说，该协议在保护人们免受人工智能系统的侵害方面做得还不够。
科技行业游说团体计算机与通信行业协会（Computer & Communications Industry Association）欧洲办事处负责人丹尼尔·弗里德兰德（Daniel Friedlaender）说："今天的政治协议标志着人工智能法案关键细节的重要和必要技术工作的开始，这些细节仍然缺失。
欧盟于 2021 年发布了其规则手册的初稿，在世界上率先制定了人工智能指南。 然而，最近生成式人工智能的蓬勃发展导致欧洲**争先恐后地更新该提案，该提案旨在作为全球蓝图。
欧洲议会谈判的共同负责人意大利立法者布兰多·贝尼菲周五晚间告诉美联社，欧洲议会仍需在明年初对该法案进行投票，但这只会在达成协议时成为一种形式。
在被问及他想要的一切是否都包括在内后，他通过短信说："非常非常好。 "显然，我们不得不接受一些妥协，但总的来说非常好。 最终法律最早要到2024年才能完全生效，并有可能对违规行为处以高达3500万欧元（3800万美元）或公司全球营业额7%的严厉经济处罚。
像 OpenAI 的 ChatGPT 这样的生成式 AI 系统已经进入了世界的视野，它们能够生成类似人类的文本、**和让用户眼花缭乱的歌曲，但也引发了人们对快速发展的技术对就业、隐私和版权保护甚至人类生活本身带来的风险的担忧。
现在，美国、英国、中国和七国集团等全球联盟都提出了自己的人工智能监管，尽管它们仍在追赶欧洲。
美国哥伦比亚大学法学院教授、欧盟法律和数字监管专家阿努·布拉德福德（Anu Bradford）表示，欧盟拥有强大而全面的规则"在考虑监管时，它可以为许多人树立一个强有力的榜样**。"。其他国家/地区"它可能不会从每条规则中复制，但可能会模仿它的许多方面"。
她说，受欧盟规则约束的人工智能公司也可能将其中一些义务扩展到欧洲大陆之外。 "她说"毕竟，针对不同的市场重新训练不同的模型是没有效率的。
《人工智能法案》的最初目的是根据风险水平（从低到不可接受）减轻特定人工智能功能带来的危险。 但立法者推动将其扩展到底层模型，这是一个支持ChatGPT和谷歌Bard聊天机器人等通用人工智能服务的先进系统。
基本模型似乎将成为欧洲最大的症结之一。 尽管如此，尽管法国领导层表示反对，但谈判代表在谈判的早期阶段达成了初步妥协，呼吁进行自我监管，以帮助欧洲本土的生成式人工智能公司与美国的大型竞争对手竞争，包括OpenAI的支持者Microsoft。
这些系统，也称为大型语言模型，是在从互联网上收集的大量书面作品上训练的。 它们使生成式 AI 系统能够创建新事物，这与传统 AI 不同，传统 AI 使用预定规则来处理数据和完成任务。
构建基础模型的公司必须起草技术文档，遵守欧盟版权法，并详细说明将用于培训的内容。 组成"系统性风险"最先进的基础模型将受到额外的审查，包括评估和减轻这些风险、报告严重事件、实施网络安全措施以及报告其能源效率。
研究人员警告说，由少数几家大型科技公司建立的强大基础模型可用于加强在线虚假信息和操纵、网络攻击或生物创造**。
人权组织还警告说，用于训练模型的数据缺乏透明度对日常生活构成风险，因为这些模型是软件开发人员构建人工智能服务的基本结构。
最棘手的问题是人工智能驱动的面部识别监控系统，谈判代表在激烈的讨价还价后达成了妥协。
出于隐私考虑，欧洲立法者希望全面禁止在公共场合使用面部扫描和其他工具"远程生物识别"系统。 但是，会员国**成功地就豁免权进行了谈判，以便执法部门能够利用豁免权来对付儿童性剥削或恐怖袭击等严重罪行。
人权组织表示，他们对人工智能法中的豁免和其他重大漏洞感到担忧，包括对用于移民和边境管制的人工智能系统缺乏保护，以及开发人员可以选择不将其系统归类为高风险系统。
数字版权组织"立即获取"Access Now高级政策分析师Daniel Leufer表示："事实上，无论最终谈判多么成功，最终文本仍将存在巨大缺陷。