作者:赵天一。
编辑:曾玄甜.
AI行业也即将“过年”。 当大家都在为轻松的除夕做准备时,AI巨头们却一个个皱起了眉头。
最近,OpenAI和Microsoft被《纽约时报》提起的诉讼告上被告席,要求赔偿数十亿美元。 而知名的AI地图平台Midjourney,也是因为:新版本 v6 做得如此之好,以至于引起了公众的愤怒陷入漩涡。
此前,传统的AI地图工具经常会出现常识性错误,比如人有6根手指,点燃的香烟没有烟等,但在新版《Midjourney》中,这些错误得到了优化。
Midjourney 还升级了光影、纹理等细节,让生成的**极为逼真,不再是过去粗犷的“AI画风”。 甚至有不少网友表示,AI生成的**太逼真了,甚至和人们平时拍的真实场景**一模一样。
这次史诗般的更新也为 Midjourney 带来了一波用户增长。 但很快一些用户就发现了问题:生成的**其实和电影的原始画面非常相似!
左边是电影《复仇者联盟》的原图,右边是Midjourney v6版本生成的**)
网友发现,该商标也可以被准确复制)。
不仅是《复仇者联盟》,还有很多《小丑》《沙丘》等电影,甚至动画、商标等都被招募进来。
网友普遍认为,Midjourney的AI模型很有可能是逐帧学习了这些电影和动画,从而有可能达到如此高的相似度。 然而,问题在于,这些影视内容,Midjourney 从未受版权保护
在这场漩涡中,资深电影概念艺术家兼插画家里德·索森(Reid Southen)在推特平台上公开表达了自己的不满,并详细揭露了Midjourney侵犯版权的行为。
当他使用Midjourney生成黑寡妇电影片段时,他故意拼错了黑寡妇演员的名字,但Midjourney仍然能够准确地制作出几乎逼真的电影片段。
Southen认为这恰恰说明Midjourney存在严重的侵权行为从理论上讲,人工智能只有在数据训练中学习到大量真实、高分辨率的电影图像和信息,才能不断加强电影图像与演员姓名的关联。
这种联想会随着学习次数的增加而越来越强,甚至只要触发关键词“黑寡妇”,即使拼写错误,AI也能自动纠正,并关联到对应的电影画面。
Southen的一条推文掀起了千波,许多使用Midjourney的网友也开始跟着帖子发声,纷纷贴出各种Midjourney侵权的“证据”。
Midjourney迅速做出反应但不是要解决问题,而是要解决提出问题的人- 禁止 Reid Southen 继续使用他们的服务,并删除他使用过的所有提示、生成的**和其他信息。
这一行动,更是让以索森为首的内容创作者更加愤怒。 不仅如此,Southen 还发现 Midjourney 并没有主动通知用户“秘密”更新服务条款
原始服务条款)。
添加到新的服务条款中)。
Midjourney原来服务条款中涉及知识产权的部分非常草率和随意,只是警告用户不要侵犯版权,如果涉及Midjourney,用户将面临平台的索赔。 然而,服务条款在一夜之间被修改得非常苛刻它更详细地限制了用户的行为,并扩展了平台的功能。
纽约大学神经科学教授加里·马库斯(Gary Marcus)发现,与旧的警告不同,Midjourney有权起诉用户在新的服务条款中企图侵权。 这种变化显然对那些为Southen说话的人构成了威胁。 马库斯立即在推特上表示,在平台重新修改之前,不应再使用 Midjourney“傲慢,倾倒”。条款和条件政策。
目前,平台和用户仍处于“剑拔弩张”的僵局。 事实上,这样的场景在AI行业并不少见。 版权之争是自AI模型诞生以来一直被问到但一直没有答案的问题。
就在Midjourney V6发布前两天,曼哈顿联邦法院受理了一起关于知识产权保护的案件。 11 位非小说类**作家指责 OpenAI 和 Microsoft 使用他们的书来训练 ChatGPT 和其他 AI 模型。
在上诉的作家中,有一些业内知名人士,如泰勒·布兰奇、史黛西·希夫和凯·伯德(他们是原版电影《奥本海默》的创作者,并获得了普利策奖)。
他们在相关的起诉书中指控OpenAI践踏版权保护法律法规直接窃取大量受版权保护的素材进行培训,Microsoft无疑是这种侵权行为的幕后黑手**
两家公司一致否认了这些指控。 但是,当PConline仔细查看其服务条款时,它发现了一个问题。
在谈到侵权相关问题时,OpenAI首先向用户表示,将负责所有赔偿。 但是,仔细阅读后发现,如果用户无意中上传了受版权保护的内容,导致侵权OpenAI 已经把自己选为干净了并且没有提到他使用的训练数据是否侵权以及如何处理。
Openai 服务条款原件)。
这是 Microsoft 服务条款中的另一种情况。
PCConline可以在Bing,Microsoft的搜索引擎,Bing对话体验和图像创建计划条款的官方网站上找到。 在内容版权方面,该文件直接表明用户使用AI服务创建的内容的所有权属于用户,但版权授予Microsoft、关联公司和第三方合作伙伴,任何人都可以随意使用而无需支付报酬。 当涉及到所有其他问题,例如与人工智能相关的版权纠纷时,Microsoft的答案是:“风险自负”。
在版权纠纷问题上,这三家最火的AI科技巨头的态度几乎是一样的后果由用户自行承担。
然而,纵观主流AI服务的进程,我们发现科技巨头在未经许可的情况下,使用受版权保护的内容来训练AI能力。 获得高级 AI 功能后,您可以向想要使用该功能的用户收取不便宜的月租(ChatGPT 每月 20 美元,Midjourney Pro 每月 48 美元)。
在使用过程中,用户极有可能调出受版权保护的内容,无意中侵犯了版权。 一旦陷入版权纠纷,科技巨头们就“隐形”了。用户只能“祈求更多的祝福”,遭受这种愚蠢的损失。
事实上,版权一直是AI模型开发中一个模糊的领域,也是悬在科技巨头头上的一把达摩克利斯之剑。
2022 年,《福布斯》杂志采访了 Midjourney 的创始人 D**id Holz,询问他在 AI 训练之前是否曾向在世艺术家或创作者征得版权许可。 霍尔茨毫不含糊地回答:没有。
在他看来,目前的版权技术和管理无法应对人工智能的自动捕获。 图像中没有嵌入有关版权的元数据,也没有所谓的版权“注册表”,也没有办法在互联网上找到一个然后自动追踪其所有者。 可以说,创始人一年前埋下的矿山,今天终于引爆了。
虽然追踪版权和获得许可是一项艰巨且耗时的任务,但将侵权风险完全转移给用户并不是一个根本的解决方案。
当然,也有人正在研究它。 两位美国众议院众议员 Anna Eshoo 和 Don Beyer 最近提出了一项新法案,即《2023 年人工智能基金会模型透明度法案》。
该法案提到,美国国家标准与技术研究院院长、版权登记处、科技政策办公室主任和其他相关利益攸关方应参与版权问题的讨论。
法案中也详细指出了这一点AI 模型应提供的信息它包括训练数据的概述、技术公司执行训练数据的过程,并要求技术公司解释其模型的局限性或风险。
在这份长达14页的文件中,围绕版权多次强调了数据透明度培训的重要性。 这似乎是解决版权纠纷的一个好方向然而,理想总是美好的,现实总是脱轨的。 美国法案通常需要数十个月甚至数年的时间才能生效。
版权保护还有很长的路要走,但侵犯版权的事情时有发生。
到年底,几乎所有科技巨头都因涉嫌侵犯版权而受到诉讼但OpenAI等人工智能公司经常使用“合理使用”和“安全港规则”的组合来反驳上诉。
“合理使用”是美国版权法的一种宽大处理,它赋予了在某些特殊场景下使用版权的权利,如批评、新闻报道、教育、学术研究等。 在确定是否属于“合理使用”时,需要考虑几个因素:受版权保护的内容类型、使用版权对市场的影响以及使用版权的实体是否有利可图。
但很明显,这些科技巨头赚了很多钱(福布斯最近公布的 2023 年 TOP10 财富增长亿万富翁中有 7 位是科技亿万富翁)。“合理使用”原则不适用。
“安全港规则”是为保障科技公司服务的正常运行而制定的规则,即网络服务提供者在知悉侵权行为或侵权内容存在后有义务采取措施,如删除用户的侵权内容等。 只要采取行动,就可以免除责任,因此也称为“通知-删除”规则。
但“安全港规则”正在逐渐被滥用它本来是作为互联网良好运行和发展的保护盾牌,但逐渐成为侵犯版权的利剑。
当然,也有网友认为,AI大型语言模型本身需要学习大量的人类创造物,才能成长,变得更“像人”。 不可能“你想让马跑,但你想让马不吃草。
此外,当AI抓取内容时,它还可能学习盗版内容。 盗版资源在互联网上飞来飞去,AI可能无法识别它们,这是一个无法解决的版权问题。
这种“后退一万步,对不对?”受害者有罪的理论确实不利于解决当前的问题,并且模糊了这一点。
版权问题的症结不在于人工智能是否应该从人类创造中学习,而是在学习人类创造的过程中,作为人工智能的管理者科技巨头的责任和义务没有到位。
作为技术发展和商业利益之间的桥梁,科技公司应控制人工智能培训材料,并确保版权得到妥善处理另一方面,应当履行对用户的基本审查义务,不得纵容甚至协助用户的侵权行为。
现在,抖音、小红书等平台将对用户发布的内容进行审查,还会有“疑似AI生成”的判断,强制显示在用户页面上。 这只是一小步,但它是可见的在技术层面上,对内容的审查是可以实现的
无论是像Midjourney这样拥有11名员工的小公司,还是像Microsoft这样在全球拥有超过20万名员工的大型企业,作为人工智能领域的领导者,还有很多工作要做。
引用:
Midjourney 用户服务条款原件:
新闻 约翰·格里沙姆(John Grisham),其他美国顶级作家起诉openai版权:
Openai 服务条款原件)。
Microsoft Bing 服务条款原件:
News Midjourney 创始人 D**id Holz 谈人工智能对艺术、想象力和创意经济的影响:
2023 年 AI 基金会模型透明度法案: