近日，美国著名歌手泰勒·斯威夫特（Taylor Swift）的一组AI***在互联网上风靡一时。 据《纽约时报》报道，在禁令之前，**被观看了4700万次。
这是非常令人震惊的，因此我们将尽我们所能解决它。 白宫发言人卡琳·让-皮埃尔（Karine Jean-Pierre）在新闻发布会上回应了这一消息，“我们担心这些图像的传播，更准确地说，是虚假图像，这令人担忧。 ”
她还补充说：“虽然社交媒体公司可以在内容管理方面做出独立决定，但我们认为他们在执行自己的规则方面可以发挥重要作用，以防止错误信息和真实人物的私密图像在未经同意的情况下传播。 ”
1 月 27 日，Platform X（前身为 Twitter）采取了前所未有的措施，阻止了对泰勒·斯威夫特的任何搜索。 华尔街**X业务运营主管Joe Benarroch证实了这一规定：“这是一项临时行动，我们将非常谨慎地采取，因为我们在这个问题上优先考虑安全。 ”
相关话题登上热搜榜首，粉丝们大发雷霆
虽然发霉AI的假“**照片”在国外社交圈风靡一时，但人气也迅速蔓延到中国。 1月27日，泰勒·斯威夫特（Taylor Swift）的AI**照片在网上疯传，并在微博上登上了第四次热搜榜首。
在这些**被传播和禁止的过程中，据外媒报道，霉菌本人已经得知了这一事件，并对互联网上流传的**感到愤怒。
霉粉粉丝也对此事深感愤怒，在X平台上，有网友直接@Musk X账号：这是恶心的、未经同意的性内容，不应该出现在你的平台上。 因此，请关闭并快速推动它。 在微博上，很多粉丝也直言不讳地表示：我知道是AI还在疯狂传播，这对美女来说是多么的恶意。
在白宫回应此事后，《环球时报》发现，发霉的粉丝对此仍有新发现：美国现行联邦法律中没有任何相关规定可以阻止此类未经同意的“深度伪造图像”的创建或共享。 美国政界已经发现了这个漏洞，纽约民主党众议员乔·莫雷尔（Joe Morrell）正在推动一项法案，该法案将分享这种经过数字修改的“露骨图像”定为犯罪，这将导致罚款和监禁。
高勤律师事务所合伙人王媛表示，AI换脸其实是对传统人格权的侵犯，但体现的形式与传统的侵权形式不同。 “霉菌是一个非常有影响力的公众人物，可以迅速引起立法和立法监管机构的注意。 事实上，人工智能换脸和深度伪造正在侵犯每个人的权利。 ”
据IT House报道，Microsoft首席执行官萨蒂亚·纳德拉（Satya Nadella）在接受NBC新闻采访时评论了这一事件：“是的，我们必须采取......我相信，当网络世界成为一个安全的世界时，每个人都会从中受益，我们需要在这方面迅速采取行动。 ”
平台肩负着“守门人”的责任。
事实上，这已经不是霉菌第一次被AI伪造了。
据澎湃新闻报道，不久前，一则由人工智能生成的假泰勒·斯威夫特（Taylor Swift）外卖广告在Facebook上传播开来。
主要口号是：“嘿，伙计们，我是泰勒·斯威夫特。 由于包装错误，3,000 套 Le Creuset 炊具无法线下销售，转为线上**。 我有个好消息要告诉你，我正在与 Le Creuset** 合作——20 名忠实粉丝将获得一套免费的炊具。 ”
资料来源：澎湃新闻。
事件发生后，涉事公司迅速对此做出回应，称泰勒·斯威夫特没有参与任何消费者赠品活动，所有关于该产品的活动**都来自官方社交活动。 人工智能“深度伪造”技术合成了她的声音，并将其与她的图像和 Le Creuset 广告中的片段拼凑在一起。
当受害者被引导到假**时，他们将被要求支付 9运费 96 美元。 但是声称免费赠送的厨具，其实不会被赠送。 Facebook 的母公司 Meta 也迅速对欺诈活动做出了回应。 此后，Meta 表示已删除该广告。
值得注意的是，在这两起事件中，X和Facebook平台都在第一时间做出回应和处理。 那么，平台在此类事件中扮演什么角色呢？
王源表示，随着大数据和人工智能的发展，平台端与传统市场参与者不同，需要承担更大的责任。 “无论是中国的个人信息保护，还是欧盟的《数字市场法》，其实都强调这个大平台应该承担'看门人'的责任，需要对这些利用平台向外界提供服务的企业承担一定的监管责任。 ”
不过，她也指出，目前的难点在于平台承担了多大的责任，在什么情况下，这还是理论上的。 当涉及到实际问题时，责任分工目前是非绝对的。
警惕 AI 深度伪造
深度造假是“深度学习”和“假冒”的合成词，是指利用深度学习技术生成合成图像、音频或**。
布法罗大学法医实验室计算机科学教授卢思危曾表示，“发霉”的“深度伪造”诈骗活动很可能是使用文字转语音服务产生的。 这些工具将脚本转换为声音，并使用口型同步程序将它们合成为剪辑。
值得注意的是，深度造假技术早在这张“发霉的AI照片”之前就已经存在并被广泛使用。 最常见的是 AI 换脸和 AI 语音交换。
例如，清华大学新闻与传播学院教授司若表示，AI换脸和换声技术可以让已故演员和历史人物通过换脸技术在屏幕上再现，在不同国家的语言翻译中也可以通过AI换声技术进行实时翻译。
然而，在技术不断迭代的另一面，却有犯罪分子牟利，让很多普通人成为深度造假技术的受害者。 去年11月，新泽西州一所中学30多名女生的**被篡改传播; 西班牙小镇的女学生也发现自己“在学校和社区传播......
去年7月初，德国电信还发布了一则关于儿童数据安全的广告，展示了使用个人数据是多么容易以及后果有多严重，并敦促家长尽可能少在互联网上分享孩子的隐私。
资料来源：**Times.com。
商业改善局去年还警告说，“深度伪造”骗局正在上升，“在购买之前花点时间重新检查帖子和社交帐户，这些很可能是假的，如果你购买不合格或不存在的产品，你会赔钱（通常比你想象的要多）。 ”
在呼吁警惕人工智能深度欺诈的同时，许多国家的监管机构也意识到现有法律的不足，并正在加大对人工智能监管的力度。 2023年10月30日，拜登签署了《人工智能监管原则》，内容广泛而全面，对美国内部人工智能治理和国际人工智能对接有详细指示。
该行政命令提议建立安全、可靠和值得信赖的人工智能，最值得注意的是要求“最强大的人工智能系统”的开发人员与美国分享他们的安全测试结果和相关数据**。
去年12月8日，据当地**报道，欧盟还就规范人工智能的“里程碑式立法条款”达成协议，并推动制定全球最严格的人工智能发展限制制度。 同一天，欧盟内部市场专员蒂埃里·布雷顿（Thierry Breton）在X平台上的一篇文章中证实，该协议已经达成。 他称这是一项历史性协议，并写道：“欧洲成为第一个为人工智能的使用制定明确规则的大陆。 ”
综合自21世纪经济报道、IT House、**Times.com 等。