视觉中国。
文本 |元宇宙的新声音，孙浩楠编辑。不久前，香港**爆出一桩涉及深度AI造假技术的复杂事件**，一家跨国公司的香港办事处遭遇了高达1的惨案。重大财务损失8亿元。 这不是第一个与AI相关的骗局，已经有很多使用AI换脸和语音模仿技术的骗局。
最近OpenAI Sora的出现，再次让我们震惊了AI技术的快速而强大的发展，在震撼其能力的同时，也让我们担心，当这些尖端技术被欺诈者使用时，该如何应对。
据香港**统计，这次高达1这笔 8 亿美元的 ** 以公司首席财务官和其他员工的数字重建版本为特色，他们出现在 *** 会议上指示员工转移资金。 这家跨国公司的财务人员被冒充该公司驻英国首席财务官的人要求进行所谓的秘密交易，最初的怀疑被深度伪造技术打消了。
该员工在收到据称来自该公司英国首席财务官的消息后开始怀疑。 最初，该工作人员怀疑这是一封网络钓鱼电子邮件，因为它谈到了进行秘密交易的必要性。 然而，在通话结束后，该员工放下了最初的疑虑，因为在场的其他人看起来和听起来都像他认识的同事。 最终，该员工认为**中的其他人是真实的，于是他同意汇出总共2亿港元（约合2560万美元），当该员工后来与公司总部核实时，他发现假CFO参与其中。
香港**表示，这已经不是首例严重使用该技术，**利用AI换脸和语音模仿技术修改公众**等镜头，以骗取人们的钱财。 在之前的几起案件中，已经有六人**，但没有迹象表明最近这个骗局的幕后黑手已被逮捕。
与此同时，香港**表示，在去年7月至9月期间，有8张被盗的香港身份证（均已由失主报告遗失）被用于申请90份贷款和登记54个银行账户。 至少有20次，AI换脸技术被用于模仿身份证上的人，试图欺骗面部识别程序。 仅仅一个简单的AI换脸和模仿技术，就让诈骗者如此猖獗，如果是更强大的AI**技术呢？
这两天最受关注的，就是OpenAI推出的AIGC新款SORA了，其功能震撼了无数人。 据介绍，Sora可以直接输出长达60秒的**，并且包含高度详细的背景、复杂的多角度镜头、多个充满情感的角色。
目前官网已经更新了48个**demo，其中Sora不仅能精准呈现细节，还能理解物理世界中物体的存在，生成情感丰富的角色。 该模型也可以从提示、静止图像生成，甚至可以在现有帧中填充缺失的帧。
科技圈不少明星纷纷惊呼，马斯克直接在社交平台发了一条短评“GG HUMANS”（GG是电竞中常用的术语，意为“好游戏”，通常用来表达对对手的认可和自己认输的态度。 )。马斯克的评价似乎暗示，人类在世代领域已经被空超越了。
360公司董事长周弘毅直接在朋友圈发文称，一旦AI能够连接相机，**并理解世界上所有的电影，其理解世界的能力将远远超过仅通过文字学习所能达到的水平。
除了将文本转换为**之外，SORA还可以接受其他类型的输入提示，例如现有图像或**，这意味着SORA具有很强的**扩展功能。 看到这里，相信大家对SORA的威力有一定的了解，所以现在想象一下，如果骗子使用这个工具，精心策划一个**，结果会是多么难以想象。
举个简单的例子，**使用SORA生成你熟人的“意外”**，被推到医院的急诊室**，然后用特殊的方式恶意造成当事人**忙，社交账号被盗，然后你就要了“手术费”。 也许经过这一系列的操作，被骗的人可能很容易被骗。
2023年4月20日，内蒙古包头市发生一起金额高达430万元的诈骗案，利用AI换脸技术成功。 当天，郭先生接到朋友**的求助请求，朋友说自己在其他地方竞拍，需要430万元定金。 巨额的钱也让郭先生起了疑心，于是他拨了**确认对方的身份，几乎一模一样的面孔和声音让郭先生打消了疑虑。 短短十分钟，430万元就转入了**账户。 好在复呼后，郭先生看穿了**，及时报警，被骗的300多万元被冻结。
当然，要做到这一切并不容易。 首先，sora本身并不完美，不可能准确把握现实世界中的所有信息，而且在显示中经常有违反物理规律的内容，比如玻璃破碎、四足蚂蚁等因果过程。
空的“人工智障”的表现，也让大家真的松了一口气。 虽然确实产生了一些足够惊人的**，但Sora应该远没有扔进一个**并生成一部电影。 在公众不知情的情况下，技术并没有飞得太远，担心由此产生的欺诈行为也不过分。
二是OpenAI本身有严格的规定限制用户“非法”使用，随着AI技术的进步，相关法律法规也在逐步完善。 最重要的是，随着我们接触到事物的丰富性，我们的知识逐渐增加，我们可能已经知道一些劣质的欺诈手段，但随着技术的飞速发展，各种新的欺诈手段层出不穷，我们需要保持高度的警惕。
刚刚过去的2023年，被称为生成式AI元年，文生图不仅有大量的工具，还有Pika、Sora等**模型。 在各种新技术层出不穷的时候，当老百姓还以为是“好玩”的时候，或许有些老人已经有被骗的风险了。
大家都明白，科技是一把双刃剑，Elevenlabs可以让语言障碍的人说话，海根让霉菌对口型不用翻译就能说中文，苗鸭相机让人足不出户就能收获精致的证件照，科技的明暗面没有长处和短处，只有客观存在。
1月底，人工智能生成的美国流行歌星泰勒·斯威夫特（Taylor Swift）的色情图片在社交媒体上疯传，凸显了人工智能技术的潜在破坏性。 这些**展示了歌手的性暗示和露骨姿势，在被从社交平台上删除之前被**数千万次。
就算是身为明星，也无能为力，更何况是一些渐渐与时代脱节的老人呢？ 对于很多中老年人来说，智能手机和互联网是不可理解的，现在AI又在闹事了。 在AI时代，文字、声音、**都可能都是假的，甚至以组合的形式，**假身份更具体，欺诈更合适真实，让中老年人上当受骗的概率更高。
比如最近**号上就有很多俄罗斯美女。 他们个个皮肤白皙，貌美优，普通话流利，但分句和用词奇怪，语调和鼻音发音不准确，乍一看很符合大众对外国人的看法。 她们热情洋溢，热爱中国文化，被贴上“俄罗斯女孩在中国”和“中俄友谊”的标签，为观众带来牛腱香肠、大乐巴、羊奶粉、腌黄瓜、巧克力、手工皂等家乡特产。
但事实上，这些俄罗斯美女都是AI，平台被贴得很紧。 我们还可以通过模糊和夸张的背景、未梳理的头发、循环的几组表情和动作以及过于接地气的线条来区分它们。
不过评论区有些中老年人分不清，真希望她们留下来，俄罗斯美女们回复时只担心自己的任务，完成了一场悄无声息的软诈骗。 如果真的为了相信而买了不符合标准的产品，当时又找不到人抱怨，那真是“苦言烂语”。
无论技术如何发展，许多骗局都有相同的套路：窃取隐私，利用恐惧、贪婪和情感价值编造故事，冒充熟人或包装自己以获得信任，并试图将金钱作为最终目标。
像SORA这样强大的AI工具并不少见，随着技术的快速发展，它们将变得更加多样化和完善，并在此过程中，相关法律法规将逐渐完善。 我们不必担心技术的发展，技术是属于每个人的，只要我们与时俱进，保持警惕，我们就能共同走向一个技术不怕，而是明智地使用的未来。