【科技网】3月6日消息,看过电影《流浪地球2》的观众或许还记得这样一段片段:科学家屠恒宇想把车祸中死去的女儿的记忆上传到“数字生活世界”,让女儿在数字世界里度过完整的一生。
今天,电影正在栩栩如生。 **仁宝小白用AI再现了病逝的女儿,其数字形象不仅可以即时回答问题,还可以在妈妈生日那天和家人一起唱生日歌。 有网友表示,“包小白是现实版的屠恒宇”。
事实上,AI数字人并不新鲜,可以用于直播、广告等很多场景。 从2022年开始,一些人工智能从业者开始为普通人定制“AI数字人”,从2023年开始,每个人都可以实现数字永生。
TechWeb发现,在一些电商平台上,有很多商家做相关业务,声称只有亲人的高清个人照片和音频才能“复活”已故的亲人。 *从几元到几百元,很多用户都下了单。
从生产到销售,AI“复活”亲戚成为产业链。
人工智能是如何“复活”亲人的?
自生成式人工智能兴起以来,一些人一直在尝试使用人工智能技术来“复活”他们所爱的人来表达他们的想法。
2020 年,加拿大人约书亚在一个名为 Project Deember 的 AI 聊天机器人中复活了他的女友。 这个聊天机器人是基于 GPT-3 语言模型开发的,只要在特定的语料库上训练,它几乎可以模仿任何对话风格。
随着技术的不断迭代,利用AI模拟真人的“数字人”爆发式增长,已故亲人的形象也变得更加具体。
实施过程也不复杂。 首先,需要收集已故亲人的数据,如**、录音等,然后利用深度学习算法对数据进行分析,了解已故亲人的特征,包括他们的面部表情、声音特征、行为习惯等。 这些数据可用于训练 AI 模型,该模型可用于创建一个虚拟的已故亲人,在屏幕上“复活”他们并与他们进行对话。
目前,国内已有多家互联网公司参与相关技术研究,并已在具体场景下落地。
近日,商汤科技利用AI技术复活了因病去世的创始人唐晓鸥,从**的**来看,唐晓鸥以数字人的形式出现在商汤科技2024年年会上,并发表了演讲,表情、语气、小动作都生动。
今年2月,阿里发布了一款新的生成式AI模型emo,只需要提供一个**和一个任意的音频文件,就能生成会说话会唱歌的AI,有博主利用这项技术生成了张国荣演唱的粤语歌曲《无条件》**。
在B站等平台上,不乏讲述用AI“复活”亲人、弥补遗憾的**,比如“用AI工具生成奶奶的虚拟数字人”、“AI复活奶奶,用时空对话弥补我的遗憾”等,还有大量的保姆级教程教你如何用AI复活亲人。
在最近的一次发布中,他采访了第一批为普通人定制AI数字人的实践者张泽伟,他说他制作的AI数字人大致有两种类型。 一种是智能驱动,即收集人类图像和语音等数据,并制作一个可以与之对话的虚拟数字人类图像。 另一种是人为驱动,即用真人代替死者的形象和声音,实时互动。
在实际效果上,第二个比较现实。 张泽伟表示,目前大部分人选择这种真人剧形式。 由于需求火热,张泽伟在一年内完成了600多个定制AI数字人订单,平均订单从几千元到一万元不等。
9.9元,就可以用AI来“复活”你所爱的人
在一些电商平台上搜索“AI复活亲人”,还能看到很多做相关业务的店铺,声称“只要提供亲人的高清个人照片和音频,就能帮你实现心愿”,低至99元,几十元或几百元。 其中大多数是市场上的开源模型。
也有商家自称是自研数据模型,服务内容更细致,收费标准多层次。 比如你定制亲人的**talk**,30秒内就要花199元,每30秒分机要收费50元; 提供至少60秒的家庭录音、微信语音、**语音、一对一恢复亲人声音,收费499元。
据张泽伟介绍,定制AI数字人的用户范围很广,有想要拥有偶像数字克隆的年轻人,也有想要“复活”死于癌症的孩子的母亲,也有因特殊原因无法见到孩子,想用数字克隆陪伴孩子的父亲。
在他看来,AI数字人的核心是解决“陪伴问题”。 然而,目前一个实际问题是AI诈骗频发,而且很多都是巨额骗取的,再加上中国人的传统观念,AI亲戚“复活”的背后还存在着不少潜在风险。
其背后的法律和道德风险尚未解决
3月1日,刘德华影视公司@英艺娱乐发表严正声明,提醒大家警惕AI语音合成**,引起广泛关注。
声明称,微信用户“安迪分享群”及其关联**账号“安迪大会号”通过信息技术手段伪造刘德华的声音,在未经授权的情况下不断发布片段和拼凑**,导致公众误认,从而达到利用刘先生的人气引流量、卖货、牟利的目的。 该行为严重侵犯了刘德华的肖像权、姓名权和话语权,涉嫌构成诈骗。
随着科学技术的进步,也出现了许多管理问题。 我们从人工智能技术的发展和进步中受益,也注定要面对这项技术在重塑社会方面带来的潜在风险,毕竟这已经不是刘德华的经历第一次上演了。
去年,Up大师艾贝拉用AI技术“复活”了自己的偶像姚蓓娜,并为她制作了5首翻唱歌曲,包括《相思》《独立的汉江曲无异》《海底》,引爆了网络。 艾贝拉说,剪辑的初衷是让更多的人记住和记住姚贝娜,让姚贝娜的声音能多陪她。
然而,在**走红之后,关于这种做法是否侵权的讨论并没有停止。 艾贝拉也意识到自己可能面临的法律风险,他联系了姚贝娜的家人,在征得了姚贝娜父亲的同意后,他获得了姚贝娜的语音授权,才继续创作以下**。
除了法律风险,AI“复活”亲人还面临道德审判。 UP高手吴武柳此前用AI工具生成了奶奶的虚拟数字人,感动了很多人,但很多网友在弹幕和评论区表示,“太可怕了,我对人工智能很抗拒”“反正我不会用我喜欢的人来做这件事。 他是唯一一个,不是人工智能可以模仿的。 ”
在中国人的传统观念中,这样的**似乎是对死者的消费。 有网友在评论区留言,“这真的是一场伦理道德危机,首先,对死者的不尊重,肉体的死亡就是死亡,即使意识可以上传,那么你作为肉体的个人意识也会死亡,其他任何'你'都不是你。 再说了,这不就是对死者的消耗吗,只要仔细想想,几百年后,你可能还是别人的电子宠物,就算你亲了,也有道德问题。 在这类领域,有必要跟进立法和哲学讨论。 ”
事实上,2023年1月实施的《互联网信息服务深度合成管理规定》就已经规定,“深度合成服务提供者和技术支持者提供人脸、语音等生物特征信息编辑功能的,应当提示深度合成服务使用者依法告知被编辑个人,并征得其单独同意。 ”
然而,如果合成死者**的声音是合成的,谁应该同意的问题仍然没有答案。 也许数字生活可以在不久的将来成为现实,但必须考虑的问题之一是如何减轻它面临的法律和道德风险,以及如何对其进行监管以防止滥用。