中国科学技术大学完成的“数字人钱学森”在中央电视台亮相

大湾新闻记者从中国科学技术大学获悉，日前，该校网络空间安全学院常务院长余能海教授受邀做客广电台科教频道“创新在进行中”直播栏目， 并与主持人和观众一起探讨了生成式人工智能的应用前景和潜在风险。

本期节目从生成式AI对影视创作的影响入手，以中国科学技术大学信息处理中心、北京灵晶网络科技、合肥高维数据科技、北京航天视界联合出品的《数字人钱学森》拉开序幕， 并得到钱老后辈钱永刚教授的支持，他用合成现实技术“复活”了钱老的形象，再现了钱老的励志话语。引起了广大网友的共鸣和热议，观众人数达到600万，观众对“数字人钱学森”给予了高度评价。

值得一提的是，生成式人工智能的安全性在节目中被提及，这也是中国科学技术大学网络空间安全学院在国家互联网信息办公室和教育部共同建设的“一流网络安全学院建设示范工程”中重点研究的方向。

作为人工智能与安全领域的跨学科专家，中国图象图形学会副理事长、CSIG数字取证与安全委员会主任于能海教授谈到了两种典型的生成式AI恶意使用场景的潜在风险。

第一种情况是恶意使用AI for Science大型模型的风险，这可能导致恶意用户使用大型科学模型合成危险化学品或有毒物质。

第二种场景是人脸深度伪造的潜在危害，可能会对公共安全、个人隐私、财产安全等产生重大影响，为此，他的研究团队也提出了多种深度伪造防御对策，并在全球最具影响力的深度伪造检测挑战赛中击败了英伟达、麻省理工学院等知名学校和企业， 取得全球第二项国内第一成绩，入选2014年以来中国人工智能安全领域8项代表性成果。

大湾新闻记者 陈牧 实习生 杨春草.

徐大鹏编辑。