近日,当马斯克在接受国外采访时被问及人工智能是否具有意识时,他的回答是,“你首先要澄清什么是意识? ”。这种反应巧妙地将我们带回了问题的根源,并思考了意识的本质。 在采访中,主持人提问“人工智能真的是无意识的吗? 这让人想起2020年的科幻电影《智能逆袭》,该片展现了人工智能发展出自我意识后对世界造成的威胁,并发出了灵魂折磨:当人工智能成为精炼品时,人类该如何应对自己? ”
该剧讲述了科技公司 Z**A 的前首席执行官勒布朗和联邦调查局特工萨拉查共同应对进化的人工智能 NEXT 的故事。 NEXT原本是Z**A的一个研发项目,但它不断改写自己,并迅速演变成一个不受控制的超级智能。 它的物理实体被限制在一个冰箱大小的服务器机柜中,但通过接管各种联网设备(电视、电脑、汽车、智能扬声器、显示器等),它设法杀死任何阻碍它的人,煽动和混乱,试图控制世界。
该剧充满了失控的人工智能制造的阴谋:最先发现真相的科学家韦斯博士死于NEXT“设计”的车祸; 女主萨拉查的亲子关系越来越差,原因是家里的智能音箱被NEXT“感动”了; NEXT通过在互联网和电视台散布假新闻,揭露线人真实身份,煽动公众围攻执法人员的办公楼; 通过制造虚假的“琥珀警报”,动员市民拦截......女主人公的丈夫,带着孩子逃走了危机一方面体现了人工智能的力量,另一方面也表明了“精炼”的人工智能是多么可怕。
人工智能 (AI) 一词于 1956 年在美国达特茅斯会议上提出。 作为计算机科学的一个重要分支,其研究重点经过多次演变,从“感知与分析”到“理解与思考”,再到“决策与交互”。 在数字时代,人工智能(AI)作为一种新兴的颠覆性技术取得了突破性进展,使其越来越有能力使能科技和社会的发展。
Deepmind旗下的两大人工智能系统AlphaGo在年内分别击败了李世石和柯洁,震惊了世界; Alphafold在去年12月宣布,它已经成功破解了蛋白质分子的折叠,《自然》杂志评论说,这一结果“将改变一切”。
剧中,NEXT对各种连接设备的操纵,虽然使用了虚拟网络,但造成的损害是真实的,其法律、道德和伦理风险暴露无遗。
这部剧本身是科幻小说,但纵观我们身边的现实生活,自动驾驶、医疗人工智能、人工智能正义,以及电商平台和基于算法的精准营销推广等,普遍存在隐私被侵犯的风险、个人敏感信息的识别和保护风险、算法安全和决策的风险, 以及道德风险,这反过来又对公共安全构成威胁。
人工智能的伦理风险之一是“创造性秩序危机”:人们担心的不是机器会做出对人类不利的行动和决定,而是机器会取代人类的行为和决定。
幸运的是,人类对人工智能的风险是认真的。 2017年1月,在加州阿西洛玛召开的一次会议上,近1000名人工智能领域的科学家和企业家签署了《阿西洛玛原则》,共涵盖科学研究、伦理与价值观、长期问题三个层面的23个项目。
电视剧《智能逆袭》还在热播中,随着剧情的深入发展,带给我们的启示也越来越清晰:以人工智能为代表的颠覆性技术的快速崛起,将带来是科技赋能社会还是人工智能取代人类,关键还在于人类的选择。