2024年12月16日,由中国科协支持的“2023科技伦理高峰论坛——数字技术时代中国科技伦理理论与实践”在复旦大学光华楼西主楼30楼思源报告厅举行, 由复旦大学主办,中国科协创新战略研究院、中国科协-复旦大学复旦大学科技伦理与人类未来研究院、复旦大学哲学学院协办。
复旦大学哲学学院院长张双礼主持论坛开幕式。 复旦大学常务副校长徐铮,中国科协党组成员、秘书长王金金在开幕式上致辞。
翟晓梅教授.
中国医学科学院、北京协和医学院生物伦理研究中心.
医学前沿技术研究与临床转化:伦理治理视角
以中国中山大学黄军为例,对教授首次利用RISPR Cas9技术成功修饰人类胚胎基因进行了讨论和论证。 考虑到不同人群对人体实体概念的价值观不同,科学家在进行研究之前,应与伦理学、法学、社会学和公众的学者进行充分讨论,只有在充分了解这项技术的风险后才能采取行动。
李振珍是一名研究员。
中国科学院大学,中国科学院科技战略咨询研究院。
AI价值对齐?!》
由于人工智能的力量越来越大,人与机器之间的伦理关系已成为现阶段不可避免的问题。 在技术层面上,价值一致性问题的解决方案可以依赖于强大的化学反应习、可扩展的监督、可解释性和基于人类反馈的治理在道德层面上,“价值一致性”旨在确保人类创造与人类具有相同价值观的人工智能;从社会层面来看,人工智能的智能表现只是模仿人类的理性思维模式,并不具备人类的情感和意志。 人机关系伦理问题的关键是确定人类应该是人机关系的领导者,并明确人类对人工智能的需求和目标。
曾毅教授.
中国科学院自动化研究所人工智能伦理与治理研究中心.
人工智能的关键风险和伦理挑战
人工智能的问题已经从一个潜在的问题变成了一个真正的风险问题。 目前的道德规范还不足,法律是底线,数据、算法、平台和应用四点是重要方面,关键是开发者、教育者、用户要在其中承担自己的责任。 如何在社会和技术两个层面上落实中国的科技伦理工作,需要考虑上述问题。 人工智能正面临着人类放弃决策权、认知升级、误导公众等诸多伦理挑战,在成为负责任和道德的主体之前,还有非常严格的科技突破需要做出。 我们必须预料到我们人类将如何应对超级智能的到来,而电子价值的对齐对于未来的超级智能来说是完全站不住脚的,弱小的人类很难让超级智能服从。 AI与人类的和谐共生,是通过人类与AI价值观的双向协同,而不是单向的校准来实现的。 人类和人工智能的价值需要共同进化,以促进和实现人类与人工智能的和谐共生。
李正峰教授.
清华大学社会科学学院院长、中国科学院-清华大学科学与社会协调发展研究中心主任。
新技术革命及其伦理问题:特征、挑战与对策
新技术的出现将挑战传统社会伦理原则的“基础”和机制,改变传统社会中人类的“自然基础”和“身份”。 由于技术“后果”风险的不确定性,当“后果”已经显现时,控制变得昂贵且缓慢,因此“后验选择”并不总是可行的选择。 “科技伦理”治理不仅要促进科技健康发展,更是人类文明健康发展的根本要求。
曹刚教授.
中国人民大学,现任中国人民大学伦理与道德理论研究中心主任,教育部人文社会科学重点研究基地。
科技伦理必须回答的三个道德难题
科技伦理学是当代伦理学的一种形式,它提出了许多道德问题,需要从元伦理学、规范伦理学和实践伦理学三个层面加以解决。 有必要问什么是人类价值观,人类价值观本身是否一致。 共生、共赢、价值共享的纽带将人们联系在一起,这种纽带本身就是好的,凡是能维持这种纽带的,都是好的。 技术给人类的生存带来好处,也带来威胁。 根据目前的现实情况,负面影响更有可能成为现实。 我们需要恐惧的伦理,只有在这种忧虑中,我们才能主动预防,所以责任是伦理学的核心概念。
伟文团教授。
现任中国社会科学院科技与社会研究中心主任,复旦大学科技伦理与人类未来研究院兼职教授。
尖端技术的潜在道德风险以及如何应对这些风险
当前,新兴技术带动的技术和社会制度发生了革命性的变化,前沿技术的研发将带来许多深层次的伦理风险。 对于科技深层次伦理风险的预控和应对,需要从建立科学认知伦理边界意识入手,加强科技伦理意识建设结合伦理规范、法律规制和技术方案三个维度,设定合理的伦理法律门槛形成一套技术-管理-体系协同的治理机制;推进科技伦理研究,推进科技伦理传播教育;注意相称性原则。 科技伦理治理战略可以采取协同共治,构建硬监管、治理协调、软治理的协调机制。
程周教授.
北京大学哲学系科学技术哲学系主任,中国科学技术协会-北京大学科学文化研究院副会长。
医学人工智能的可解释性、可理解性和可信度
人工智能伦理领域的研究正在迅速兴起,其中“透明度”成为关键问题,提高人工智能的可理解性和可信度成为新的要求。 关键问题是可信度需要嵌入到人工智能研发中,这高于可解释性,这是一个科学技术问题,可信度是一个伦理问题,可理解性主要涉及情境主义的因果关系观,可信度涉及因果关系的多元观。 可解释性不足以解决黑匣子问题,国际社会提出的可理解性和可信度需要在更高层次上加以考虑。
*:科学技术协会之声。