财联社12月20日（刘锐主编）。在拜登于今年10月签署第一份关于人工智能监管的行政命令后，拜登周二表示，正在迈出第一步，为生成式人工智能的安全部署以及如何测试和保护系统制定关键标准和指南。
拜登迈出制定人工智能标准的第一步
10月底，拜登签署了一项“具有里程碑意义”的行政命令，引入了白宫关于生成式人工智能的首个法规。 根据该行政命令，美国多个机构被要求制定标准，以防止人工智能带来的化学、生物、辐射、核和网络安全风险。
周二，美国商务部国家标准与技术研究院（NIST）表示，将在2月2日之前征求人工智能公司和公众的意见，以进行关键的人工智能测试，这对确保人工智能系统的安全至关重要。
NIST声称，他们正在制定评估和测试AI的指南，推进AI行业标准的制定，并为评估AI系统提供测试环境。
美国商务部长吉娜·雷蒙多（Gina Raimondo）表示，在拜登10月行政命令的推动下，NIST的最新举措旨在制定“围绕人工智能安全、安保和信任的行业标准，使美国能够继续在负责任地开发和使用这项快速发展的技术方面引领世界”。 ”
NIST正在制定AI“红队”测试指南
NIST正在制定的测试指南包括所谓的“红队”测试——NIST将考虑“红队”测试在哪些方面对人工智能风险评估和管理最有利，并为此制定最佳实践。
“红队”测试是网络安全测试的重要组成部分。 它是指由专家团队模拟真实世界的对手，以测试和增强系统的安全性。
今年8月，美国首次在一次大型网络安全会议上公开进行了人工智能“红队”测试。 本次活动主要由AI Village、Seedai、Humane Intelligence等AI行业组织参加。
白宫表示，在8月份的活动中，数千名参与者测试了他们是否可以“让这些系统产生不良输出，或者让这些系统以其他方式失败，目的是更好地了解这些系统带来的风险”。 该活动“展示了外部红队如何成为识别新人工智能风险的有效工具”。