OpenAI加强内部监督，董事有权否决管理层的决定

人工智能公司OpenAI已赋予其董事否决公司领导人做出的决定的权力，以进一步加强开发尖端技术的安全性。

ChatGPT 开发商 OpenAI 周一（12 月 18 日）发布了一系列指南，内容涉及该公司计划如何应对其最强大的人工智能 （AI） 系统可能带来的极端风险。

在指导下，OpenAI只有在确定其安全性后才会开始使用最新技术。 公司还将成立一个顾问团队，在将安全报告转发给公司高级管理层和董事会之前对其进行审查。 虽然公司领导层负责做出决策，但董事会可以推翻它们。

在公司总裁阿尔特曼（Altman）短暂免职期间，焦点是世界顶级科技公司董事会和管理层之间的权力平衡。

OpenAI于今年10月宣布成立“备灾小组”，并将继续评估其人工智能系统在网络安全、化学、核和生物威胁四个领域的表现，同时减轻技术可能带来的任何危害。

具体来说，公司研究可能导致数亿美元的经济损失或对许多人造成伤害或死亡的“灾难性”风险。

领导公司备灾团队的亚历山大·马德里（Aleksander Madry）告诉彭博社，他的团队每月向新的内部安全顾问团队提交报告，然后阿尔特曼和公司董事会的分析团队提交建议。

“人工智能本身没有好坏之分，我们正在塑造它，”梅德里说。 ”

他还希望其他公司能够使用OpenAI的指导来评估其AI模型的潜在风险。

今年 4 月，一群人工智能领域的领导人和专家签署了一封公开信，要求以对社会的潜在风险为由，停止开发比 OpenAI 的 GPT-4 更强大的人工智能系统。