人工智能研究机构OpenAI近日宣布,为了更好地履行创造和推广友好AI的使命,将重组治理结构,成立由五名董事组成的董事会,负责监督和指导OpenAI的战略和运营。 根据新的治理架构,OpenAI的CEO发布了新的AI模型,该模型需要得到董事会的一致批准,以确保新模型符合OpenAI的价值观和道德标准,并且不会对人类和社会造成伤害。
OpenAI 是一家非营利性 AI 研究机构,成立于 2015 年,旨在确保 AI 的发展造福全人类,不被少数人或组织控制或滥用。 OpenAI的创始人包括马斯克、皮特·蒂尔、李开复等知名科技人物,其CEO是Y Combinator前总裁Sam Altman。 OpenAI以其研发的一系列高级AI模型而闻名,如GPT-3、DALL-E、CLIP等,在自然语言处理、图像生成、计算机视觉等领域展现出惊人的能力,引起了广泛的关注和讨论。
然而,随着人工智能技术的不断进步,也带来了一些潜在的风险和挑战,如人工智能的安全性、可靠性、可解释性、公平性、隐私性等。 为了解决这些问题,OpenAI认为有必要调整其治理结构,增加其CEO的监督和制衡,以发布新模型,并防止新模型被用于不良目的或对人类和社会产生不良影响。 OpenAI在其官方博客上表示,此次调整是为了确保OpenAI能够忠于其使命,为人类的福祉和自由做出贡献。
在新的治理结构下,OpenAI将成立一个由五名董事组成的董事会,其中三名是独立董事,两名是内部董事。 独立董事由OpenAI的创始人和发起人共同选举产生,内部董事由OpenAI的员工选举产生。 董事会由一名独立董事担任主席,目前由前Microsoft首席执行官史蒂夫·鲍尔默(Steve Ballmer)担任。 董事会的职责包括:
审核批准OpenAI年度预算、战略规划、重大项目、合作协议等;
监督和评估OpenAI首席执行官和其他高级管理人员的绩效和薪酬等
审查并批准OpenAI首席执行官发布新的AI模型,以确保新模型符合OpenAI的价值观和道德标准,并且不会对人类和社会造成伤害
审查和批准OpenAI在风险管理、内部控制、合规、审计等方面的政策和程序;代表 OpenAI 与**、公众、合作伙伴等外部利益相关者进行沟通和协调。
OpenAI 首席执行官 Sam Altman 对新的治理结构表示欢迎,称这是 OpenAI 成长和成熟的重要一步,也是 OpenAI 使命和责任的重要体现。 他表示,将与董事会密切合作,共同推动OpenAI的发展,为人类创造和促进友好的人工智能。 他还表示,他将继续致力于开发更先进、更有用的人工智能模型,同时也将遵循董事会的指导和监督,确保新模型的安全性和可靠性,避免其误用和误用。