记者刘辉.
追踪科技股的纳斯达克 100 指数在 2023 年迄今为止约有 47 只5%。除了谷歌，OPE？，备受关注的全球人工智能公司NAI、苹果、Microsoft、亚马逊、IBM、Facebook、特斯拉、英伟达、Deepmind等，中国人工智能公司包括腾讯、阿里巴巴、JD.com 等。
根据风险投资市场金融数据分析公司 Pitchbook 的数据，2023 年对 AI 相关初创公司的投资金额达到约 687 亿美元。 但在经历了OpenAI人员的“巨震”之后，业界也在思考科技公司如何平衡公众利益和商业成功如何改善科技公司的公司治理？
确保人工智能朝着善意的方向发展。
达索系统高科技产业全球副总裁Stéphane Sireau在接受《中国经济日报》记者采访时表示，近十年来，技术一直在加速发展，尤其是AI技术加速了世界的变革，但我们必须非常谨慎地应对它，让AI技术更可靠、更安全地应用于工业平台。 让AI技术为企业带来价值。
南开大学讲席教授、中国公司治理研究院院长、中国上市公司协会专家咨询委员会副主任委员李维安告诉《中国经济时报》，人工智能技术是一把双刃剑，在改变生产方式的同时，也带来了风险和挑战。 特别是ChatGPT的出现，标志着人工智能技术的新里程碑，为人类提供了智能化、个性化的服务解决方案，但也引发了人们对人工智能技术潜在风险和伦理问题的担忧。 决策者的出发点是实现全人类安全造福的美好愿景，还是将其商业化的道德选择，决定了人工智能的发展究竟是“向善”还是“为利益”，而这种道德选择将深刻塑造人工智能的演进，不仅影响技术的使用，更直接关系到人类文明的命运。 “我们必须谨慎引导人工智能的发展，考虑数据隐私、公平性、安全性等多重因素，以确保我们朝着善意的方向前进。 ”
当前，推动AI治理和AI公司治理已成为全球趋势。 2024年11月1日，首届全球人工智能安全峰会在英国布莱切利庄园开幕，包括中国在内的与会国共同达成的首份全球人工智能声明正式发布，同意通过国际合作建立人工智能监管方式。
2024年10月30日，白宫发布了拜登签署的最新行政命令《关于安全、可靠和可信人工智能的行政命令》，以确保美国在把握人工智能的前景和管理其风险方面处于领先地位。 该行政命令包括八个目标，包括建立人工智能安全的新标准，保护美国人的隐私，以及促进公平和公民权利。
李维安认为，应加快建立AI企业内外部治理体系。
首先，要推进AI企业董事会建设，将企业AI相关事项纳入董事会决策，成为企业的决策方向。 在董事会中设立专门的伦理委员会，并在章程中明确人工智能伦理委员会的组成和运作，判断和把握技术应用的方向。 设立首席人工智能官或首席道德官，带头制定专门的人工智能发展战略。
二是建立内部数据合规审查机制和内控机制，确保研发和数据使用的安全性和合规性。 成立合规部门，建立数据安全问题风险评估防范机制。
第三，实施全面的人才培养计划，使管理人员和研发人员了解人工智能技术的伦理和社会责任，增强对公司价值观的理解，培养一种能够在技术与道德之间取得平衡的企业文化。
最后，全面提升治理体系，加强绿色治理和应急治理。 人工智能公司治理应突破传统公司治理单纯追求经济效益最大化的界限，作为社会资源配置的平台，为企业承担更多责任。
将负责建立促进社会可持续发展的社会化目标。
为什么蚂蚁人力资源Opic设计了“长期利益信托”的治理结构。
离开 OpenAI 的员工于 2021 年创立了另一家 AI 独角兽 Anthr Opic，同样在其公司章程中承诺“在实现利润最大化的同时优先考虑帮助人类”。 不过，蚂蚁人力资源表示，公共利益与商业成功或股东回报之间并不矛盾，两者之间往往有很强的协同作用。 为此，Anthr Opic 设计了一种称为“长期利益信托”的治理结构：公司由董事会监督。 董事会选择并监督领导团队，特别是首席执行官，负责招聘和管理员工。 股东有权选举、罢免和起诉董事，而董事会成员则没有。 为了使董事的激励与股东的利益保持一致，董事的薪酬通常以**的形式支付。 为了全人类的利益监督董事会的决定，Anthr Opic 成立了一个信托来监督董事。 该信托由五名独立受托人组成，他们没有经济利益，有权决定董事会的多数席位。
李维安表示，作为人工智能领域的创业公司，公司架构在成立之初相对精简，但随着公司的不断发展壮大，治理结构和机制的短板会暴露出来，因此需要完善公司治理体系。 Anthr Opic 也以 AI 安全为目标，但与 OpenAI 不同的是，Anthr Opic 将公共利益与商业化目标并列，而不是反对它，期望组织内部的协同发展，而不是通过建立单独的子公司来实现差异化的治理目标。 基于此，Anthr Opic 设计了一系列制衡机制。
在董事会治理机制方面，Anthr Opic的公司章程规定，公司由董事会监督，董事会选择和监督管理层的管理，特别是CEO，负责雇用和管理员工。 但是，董事会没有至高无上的权力，为了使董事会的利益与股东保持一致，Anthr OPIC规定董事由股东选举产生，可以由股东罢免。 董事通常以公司**的形式获得报酬，以确保董事和股东的利益保持一致。 最重要的是，选举、罢免和起诉董事的权利完全属于股东，因此股东委员会对董事会起到了制衡作用。
从公司治理机制的角度来看，董事会代表的是股东的利益，但是否会对公众和其他利益相关者负责，却成为人们非常关注的问题。 李维安说。
在他看来，Anthr Opic 允许董事会通过设立信托来平衡公共利益和股东价值最大化的目标。 LIC由五名受托人组成，他们在人工智能安全、公共政策和社会企业方面具有背景和专业知识。 最初的受托人由董事会选举产生，未来的受托人将由受托人投票选举产生。 这确保了该机构具有足够的独立性，以平衡公众等利益相关者的利益。
此外，Anthr Opic 创建了一个新类别（T 类），该类别在其 C 轮融资结束时由该信托独家持有。 T**类赋予信托公司选举和罢免Anthr Opic董事会部分成员的权力。 同时，Anthr Opic 还设立了一个新的董事会席位，将由 C 轮融资和后续投资者选举产生，以确保董事会中有投资者的声音，这与 OpenAI 的设计完全不同。 Anthr Opic 还为这样的治理机制设计了改进流程，并在实践中逐步完善。
李伟安表示，可以看出，Anthr Opic通过信托和股东会对董事会的决策行为进行监督和平衡。 这种机制旨在确保董事会在追求股东利益的同时，兼顾安全与公共利益。 在这样的治理结构下，治理主体的议事规则、决策过程等机制的完善尤为重要，是治理能否有效的保证。 同时，治理主体的增加和信息沟通链条的延伸也将成为治理的隐患，需要加强信息沟通机制和渠道的建设，确保信托机构和股东及时了解公司内部的实际情况，减少问题的发生。