OpenAI CEO 奥尔特曼联合国演讲：AI 可能走向文艺复

9 月 24 日消息，当地时间 9 月 23 日，OpenAI CEO 萨姆 · 奥尔特曼（Sam Altman）在联合国安理会就 AI 议题发表讲话，讨论 AI 发展带来的机遇与风险，并呼吁加强国际合作，建立针对前沿 AI 系统的能力评估、风险评估、安全防护和人类监督标准。

他表示，随着 AI 能力的快速提升，相关技术的潜在收益和风险都逐渐变得更加直接且显现。他提出，AI 可能更像一场充满创造力与发现的文艺复兴，也可能像一场引发动荡与混乱的工业革命。

奥尔特曼表示，最佳版本的 AI 不是让人成为机器中的齿轮，也不是优化生活直到需要人的部分消失，而是让人们在复杂世界中拥有更多能动性。许多事情 AI 不能也不应自动化。

他认为，AI 可以帮助人们学习、创造、发现和解决问题，但随着系统更加自主，也可能出现人类无法理解或控制其决策、权力过度集中的情况。

他在这里指出，AI 能力越强、越自主，就越可能跑得比制度快，把权力集中到少数人手中，或做出人们无法理解、无法控制的决定。

他特别提到递归自我改进（即 AI 参与 AI 开发的过程）。奥尔特曼称，如果 AI 开发过程进一步自动化，技术进步速度可能快速提升，因此需要对相关发展保持高度谨慎。

奥尔特曼将 AI 发展可能出现的严重问题概括为两个方向。第一种是失去对未来的控制：AI 进展太快，人们无法跟上，也无法在需要时干预。

他说，行业不能因为 AI 利益太大、太重要就接受过多技术风险，也不能因企业竞争而仓促决策。OpenAI 过去曾单方面放缓，未来也会如此。不应训练无法极强论证可受人类控制的模型。他称，无论人们把灾难风险估计为 10%、1%、12% 还是 0.1%，这些水平都不可接受。

第二个问题即老生常谈的权力集中：不应让最强的 AI 模型和相关权力集中在少数人手中，从而避免某个人、公司或国家用 AI 模型把自己的世界观强加给所有人。

奥尔特曼提到，必须拒绝这种逻辑，即便它对自己有利。OpenAI 试图在盲目乐观和末日论之间走中间道路，并遵循三条原则：

• 第一，随着 AI 能力提升，人类应继续处于 AI 决策的核心；

• 第二，科学进步和经济增长带来的收益应服务于人民（由人民创造、为人民创利）；

• 第三，技术必须赋能个人，使更多人能够利用技术实现自身目标。

他称，OpenAI 可能是技术建设者之一，但不是故事主角，其角色是赋能全球人类。OpenAI 不试图、也不应引导人类判断或人类价值。AI 应帮助（研究人员）发现、（医生）治疗、（教师）教学、（创业者）创办公司、（社区）解决难题。人类进步不是工具取代人的能动性。