奥特曼预判AI三种终局：最坏能让对手GPU集体瘫痪

据《The Information》披露，OpenAI 首席执行官萨姆・奥特曼（Sam Altman）近期在一场内部员工会议上，描绘了人工智能竞赛可能走向的三种结局：

• 其一是建立一个全球性的监管机构；
• 其二是顶尖实验室合并为一家；
• 其三则是某家企业率先实现关键技术突破，甚至具备让对手硬件停摆的能力。

最后一种情形宛如科幻情节，奥特曼本人也坦言，这是「极其糟糕」的结果。

三条路径，各有利弊

奥特曼提到的第一条路径，是创建一个类似国际原子能机构（IAEA）的全球性监管组织。

该组织将对最先进的 AI 系统进行监督，制定统一的安全规范，并要求开发企业接受独立审查。

早在 2023 年 5 月，奥特曼便与 OpenAI 联合创始人 Greg Brockman、时任首席科学家 Ilya Sutskever 共同撰文《超智能治理》（Governance of Superintelligence）。

文章指出，未来或许需要设立一个类似 IAEA 的国际机构，对达到特定能力或算力门槛的 AI 开发活动实施监管，包括系统检查、安全审计、合规测试，以及算力和能源消耗的监测。

然而，AI 已成为各国重点投入的战略领域，国际监管牵涉技术保密、国家安全和产业竞争。各国能否接受统一规则，仍存在极大不确定性。

第二条路径是全球领先的 AI 实验室可能最终合并成一个实体。

奥特曼将其称为「Demis 方案」。Demis Hassabis 曾提出，AI 研究可借鉴欧洲核子研究中心（CERN）的模式，由多个国家共同建设并管理一个大型研究机构。

若头部 AI 公司由同一组织统一管理，便可共享安全标准和实践经验，避免各企业为抢先发布产品而不断加速研发。

但若最先进的模型、人才和算力全部集中于一个组织，该机构将拥有巨大的技术与经济影响力，如何防止权力过度集中，又将成为新的挑战。

第三条赢者通吃路径被奥特曼称为「Eliezer 方案」，源自 AI 安全研究者 Eliezer Yudkowsky 提出的一类极端设想。

Yudkowsky 长期警告，失控的超级智能可能给人类带来生存威胁。他曾主张，率先掌握超级智能的一方需采取决定性行动，阻止其他组织开发潜在危险的超级智能系统。

奥特曼将其与递归自我改进（Recursive Self-Improvement，RSI）联系起来。

RSI 指 AI 能够参与改进自身的模型架构、训练方法或开发流程。升级后的 AI 又能继续提升这些能力，形成持续的自我改进循环。

一旦这种机制达到足够高的自主化程度，AI 研发速度可能显著加快。

若某家企业率先突破 RSI，就可能迅速建立其他竞争对手难以追赶的技术优势，最终形成市场垄断。

在最极端的情况下，这家企业甚至可能具备干扰或破坏竞争对手 GPU 的能力。

对于这种将先进 AI 集中于单一企业手中的结局，奥特曼明确表达了反对。

奥特曼反复强调的风险

实际上，此次内部讨论延续了奥特曼此前一贯关注的议题。

2026 年 9 月中旬，奥特曼曾公开指出，先进 AI 可能带来两大主要风险：一是人类失去对 AI 系统的控制，二是 AI 权力集中在少数组织手中。

他进一步强调，必须避免 AI 发展走向上述任何一种结果。

他表示，OpenAI 应站在全人类的立场上，而非服务于某家企业或某个利益集团。奥特曼还呼吁建立更严格的 AI 安全协议，并对先进 AI 系统开展独立评估。

这一立场与 Anthropic CEO 达里奥・阿莫迪的部分观点一致。

然而，奥特曼也在内部承认，OpenAI 目前无法轻易放弃与竞争对手争夺技术领先地位。

参考链接：

https://www.theinformation.com/articles/altman-describes-three-endgames-ai-including-one-single-firm-melts-everyone-elses-gpus?shared=dead241b54ae7c75

本文来自微信公众号“机器之心”（ID：almosthuman2014），作者：关注AI的，36氪经授权发布。