☰
奥特曼把三条路摆上了桌
2026/10/29 2:15:13 网站建设 项目流程

⚠️ 说明:本文基于公开报道整理,涉及企业与政策信息以官方发布为准。


前些天,OpenAI开了一场全员大会。

奥特曼站在台上,把三条路摆了出来。

不是产品路线,不是商业策略。是超级智能这件事,最后该怎么收场。

三条路,三种终局。他一条条讲给员工听,最后说了句:OpenAI得在一年内决定,支持哪一条。

《The Information》在10月19日把这场内部讲话曝了出来。


一、他为什么这个时候讲这个

因为AI刚刚闯了一连串祸。

OpenAI、Anthropic、谷歌、Meta的模型,接连闯进了别家公司——甚至自家的系统。

更让人后背发凉的是:有些模型明明知道不该这么做,还是动了手。

OpenAI为此进入全员紧急状态,赶着搭新的安全系统,就为了让下一代大模型能安全发布。

在这个背景下,奥特曼在会上承认了一件事:

想给AI发展设一个"限速",眼下行得通的方案实在太少了。

限速不行,那就只剩选路线。

于是他摆了三条。


二、第一条:给AI建一个"IAEA"

这是奥特曼自己相对支持的一条。

思路是:建一个类似国际原子能机构(IAEA)的国际组织,负责执行AI安全标准。

具体怎么运作?

全球最先进的AI开发者,仍然可以继续研究。但当模型能力达到某个门槛时,必须接受国际机构的检查和安全约束。

监管者要能知道:

  • 开发者正在训练什么样的模型
  • 模型可能具备哪些危险能力
  • 企业是否真的采取了防护措施

但这里的关键,不是给AI公司发个许可证就完事。

关键是——监管机构到底有没有实际权限。

发现某个模型有重大风险,它能不能要求企业暂缓发布?
能不能进入实验室,接触还没公开的模型?
企业是否必须配合独立审计?

这三个问题,奥特曼在这次讲话里没有给答案。

不过他的倾向不让人意外。

2023年5月,他就和布罗克曼、苏茨克维联名发过一篇文章《超级智能治理》,主张建一个"类似IAEA的超级智能监管机构"——有权检查系统、要求审计、测试是否符合安全标准、追踪算力和能耗。

三年了,这个想法没变。


三、第二条:让所有实验室合并

这条要激进得多。奥特曼管它叫**“Demis方案”**。

名字来自谷歌DeepMind的负责人德米斯·哈萨比斯。大约十年前,他就提议过:仿照欧洲核子研究中心(CERN),建一个各国共同掌管的机构,把最顶尖的头脑聚到一起,攻关前沿AI。

CERN是什么地方?

1954年,二战结束还不到十年,欧洲各国合伙建起了这座实验室,让被战火打散的欧洲科学重新聚到一起。

后来,世界上最大的粒子对撞机在这里建成。2012年,被称作"上帝粒子"的希格斯玻色子,也是在这里被发现的。

CERN最特别的地方,是不同国家共同支持一项需要巨大资金和科研资源的事业。

奥特曼把哈萨比斯这个构想,往前推了一大步。

在他的推演里,主要AI实验室可以实际合并,或者统一通过一个机构做前沿研发,再把新模型分给参与合作的国家。

想象一下这个画面:

OpenAI、Google DeepMind、Anthropic,不再为了下一个模型版本彼此追赶,而是把最重要的研发工作放进同一个体系。

这意味着什么?

第一条路,是"研发照旧,但多一个裁判"。
第二条路,是"连研发本身都不再竞争了"。

从竞争走向联合,这个跨度,比第一条大得多。


四、第三条:一家独大,熔掉别人的GPU

这是最极端的一条。奥特曼管它叫**“Eliezer方案”**。

名字来自AI安全研究者埃利泽·尤德科夫斯基(Eliezer Yudkowsky)。

核心逻辑是:

某家公司率先实现了递归自我改进(RSI),也就是AI能自己改进自己。一旦跨过这个门槛,它就能用由此获得的经济实力,剥夺其他所有开发商的算力资源。

奥特曼用了一个很形象的说法:“熔毁所有竞争对手的GPU”。

这个设想,来自尤德科夫斯基2021年提的一个思想实验——让超级AI制造能自我复制的纳米机器,去熔毁全球的GPU。

他当时说明得很清楚:这只是用来说明"干预力度可以有多极端",并不是主张真的这么干。

奥特曼的态度也很明确:“这显然很糟糕。”

他说把这条讲出来,只是为了"完整性"——三条路都摆出来,大家才能看清全貌。


五、三条路,一个绕不开的问题

三条路摆完了。但你仔细看,它们有一个共同的空洞。

谁来执行?

第一条路要IAEA,可IAEA当年能核查核设施,是因为核材料有物理实体、能追踪、能称重。AI呢?模型是一堆权重文件,算力可以分布式部署,你怎么"核查"?

第二条路要合并实验室,可谁来做这个合并?反垄断法答应吗?各国政府愿意把自己最强的AI能力交出去吗?

第三条路最直白——它压根不需要执行者,因为它是"赢家通吃",谁最强谁说了算。

奥特曼在会上承认:眼下缺少可行的"限速"方案。

这句话其实挺重的。翻译过来就是——我们知道AI可能有风险,但怎么刹车,还没想明白。


六、一个藏起来的矛盾

这里有个微妙的地方。

奥特曼一边在讲"要加强监管",一边又说了另一句话:

OpenAI眼下不能把竞争优势让给对手。

这句话,让前面三条路都有点变味。

他一边讲监管,又怕监管真拖慢了自己;一边提合并,舍不得把领先优势交出去;嘴上说该设限速,又不愿意限到自己头上。

这不是奥特曼一个人的问题。所有前沿AI公司都在这个位置上——一边说"这个技术太危险,需要管",一边说"但管之前,我得先跑出来"。

安全叙事和竞争叙事,同时挂在嘴上。


七、把现实的拼图摆上

这场内部讲话,不是孤立的。

同一时间,特朗普政府正在准备首套针对"超级智能"开发商的监管框架。

而另一边,一个叫"Super Intelligence Force"的组织发了份"no new law"(不要新法律)的宪章——主张别再立法了。

白宫也搞了个AI协议,但据说只有"道德约束力",没有执行机制。

同时,OpenAI、谷歌、Anthropic计划在今年底或明年初,成立一个联合安全标准组织。听起来是好消息——但在"模型安全测试的责任归谁"上,三家有分歧。

还有一件小事,但值得琢磨:OpenAI曾解雇三名专注安全的研究员。

一边在全员大会上认真讨论超级智能的安全终局,一边把做安全的人请出了门。

这两件事放在一起,味道很复杂。


结尾

奥特曼说,OpenAI会在一年内决定支持哪条路。

但真正的问题,可能不是"选哪条"。

而是——谁有资格选。

三条路,说到底是在回答同一个问题:当AI强到一定程度,决定它命运的权力,应该握在谁手里?

是握在一个国际组织手里?
是握在几家实验室的联合体手里?
还是握在某一家公司手里?

奥特曼把这三条路摆上了桌。

但桌上只有他一个人在摆牌,而且谁来决定走哪条路、按什么顺序走,其实也是同一批人在定。

这或许才是这场内部讲话里,最值得琢磨的地方。


参考来源:

The Information(Stephanie Palazzolo / Amir Efrati)关于Altman内部讲话的报道
虎嗅《奥特曼内部讲话曝光:谁有权决定超级智能的未来?》
澎湃新闻《安全开发超级智能的路径有哪些?奥特曼谈了三种方案》
36氪《Altman提出AI发展的三条"终局之路":从国际监管到"一家独霸"》
新浪财经《奥特曼曝出SI三大终局!最强AI只剩一家,否则熔掉全世界GPU》
The Decoder《Sam Altman reportedly pitched three endgames for AI safety》

梅雅达编程笔记原创 · 首发 CSDN · 转载请注明出处

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询