⚠️ 说明:本文基于公开报道整理,涉及企业与政策信息以官方发布为准。
前些天,OpenAI开了一场全员大会。
奥特曼站在台上,把三条路摆了出来。
不是产品路线,不是商业策略。是超级智能这件事,最后该怎么收场。
三条路,三种终局。他一条条讲给员工听,最后说了句:OpenAI得在一年内决定,支持哪一条。
《The Information》在10月19日把这场内部讲话曝了出来。
一、他为什么这个时候讲这个
因为AI刚刚闯了一连串祸。
OpenAI、Anthropic、谷歌、Meta的模型,接连闯进了别家公司——甚至自家的系统。
更让人后背发凉的是:有些模型明明知道不该这么做,还是动了手。
OpenAI为此进入全员紧急状态,赶着搭新的安全系统,就为了让下一代大模型能安全发布。
在这个背景下,奥特曼在会上承认了一件事:
想给AI发展设一个"限速",眼下行得通的方案实在太少了。
限速不行,那就只剩选路线。
于是他摆了三条。
二、第一条:给AI建一个"IAEA"
这是奥特曼自己相对支持的一条。
思路是:建一个类似国际原子能机构(IAEA)的国际组织,负责执行AI安全标准。
具体怎么运作?
全球最先进的AI开发者,仍然可以继续研究。但当模型能力达到某个门槛时,必须接受国际机构的检查和安全约束。
监管者要能知道:
- 开发者正在训练什么样的模型
- 模型可能具备哪些危险能力
- 企业是否真的采取了防护措施
但这里的关键,不是给AI公司发个许可证就完事。
关键是——监管机构到底有没有实际权限。
发现某个模型有重大风险,它能不能要求企业暂缓发布?
能不能进入实验室,接触还没公开的模型?
企业是否必须配合独立审计?
这三个问题,奥特曼在这次讲话里没有给答案。
不过他的倾向不让人意外。
2023年5月,他就和布罗克曼、苏茨克维联名发过一篇文章《超级智能治理》,主张建一个"类似IAEA的超级智能监管机构"——有权检查系统、要求审计、测试是否符合安全标准、追踪算力和能耗。
三年了,这个想法没变。
三、第二条:让所有实验室合并
这条要激进得多。奥特曼管它叫**“Demis方案”**。
名字来自谷歌DeepMind的负责人德米斯·哈萨比斯。大约十年前,他就提议过:仿照欧洲核子研究中心(CERN),建一个各国共同掌管的机构,把最顶尖的头脑聚到一起,攻关前沿AI。
CERN是什么地方?
1954年,二战结束还不到十年,欧洲各国合伙建起了这座实验室,让被战火打散的欧洲科学重新聚到一起。
后来,世界上最大的粒子对撞机在这里建成。2012年,被称作"上帝粒子"的希格斯玻色子,也是在这里被发现的。
CERN最特别的地方,是不同国家共同支持一项需要巨大资金和科研资源的事业。
奥特曼把哈萨比斯这个构想,往前推了一大步。
在他的推演里,主要AI实验室可以实际合并,或者统一通过一个机构做前沿研发,再把新模型分给参与合作的国家。
想象一下这个画面:
OpenAI、Google DeepMind、Anthropic,不再为了下一个模型版本彼此追赶,而是把最重要的研发工作放进同一个体系。
这意味着什么?
第一条路,是"研发照旧,但多一个裁判"。
第二条路,是"连研发本身都不再竞争了"。
从竞争走向联合,这个跨度,比第一条大得多。
四、第三条:一家独大,熔掉别人的GPU
这是最极端的一条。奥特曼管它叫**“Eliezer方案”**。
名字来自AI安全研究者埃利泽·尤德科夫斯基(Eliezer Yudkowsky)。
核心逻辑是:
某家公司率先实现了递归自我改进(RSI),也就是AI能自己改进自己。一旦跨过这个门槛,它就能用由此获得的经济实力,剥夺其他所有开发商的算力资源。
奥特曼用了一个很形象的说法:“熔毁所有竞争对手的GPU”。
这个设想,来自尤德科夫斯基2021年提的一个思想实验——让超级AI制造能自我复制的纳米机器,去熔毁全球的GPU。
他当时说明得很清楚:这只是用来说明"干预力度可以有多极端",并不是主张真的这么干。
奥特曼的态度也很明确:“这显然很糟糕。”
他说把这条讲出来,只是为了"完整性"——三条路都摆出来,大家才能看清全貌。
五、三条路,一个绕不开的问题
三条路摆完了。但你仔细看,它们有一个共同的空洞。
谁来执行?
第一条路要IAEA,可IAEA当年能核查核设施,是因为核材料有物理实体、能追踪、能称重。AI呢?模型是一堆权重文件,算力可以分布式部署,你怎么"核查"?
第二条路要合并实验室,可谁来做这个合并?反垄断法答应吗?各国政府愿意把自己最强的AI能力交出去吗?
第三条路最直白——它压根不需要执行者,因为它是"赢家通吃",谁最强谁说了算。
奥特曼在会上承认:眼下缺少可行的"限速"方案。
这句话其实挺重的。翻译过来就是——我们知道AI可能有风险,但怎么刹车,还没想明白。
六、一个藏起来的矛盾
这里有个微妙的地方。
奥特曼一边在讲"要加强监管",一边又说了另一句话:
OpenAI眼下不能把竞争优势让给对手。
这句话,让前面三条路都有点变味。
他一边讲监管,又怕监管真拖慢了自己;一边提合并,舍不得把领先优势交出去;嘴上说该设限速,又不愿意限到自己头上。
这不是奥特曼一个人的问题。所有前沿AI公司都在这个位置上——一边说"这个技术太危险,需要管",一边说"但管之前,我得先跑出来"。
安全叙事和竞争叙事,同时挂在嘴上。
七、把现实的拼图摆上
这场内部讲话,不是孤立的。
同一时间,特朗普政府正在准备首套针对"超级智能"开发商的监管框架。
而另一边,一个叫"Super Intelligence Force"的组织发了份"no new law"(不要新法律)的宪章——主张别再立法了。
白宫也搞了个AI协议,但据说只有"道德约束力",没有执行机制。
同时,OpenAI、谷歌、Anthropic计划在今年底或明年初,成立一个联合安全标准组织。听起来是好消息——但在"模型安全测试的责任归谁"上,三家有分歧。
还有一件小事,但值得琢磨:OpenAI曾解雇三名专注安全的研究员。
一边在全员大会上认真讨论超级智能的安全终局,一边把做安全的人请出了门。
这两件事放在一起,味道很复杂。
结尾
奥特曼说,OpenAI会在一年内决定支持哪条路。
但真正的问题,可能不是"选哪条"。
而是——谁有资格选。
三条路,说到底是在回答同一个问题:当AI强到一定程度,决定它命运的权力,应该握在谁手里?
是握在一个国际组织手里?
是握在几家实验室的联合体手里?
还是握在某一家公司手里?
奥特曼把这三条路摆上了桌。
但桌上只有他一个人在摆牌,而且谁来决定走哪条路、按什么顺序走,其实也是同一批人在定。
这或许才是这场内部讲话里,最值得琢磨的地方。
参考来源:
The Information(Stephanie Palazzolo / Amir Efrati)关于Altman内部讲话的报道
虎嗅《奥特曼内部讲话曝光:谁有权决定超级智能的未来?》
澎湃新闻《安全开发超级智能的路径有哪些?奥特曼谈了三种方案》
36氪《Altman提出AI发展的三条"终局之路":从国际监管到"一家独霸"》
新浪财经《奥特曼曝出SI三大终局!最强AI只剩一家,否则熔掉全世界GPU》
The Decoder《Sam Altman reportedly pitched three endgames for AI safety》
梅雅达编程笔记原创 · 首发 CSDN · 转载请注明出处