反向出埃及记,为什么OpenAI留不住真大佬?

反向出埃及记,为什么OpenAI留不住真大佬?

 

作者:适道AI组

编辑:白石

 

Sam Altman曾对《纽约客》侃侃而谈:“马斯克非常渴望拯救世界,但前提他必须是拯救世界的那个英雄。”

 

对于他本人呢?我想到一个有趣的类比:Altman毫不在意世界是否毁灭,但前提他必须在诺亚方舟上,而且必须是船长。

 

不出意外地,OpenAI又双叒出现了人事地震。

 

“ChatGPT架构师”、联创John Schulman官宣转投Anthropic;去年新加入的产品副总裁Peter Deng官宣离职;大跌眼镜的是,Altman的坚定战友,OpenAI总裁兼联创Greg Brockman也疑似离场。

 

如果此前“人员出走潮”是Altman扫除异己;那么Greg Brockman“长期休假”(Altman未回应),或许是这位“新王”众叛亲离的开始。

 

至此,OpenAI最初11位创始人或仅存两席:Sam Altman,以及杨立昆得意门生,语言与代码生成部门负责人Wojciech Zaremba。著名OpenAI爆料人Jimmy Apples发X:高层已成空壳,你们快上新吧。

 

与此同时,OpenAI创始人之一,Altman昔日“导师”——马斯克再次将Altman、Brockman告上法庭,理由是创立之初的“欺骗和敲诈勒索”。

 

适道来细数“OpenAI大将叛变”历程,探讨Sam Altman为何留不住真大佬?

 

1.“登基”前传:是安全问题,但也不都是安全

古有PayPal黑帮,今有OpenAI叛将。

 

据统计,此前OpenAI已有近75名重要员工离职,创立了约30家AI公司。

 

前研究副总裁Dario Amodei&前安全与政策副总裁Daniela Amodei兄妹创办Anthropic,估值180亿美元;

前首席科学家Ilya Sutskever创办SSI,估值100亿美元;

前工程副总裁David Luan创办Adept AI(被亚马逊收编),估值超10亿美元;

前技术负责人Jonas Schneider创办机器人创企Daedalus,估值4000万美元;

前研究科学家Aravind Srinivas创办Perplexity.AI,估值估值30亿美元;

前技术人员Tim Shi创办AI客服平台Cresta Al,估值16亿美元;

 

其中,Anthropic成长为OpenAI的头号对手、前司员工“庇护所”;Perplexity.AI成长为OpenAI最佳套壳者、Google搜索挑战者……..

 

对于普通研究员而言,离开是谋求更好的发展;但对于核心成员,尤其是创始团队而言,离开基本就是因为三观不同。

 

典型代表为马斯克、Amodei兄妹,以及Ilya Sutskever。他们与Altman过招后反而巩固了Altman在OpenAI的地位。

 

第一步,推翻马斯克“暴政”

 

2015年,谷歌收购DeepMind。马斯克与PayPal联合创始人、Founders Fund创始人Luke Nosek联手提出了一个竞购方案,但最终未成功。这成为了马斯克挥之不去的遗憾。

 

在此背景下,忧心忡忡的马斯克参加了一场载入硅谷史册的晚宴。席间聚集了约十位杰出人物,其中三位尤为耀眼——Altman、Ilya Sutskever,以及Greg Brockman。

 

他们和马斯克探讨了AI可能引发的灾难性后果,和成立一个匹敌谷歌项目所需的各项条件。

 

四人团队认为自己具备成功所有要素:Hinton得意门生Ilya Sutskever是AI科学家;Stripe CTO Brockman是运营高手;YC CEO Sam Altman能协调所有要素;特斯拉创始人马斯克有钱。

 

晚宴上,马斯克承诺会投资10亿美元,并提议将项目命名为OpenAI——将以非营利性的方式运作,专注于研发对人类有益的安全AI,而不是追求利润。

 

2017年,谷歌发表著名Transformer论文,揭示了关键在于处理大量数据,这需要巨大算力支持(Ilya Sutskever在OpenAI创立之初已有此判断)。

 

于是,OpenAI开始缺钱了(马斯克共为OpenAI捐赠了4400万美元,并承担了租金)。

 

Brockman和其他OpenAI成员建议将该组织转变为营利性机构,以便从微软等投资者那里筹钱。

 

一开始,马斯克坚决反对。但当他意识到成立营利性实体很必要性时,就希望自己获得多数股权、初步董事会控制权,并担任CEO。马斯克甚至提出将OpenAI并入特斯拉。原因是,特斯拉是唯一有希望与谷歌比肩的公司。

 

眼看没人答应,马斯克又开始游说OpenAI研究人员跳槽特斯拉。

 

终于,“作妖不断”的马斯克被董事会投票出局。

 

走之前,他还诅咒OpenAI战胜DeepMind/Google的概率为0%。
反向出埃及记,为什么OpenAI留不住真大佬?
不过,与Altman密切的人透露,马斯克纯粹是嫉妒Altman抢了自己在AI领域的风头,他更加关注如何击败OpenAI,而非AI安全。与马斯克亲近的人则坚称,他对AI安全的担忧是真实且深刻的,比如开发xAI替代OpenAI。
但无论如何,赶走“独裁者”马斯克绝对是Altman登基的第一步。
第二步 金蝉脱壳 追求利润最大化
2019年,OpenAI从微软手中拿到了10亿美元,以继续开发“好”AI。
当你拿到10亿美元时,你就必须回报“金主”,这其实已经让一些元老心怀疑虑。

但Altman相当灵活——不留恋非营利组织的名声,留恋非营利组织的壳子。

 

他创造性地构建了一种全新的架构。一方面,OpenAI能像普通公司运作,比如筹资、发放员工股权;另一方面,OpenAI投资者的回报有上限。

 

本质上,OpenAI成为了一个由非营利组织董事会控制的营利公司。

 

这听起来就不稳定,团队内部分裂开始逐步出现。

 

2021年,Dario Amode创立Anthropic时说:

 

“OpenAI内部有一群人,当我们创造GPT-2和GPT-3后,对两件事有非常强烈的信念。一是认为这些模型中投入的计算资源越多,它们会变得越好,几乎没有尽头。我认为现在这个观点得到了更广泛的认可,但我们是最早的信仰者。

 

第二点是认为,需要除了扩大模型规模之外的东西,那就是对齐或安全性。因为只通过增加计算资源并不能告诉模型它们的价值观。所以我们秉持着这个想法,成立了自己的公司。”

 

虽然Anthropic看起来更加“安全”,并在准确性方面下足了功夫。例如,Anthropic使用了大量复杂的事实问题来针对模型已知的弱点,将答案分为正确答案、错误答案(幻觉)、承认“不知道”。相应地,Claude3可以表示自己不知道答案,而不是提供不正确的信息。除了更准确的回复,Claude 3甚至还能“引用”,指向参考材料中的精确句子来验证他们的答案。

 

但正如OpenAI回报微软,Anthropic也要回报亚马逊,以合乎道德的方式经营一家大型AI公司几乎是不可能的。

 

最近,Anthropic就被曝24小时抓取百万次网站数据等等。

 

“质疑、理解、成为”或许才是大模型初创公司的必经之路。

 

第三步 清洗叛徒 “黄袍加身”

 

陈桥兵变,宋太祖赵匡胤在半夜熟睡中,被兵变将士们偷偷地将黄袍披在身上。第二天,他痛苦地接受了大家的“逼迫”。主打一个民心所向。

 

而在去年11月OpenAI宫斗中,也上演了一出“硅谷版”黄袍加身。彼时,数百名OpenAI员工签署联名信,要求所有“叛变”董事会成员辞职、恢复Altman职位,否则签署联名信的员工将采取行动,“可能会加入Altman和Brockman在微软新成立的子公司”。

 

这威望和影响力,简直是所有CEO的梦想。

 

等等,故事还有另一个版本。

 

其实这场风波,除了“比心队列”,还有一个关键因素——金钱。

 

就在逼宫事件前不久,OpenAI刚刚为员工组织了一场股票出售活动,让大家有机会套现部分股权。结果,钱还没拿到手呢,老板先被干下去了。

 

一些投资者表示,如果Altman不回归,他们会暂停执行要约收购。眼看拿这笔钱提前退休,居然被“大恶人”Ilya Sutskever搅黄了!换谁能不生气。

 

因此,签署请愿书确实是民心所向。而且,当你身边95%同事都签名支持时,你很可能也会签上字。

 

至于Ilya Sutskever逼宫失败与被迫出走,除了不那么懂人性之外,还和Altman极强的弄权能力有关,具体如下。

 

2.“新王”剪影:专权、欺骗、牟利、放任

 

时间回到2016年。彼时,OpenAI办公地点是Brockman的私人公寓——沙发、厨柜,甚至床铺,都是员工的工作台。这个不起眼的地方,居然让20位世界顶尖的AI大神齐聚一堂。

 

当时Altman和马斯克不常驻,是Brockman和Ilya Sutskever携手撑起了团队。

 

Ilya Sutskever是AI领域的领军人物,Brockman则被视为OpenAI业务运营的顶梁柱,员工们记得,他们曾与Ilya Sutskever一同漫步于旧金山大街,深入讨论宏观议题,自问是否在正确的研究道路上踟蹰。Ilya Sutskever对AI有着超前洞察力,他能用简单的类比来阐释复杂的技术概念,比如将神经网络比作一种特殊的计算机程序或电路。

 

甚至在OpenAI成立之初,Ilya Sutskever就意识到AI的巨大飞跃不是来自某个特定的调整或新发明,而是源自海量数据的积累,就像为引擎不断注入燃料。

 

也正是这个原因。2017年,谷歌Transformer论文一经发表,Ilya Sutskever就能及时带领OpenAI探索并采用Transformer架构,成为行业内最早采纳这项先进技术的先锋之一。

 

Brockman的勤奋众所周知。一位前员工回忆,每天早晨到达办公室时,总能看到Brockman对着电脑,晚上离开时,他也在键盘上敲打。几年后,Brockman的婚礼在OpenAI办公室举行,婚礼由Ilya Sutskever主持,这一场景成为了公司文化的一部分。

 

在Brockman和Ilya Sutskever加入OpenAI时,他们已经实现财富自由了。披星戴月只不过是被一个共同的梦想驱动——利用AI为人类未来做贡献。

 

后续如我们所知,二人分道扬镳。不过,相隔几个月“被逼走”的二人未来也可能殊途同归。

 

第一宗罪:专权

 

很多人可能将11月宫斗视为Altman的无妄之灾,实际并非如此。

 

故事还是要从Anthropic说起。

 

起因是,Altman与董事会成员Helen Toner本来就不对付。

 

去年10月,Toner在乔治城大学的智库发表了一篇论文,倾向于认为Anthropic在安全性更胜一筹,并轻微批评ChatGPT“偷工减料”发布。

 

尽管论文结论挺温和,但Altman气炸了,并开始私下与董事会成员逐一接触,想把Toner投出去。

 

而且Altman颠倒黑白,声称Toner的一位支持者也想逐出她。

 

最终结果大家都知道了,被投出去的人是Altman。

 

第二宗罪:欺骗

 

董事会之所以想让Altman走人,主要是不信任他。

 

比如去年7月,OpenAI成立超对齐团队,由Ilya Sutskever和Leike领导。团队旨在为公司内部和非OpenAI模型的安全性提供研究。

 

但逃不过“先野蛮生长,再安全有序”的规律。OpenAI对AGI安全治理的优先级,显然放在了推出“闪亮产品”之后。初期承诺给超级对齐团队的20%算力,也遭不断蚕食,伤及“建立一个更负责任的AGI”员工的信心。

 

有趣的是,本次转投Anthropic的John Schulman离职也和AI对齐相关:“希望加深对AI对齐的关注,并开启我职业生涯的新篇章,让我可以重返实际的技术工作。”

 

今年7月末,OpenAI还把安全部门高级主管Aleksander Madry调离了安全岗位,并给他重新分配了“AI推理”的工作。

 

但OpenAI告诉媒体,Madry到新职位上后,仍致力于安全工作。Altman居然还强调,OpenAI坚持了“给整个安全团队至少20%算力”的承诺。

 

请注意,此时“超级对齐团队”被他偷偷换成了“整个安全团队”。

 

第三宗罪:牟利

 

如果欺骗升级呢?小道消息,去年董事会对Altman的驱逐和他隐瞒投资有关。

 

今年6月,WSJ指出——Altman投资了400多家公司,所持股份价值至少有28亿美元。这个隐秘且庞大的投资帝国因OpenAI成功而直接受益。

 

表面上,Altman作为OpenAI CEO,年薪仅6.5万美元,且不持有任何股份,原因是不想让金钱腐蚀AI的安全发展。

 

实际上,在Altman的投资帝国中,越来越多的公司直接和OpenAI做起了生意,要么是OpenAI客户,要么是主要业务合作伙伴。

 

例如,OpenAI正与核能创业公司Helion达成协议,希望通过后者购买大量电力,为数据中心供电。幕后老板正是Altman。

 

又例如,OpenAI想付费使用Reddit内容来训练ChatGPT。而Altman和他所控制的实体持有7.6%的Reddit股份。甚至早在2014年,Altman还短暂地担任过Reddit CEO。合作传出后,此前疯狂掉血的Reddit股价大涨10%,结果就是Altman所持股份一举增长6900万美元,达到7.54亿美元。

 

第四宗罪:放任

 

Altman之所以对AI安全放任,有一部分原因是他非常乐观?

 

如果你知道真正答案,可能会五味杂陈。

 

2015年,Altman就明确地表达过自己的担心,认为高级AI会成为人类生存的最大威胁。甚至在早期谈话中,他还用一种轻佻语气提到,AI有可能终结世界。

 

甚至面对《纽约客》记者,Altman透露,自己早就储备了枪支、黄金、弹药、抗生素,以及以色列国防军的防毒面具。他还提到自己在美国加州Big Sur有一片地,确保能在世界末日避难。

 

而当媒体再次提出时,Altman口风又变了:这不就是每个小男孩梦想的秘密基地吗?

 

而他的妹妹安妮表示,这很符合她对自己哥哥的了解——一个极度注重安全、准备在最坏情况下囤积资源的人。可以推测,Altman确实拥有足够的储备,只是懂得闭嘴了。

 

据称,Altman的野心也在不断扩张。例如,他正在进行普遍基本收入的研究,以防AI导致大规模失业;他推出Worldcoin加密货币,该项目通过扫描眼球来分配收入。

 

了解Altman的人透露,他的目标远不止于此,他甚至想成为“世界之王”,接管整个世界。反正,Altman确实曾考虑竞选加州州长。而Altman曾经的导师Paul Graham说:我认为他的目标是掌控整个未来!

原创文章,作者:editor, 02,如若转载,请注明出处:https://www.shidaox.com/observation/2187.html

Like (0)
editor, 02的头像editor, 02编辑
Previous 2024年8月2日 下午12:10
Next 2024年8月9日 上午10:28

相关推荐