直到周五夜晚,OpenAI的联合创始人、董事长兼总裁布洛克曼(Greg Brockman)还处于五雷轰顶之后的懵懂之中。他需要回顾一下,过去的24小时内,究竟发生了什么。
一、“政变” 发生
上周的旧金山和湾区,洋溢在APEC首脑峰会的热闹气氛中,尤其是两位大国首脑相见,分外瞩目。
OpenAI的联合创始人、CEO奥特曼 (Sam Altman),周四那天出现在APEC的工商峰会上,晚上还参加了一个火人节的活动,大谈AI与艺术。
他收到了另一位联合创始人,首席科学家苏茨克沃(Ilya Sutskever)的短信,约在周五中午谈下。
周五中午,奥特曼打开了苏茨克沃发来的Google Meet链接,发现除了布洛克曼之外,还有其他3位独立董事。苏茨克沃告诉奥特曼,他被炒掉了,而且这个消息会很快发布。
官方声明称,因为对董事会不坦诚,奥特曼被免去了CEO和董事职位。奥特曼一小时后即在X上宣布离开OpenAI,并称稍晚会宣布他下一步的打算。
12:19,布洛克曼收到了苏茨克沃的一条短信,要求快速通个电话。4分钟后,他也收到了一个Google Meet链接,点开之后,马上就被告知,自己被解除了董事会的职务,但因为他对公司举足轻重,还是保留了他的总裁职位。他还被告知,奥特曼被炒了,已经在官网上宣布了。
官方声明称,布洛克曼将向临时CEO Mira Murati汇报,她去年5月刚升任公司CTO。但布洛克曼听到消息后,立刻宣布辞职。
这件爆炸性的新闻,冲击了整个公司,除了Mira。她在周四晚上已经知道,自己将接替奥特曼,担任临时CEO。OpenAI内部像是炸了锅,Mira不得不安抚全公司,与微软的合作将继续。她转述了微软CEO纳德拉和CTO斯科特(Kevin Scott)的表态,仍然对OpenAI保持“极度信任”。
当天晚上,三名高级人员辞职,他们是公司研究总监Jakub Pachocki,负责评估人工智能潜在风险的团队负责人Aleksander Madry, 以及工作了7年的研究员Szymon Sidor。预计这个周末,OpenAI还将会有大批员工辞职。
如日中天的OpenAI,陷入创办八年以来最大的危机。
二、安全与盈利之间的冲突
这一场OpenAI内部的“政变”,微软居然事先一无所知,直到消息公布前几分钟。可想而知,所有其他的投资人,也都蒙在鼓里。
这暴露了OpenAI的非盈利与盈利双层架构之间潜在的矛盾。最重要的投资方,无法在公司的治理上发挥作用。而现有非盈利部分的董事会,由于无人持股,6名董事采取一人一票制,潜藏了不稳定的风险。
OpenAI刚刚举办的开发者大会,加速了矛盾爆发。在OpenAI内部的“非盈利派”与“盈利派”之间,关系近来一直紧张。苏茨克沃领导着公司的研发团队,他代表的非盈利派强调安全,强调OpenAI的基本价值观;而奥特曼所代表的盈利派强调加快发展,在开发者日那天,推出了定制GPT商店,并且提供给开发者API助手,启动了与开发者分享收益的商业变现模式。
但激增的用户,很快超出了OpenAI的承受能力,奥特曼不得不宣布暂停新的ChatGPT Plus用户注册。这进一步增加了苏茨克沃对安全的担心。
事实上,在董事会中,以奥特曼和布洛克曼为一派,以苏茨克沃和另一位董事Helen Toner为另一派,对于接下来发展的速度,意见分歧日益扩大,双方渐行渐远。
董事会其他成员在一些重大的战略问题上,也与奥特曼意见相左。如奥特曼想从中东主权财富基金融资数百亿美元,开发芯片挑战英伟达。他还找过孙正义,想用软银的数十亿美元投资,联手苹果前设计师Johny Ive,打造一家AI原生的硬件公司。
还有知情人士透露,苏茨克沃们对奥特曼试图借助OpenAI的名声筹集资金感到不满,他们担心新的业务可能不会采用合适的治理模式。
有报道称,周四上午十点钟左右,苏茨克沃找到了另外三位董事,让两位技术人员向董事们说明了系统面临的安全和稳定等方面的严重隐患,这个代表了董事会三分之二席位的会议,随即做出了炒掉奥特曼的决定。
奥特曼的支持者称之为一场“政变”。
三、董事会成员“缺乏经验”
董事会用了三分之二的票数,即苏茨克沃与三位独立董事达成一致之后,做出了炒掉奥特曼的决定。但并没有召开全体董事会议,而且这样的董事会议,也没有通知身为董事长的布洛克曼。公司的两位最重要的创始人、CEO和董事长,根本没有参会和投票的机会,各自在一次Google Meet会议里,就被赶出了公司。
“如果我放开说,OpenAI董事会就会追着要我所有股份的全部价值。”
OpenAI应该是当今最重要的一家非上市公司,我们看下做出这样决定的董事会成员:
独立董事Adam D’Angelo, Quora创始人,CEO。2018年4月加入董事会。他认为OpenAI要坚持非盈利,控制盈利上限部分,以保证不成为硅谷的另外一家科技巨头。
独立董事Tasha McCauley,今年才开始担任兰德公司兼职高级管理科学家。之前她有过两次不成功的创业,嫁给了犹太裔知名演员和创业者Joseph Gorden-Levitt。她积极参与“有效利他主义(Effective Altruism)”运动。
独立董事Helen Toner,2021年9月加入董事会,乔治敦大学安全与新兴技术中心(CSET)战略与基础研究资助主任。她以前是Open Philanthropy的一位政策研究人员,该机构曾向OpenAI捐款;加入智库CSET之前,她曾住在北京,研究过中国的人工智能创新生态;该智库在中美人工智能与地缘政治政策研究中发挥着重要作用。
Helen和Tasha,还都加入了英国的人工智能治理中心(GovAI),该机构关注的重点是通用人工智能系统可能对安全构成的威胁。
苏茨克沃成为了公司仅存的联合创始人。他出生在俄罗斯,从以色列移民到加拿大,是深度学习之父Geoffrey Hinton的博士生,历经DeepMind、Google AI、OpenAI,过去十年,他处于强化学习和深度学习的最前沿,并把通用人工智能推到了全新领域。
他主张在建立超级人工智能的过程中,建立起与人类的超级对齐(superalignment)。他正带领团队,动用OpenAI的20%的算力,力争在AI变得比人类聪明前,从技术上建立内在的监督机制。他在最近的一次社交媒体上发言警告说:“如果你把智能的价值,凌驾于人类所有其他的品质之上,你就要承担糟糕的后果。”
在董事会中,奥特曼与苏茨克沃,就OpenAI如何在安全与赚钱之间平衡,发生了尖锐的冲突。奥特曼主张推进商业化应用,试图扩大OpenAI的业务范围,并且张罗下一轮融资;而苏茨克沃认为,要坚持研究安全和造福人类的通用人工智能,在盈利方面不能急于求成。
正是这四位OpenAI的董事,不由分说就同时赶走了另外两位董事,而且是受到高度认可的联合创始人,这在硅谷被许多创业者、投资机构诟病。
他们首先质疑这个董事会中,有成员缺乏经验担任这么重要的一家公司的董事。与OpenAI早期的董事会成员,如马斯克、领英创始人霍夫曼、以及硬科技投资人科斯拉(Vinod Khosla)等经典的硅谷创始人相比,目前的董事会偏弱,还被硅谷媒体说成有一些“有效利他主义” 的味道。
其次,这么重大的事件,OpenAI的前任董事、最重要的投资人,都被蒙在鼓里。尤其是微软在OpenAI投入了上百亿美元,就在消息发布前几分钟才知道。更不用说其他投资人了,他们几乎囊括了硅谷和全球最顶级的投资机构。
微软CEO纳德拉,立刻在博客上发表声明:微软与OpenAI拥有长期协议,可以使用一切(技术),将继续与Mira合作,推进人工智能战略。
四、治理架构的内在矛盾
不管因为什么原因,奥特曼和布洛克曼是OpenAI最重要的缔造者,他们已经成为自己设计的治理结构的牺牲品。
2015年,OpenAI是以非盈利机构的身份成立的。它的目标是建立一个达到和超过人类水平的、开放的和造福人类的通用人工智能系统。
后来,因为包括马斯克等人承诺的10亿美元资金,仅到位1亿多美元,先进算力与一流人才的成本巨大,公司研究与运营难以为继,决定成立一家盈利性质的子公司OpenAI Global LLC,它由非盈利的OpenAI 完全控制。
OpenAI Global 可以对外融资,但为投资者设定了一个利润分配上限。据媒体披露,OpenAI的利润分配可以被划分为四个阶段:产生利润后,先让马斯克等的首批投资者退出;后续利润的75%分配给微软,直到微软收回其130亿美元的投资;在利润达到920亿美元之后,微软的持股比例下降到49%,剩余部分利润由其他风险投资者和OpenAI的员工分享;当利润达到1500亿美元之后,微软和其他风险投资者的股权将无偿转让给OpenAI的非营利基金。
其中最重要的投资者当然是微软,在2019年、2021年、2023年三次投资OpenAI,累计投资上百亿美元。但从最终意义上看,微软并不拥有任何OpenAI的股权,而更像是一个商业合作伙伴,包括微软可以独家获得OpenAI所有的技术,OpenAI使用微软的Azure云训练其基础模型,并且通过其API提供的服务,都要使用微软的云等等。
微软提供的资金、云服务,以及微软与OpenAI在应用方面的商业合作,都对OpenAI能在长达8年的时间内,心无旁骛地专注于大型语言模型的研究,并且最终取得突破,起到了关键作用。
但是OpenAI与微软的合作,也被许多人批评为背离了初心,它从一家独立的、非盈利的人工智能研究机构,变成了一家科技巨头的战略棋子;它承诺基础模型开源,但从GPT-3以后,就变得日益封闭。作为OpenAI的联合创始人的主要的捐资者,马斯克提出了尖锐的批评。OpenAI的核心员工,也有离开创办新的公司,如目前OpenAI的主要竞争对手Anthropic。
OpenAI一年前推出的ChatGPT,捅破了通用人工智能的窗户纸,惊艳了世界,但其可能带来的风险,也引发了巨大的争议,并且加速了有关国家和跨国治理体系的研究与制定。
根据OpenAI的架构,6名董事会成员可以“确定我们何时达到了通用人工智能(AGI)”。
尽管通用人工智能存在很大争议,OpenAI下了一个定义:通用人工智能指的是一种高度自治的系统,在大多数经济上有价值的工作中胜过人类。奥特曼等人曾认为,十年之内人类将实现通用人工智能。
而这个董事会一旦认定OpenAI已经实现了通用人工智能,它将收回对于商业机构的独家使用与合作,将其用于整个人类。其中,在有关微软的条款中提到:“这样的系统不包括在与微软的知识产权许可和其他商业条款中,这些条款仅适用于通用人工智能之前的技术。”
从设计的架构上来看,非盈利的OpenAI董事会,拥有至高无上的权力。
OpenAI仍然处于亏损状态,但收入正在快速增长中,目前年化收入已达13亿美元,明年可能达到数十亿美元。在年初的那一轮融资中,OpenAI的估值达到了290亿美元。
目前,OpenAI正在以860亿美元的估值,进行新一轮融资,为其训练GPT-5准备资金,其中对齐训练将变得更为重要。
初创公司抛弃创始人,是硅谷反复出现的故事。苹果在1985年解雇了乔布斯;Twitter在2008年解雇了联合创始人多西(Jack Dorsey)。他们最终都王者归来,重新领导自己创办的公司走向辉煌。
但奥特曼的离职,对所代表的行业产生的影响可能会更大。生成式人工智能可能会因此受挫吗?未必!
生成式人工智能所带来的影响,已经远远超过研制更先进和安全的大模型。它所引发的革命,才刚刚开始。
也许,奥特曼和布洛克曼在OpenAI的使命已经完成。生成式人工智能,正在从实验室里走向千行百业。他们振臂一呼,依然会有包括OpenAI员工在内的顶级人才跟随,依然会有从硅谷到世界各地的几十亿甚至上百亿美元的投资。生成式人工智能更加广阔的大门正在Open。
而OpenAI会坚守其初心,为人类研究安全的通用人工智能。它可能不再具备奥特曼所带来的商业想象,但依然需要大量的投资支撑它的研究。OpenAI的价值,终究可能不是成为另一家科技巨头,而是成为与科技巨头比肩而立的社会影响力公司,把生成式人工智能的潜力,开放给无数的研究者、创业者、开发者、使用者。应该乐见OpenAI独特治理架构走得更远。
“谢谢你,让我们距离未来更近。” 布洛克曼在社交媒体上收到这样的回复。
本文来自微信公众号:未尽研究(ID:Weijin_Research),作者:未尽研究