回不去的Altman,难以调和的OpenAI路线之争

部分OpenAI的员工要求在北美时间周六下午5点前,整个董事会必须集体辞职,并迎回Altman,否则他们就会辞职并跟随Altman。

而累计已经在OpenAI上花了130亿美元的微软成了和事佬,既然要求Altman回归的谈判走向破裂,这边与OpenAI还要继续合作,不得不将两人先收入麾下,放在一个新的AI研究团队下,也给其他想跟着Altman跳槽的员工吃了颗定心丸,防止人才资源迅速地涌向竞争对手。

“周六解雇,周日和解,周一回去上班。”原本吃瓜群众以为Sam Altman会照着乔布斯的剧本来演。

Altman以为自己回来靠谱了,周日带着访客证记录推文一则:“这是我第一次也是最后一次戴这玩意儿来这儿了”。

(来源:X)

结果剧本又给OpenAI董事会撕烂了,“不好意思!我们找到人了。”内外逼宫下的董事会决定一条路走到黑,硬是不让人回来,还任命了新的临时CEO(Twitch前高管埃米特·谢尔)

看着自己培养的合作伙伴彻底黑化,微软大哥倒吸一口凉气,不要是吧,那来我这干吧。目前这一幕,以OpenAI前高管Sam Altman和Greg Brockman加入微软新AI研究团队结束。

(来源:X)

王者归来,乔布斯花了整整12年。OpenAI的内部矛盾,从公司成立,到大模型作为商业化工具大范围推广时一直存在,作为一个以非营利标签自居,亟需融资继续生存的商业实体,商业营利和技术安全不一致的冲突让天秤加速倾斜。

被“流放”48小时

简单回顾一下此次“政变”,公司前总裁Greg Brockman(与Sam一同被董事会除名,后自行辞去职务)在事发后提供了事情的详细经过。

大意就是,公司首席科学家兼董事会成员Ilya主导了此次“政变”,先后在两人不在场的情况下,召开会议将Sam和Greg除名,Sam被直接解雇,原本可以留下来的Greg火速辞职。除了接任CEO的米拉在前一天晚上知晓,管理团队其他成员都是临时才知道这次人事巨震。

同一时间,OpenAI官网迅速发布一篇文章宣布Sam Altman被解雇的决定,在阐释原因时用了“始终不坦诚”的评价形容Altman和董事会的沟通,使得董事会对他的领导失去了信心。

(来源:Open AI公告)

Sam和Greg,一个CEO,一个总裁兼董事会主席,先后被董事会赶出门是什么感受?

一脸懵逼。

(来源:X)

Sam被逐出公司后,投资人立马坐不住了。

连OpenAI最大的金主爸爸,微软同样为Altman被解雇的决定感到措手不及,他们声称事先并不知情,而是等到决定做出前那几分钟才知晓。

ChatGPT能取得这么快的进展并不是Altman一个人的功劳,但将ChatGPT成功商业化,为公司带来百亿美元融资却要仰仗Altman早年在创投圈积累的强大人脉和资源。没了他充当公司的门面,竞争对手追赶OpenAI的机会将大大提升。

况且OpenAI还在为新一轮融资进行着谈判,外界投资者本要向OpenAI员工所持股份进行要约收购,身为融资高手的Altman一走,要约收购就没办法顺利进行下去。

由于这些投资人没有董事会席位,对公司治理没有决策权,与之紧密沟通的Altman就是他们选出的代理人,他在公司的地位和外部投资人的利益攸关,因此在其离职后开始向公司董事会施压,要求让Altman“官复原职”。

但员工已经开始逼宫。

部分OpenAI的员工要求在北美时间周六下午5点前,整个董事会必须集体辞职,并迎回Altman,否则他们就会辞职并跟随Altman。临时CEO Mira Murati、首席战略官Jason Kwon、首席运营官Brad Lightcap,都站在了Altman这一边,希望董事会辞职。

据The Verge援引一位接近Altman的消息人士称,OpenAI董事会目前原则上已经同意辞职,并允许二人回归,不过由于形势仍不明朗,董事会成员一直犹豫不决,以至于错过了员工要求的截止时间。

在此之前,随着两人离职,三名忠于Altman的骨干级研究人员也在周五离开了公司,因这一消息而辞职:GPT-4负责人兼OpenAI研究总监Jakub Pachocki;人工智能风险评估团队负责人Aleksander Madry和开源基线研究员Szymon Sidor。

Altman回归的一大条件,同样是现有董事会必须走人。

整场闹剧,或者站在Sam的视角称之为一场“政变”,决定做得很草率,公关写得很草率,董事会架构更是草率,只要三票就能把CEO赶走,而且除了公司内部成员,独立董事的数量居然占了一半。

政变再早个几年,根本不会成功,因为当时董事会里还有像马斯克、里德·霍夫曼等大佬坐镇,但后来都因为利益冲突离开。19年Altman引入微软融资,为了不违背初衷同时让公司能够持续运转,Altman开创性地协调了营利和非营利组织的天然矛盾。

OpenAI的结构不寻常,它的营利主体是由一个非营利性501(c)(3)公共慈善机构拥有,前者可以接受投资并设定回报率,但是要在后者的治理下展开运作,而后者又由董事会来领导。

与传统公司不同,OpenAI的董事会的任务不是最大化股东价值,他们也没有持有OpenAI的股权。相反,他们的宣言使命是确保创造出对社会“广泛有益”的人工通用智能(AGI)

为了让董事会身份背景更加多元,除了Sam、Greg、Ilya三个联合创始人,OpenAI还引进了Adam D’Angelo、Tasha McCauley以及Helen Toner来担任独立董事。

三位独董,D’Angelo是北美“知乎”Quora的创始人;McCauley是名利场跨界来的,美国演员约瑟夫·高登-莱维特的妻子;Toner是搞政治学术研究的,毕生都在和官员打交道。

可以看出,三位是跟OpenAI,甚至跟AI都无关的纯路人,却在公司重要事项上有三票话语权,这就是戏剧性的一面,奇葩的董事会架构设置把Sam Altman回归的路堵死了。

可毕竟基本都是门外汉,三个独立董事不可能在Sam下台这件事上独立形成共识,因此外界几乎对董事会剩余一位公司内部成员,首席科学家Ilya Sutskever,策划这场“政变”的可能性达成了一致。

何以至此?

安全主义vs加速主义

“政变”具体导火索不详,但显然不仅仅归咎于Sam的沟通不当,锁定核心人物后发现,矛盾依然围绕着OpenAI内部研究和产品的派系斗争逐渐激化,更深层次地,是AI安全主义和硅谷技术乐观主义相互对立的一面。

在Ilya联合其他成员推动Altman和Greg下台的叙事里,这位当初从谷歌Deep Mind跳槽的天才科学家并不把自己当成Altman的“沃兹尼亚克”(与乔布斯共同创立苹果)而更像是将AI安全放置在商业利益之上的“奥本海默”。

Gillett News报道称:“Ilya认为作为CEO的山姆没有针对减轻AI风险给予足够的重视,Ilya还对自己在公司中的作用减弱表示不满。”在谈到被指控发动政变时,Ilya表示这是董事会为了非盈利组织的使命所做的决定,即确保OpenAI能够构建对全人类有益的AGI。

Altman和Greg显然是技术乐观派的代表,管理着GPT商业化的进度并且想要加快运用他们的研究成果。但Ilya却越来越担心OpenAI是否坚持了管理非营利组织创造有益的AGI的使命。

曾担任Ilya博士生导师的AI先驱杰弗里·辛顿表示,过去几年,OpenAI大语言模型的快速进展让Ilya对AGI即将到来更加充满信心,从而更加专注于预防其可能带来的危险。

本月早些时候,公司举行了第一次“开发者大会”,在会上Altman推出了GPTs,ChatGPT的自定义版本,增加GPT Store并允许通过收益分成来丰富开发生态。

在内部一些技术安全派看来,没有经过充分审查就利用ChatGPT来挣钱是不够谨慎的,已经和公司非营利的主旨背道而驰。

可Altman不但不听劝,还要继续抬高公司的估值进行新一轮融资。

之后Greg和Altman开始全力融资,11月9日Greg与法国总统马克龙会面,随后在巴黎举行了投资者会议,意图吸引主权财富基金和欧洲家族式的大额投资。

13日在伦敦接受《金融时报》的采访时,Altman首次确认他们已经开始开发GPT-5,并正在为此筹集资金。16日在APEC首席执行官峰会上,Altman确认了技术突破,称几周前他们再度打开了“无知之幕”。

但开发日后,使用量激增给他们的服务器带来严重过载,使得筹资堆砌算力变得愈发紧迫。OpenAI经历了包括ChatGPT及其API的大规模中断。CNBC报道,开发者大会三天后,微软出于安全考虑短暂限制了员工访问ChatGPT。

据传闻,17日董事会会议上,Ilya带来两名23岁的资深工程师向董事会报告了项目的进展和潜在风险。当他表示他们不应该再筹资,不应该扩张,以及Sam擅自进行巡演时,会议变成了一场辩论,最终Ilya大发雷霆,随后推动两位联合创始人一并出局。

把时间线拉长一些,短短一年之内,Altman帮助Open AI从一家混合型研究公司转变为一家处于全面增长模式的硅谷科技公司,年营收已经超过10亿美元。

部分硅谷科技精英崇尚着一种技术创新的价值观——有效加速主义(e/acc),就是说人类应该无条件地加速技术创新,通过快速迭代来颠覆社会结构,并认为技术颠覆可能会带来的社会风险本质上会迫使人类不断去适应,从而达到更高的意识水平。

虽然没有证据证明Altman笃信这一派观点,但从OpenAI近一年取得的成就看得出,Altman是懂如何“加速”的。

而要理解技术宅大神Ilya的立场则更加复杂。Ilya对OpenAI技术越有信心,对AGI的信仰越让他走向Altman的对立面。

在《麻省理工科技评论》的专访中,Ilya表示自己并不打算构建下一个GPT或图像生成模型DALL-E,而是打算弄清楚如何阻止超级人工智能变得不受控制。

他认为ChatGPT可能是有意识的,他眼中的超级人工智能跳出人类思考的局限,有着更深入的洞察力,而随着能力变得更强大,人类无法可靠地评估AI,这会带来无法估计的风险。

7月,Ilya领导发起了一项”超级对齐”活动,利用公司未来20%的算力资源,该项目旨在帮助引导超级人工智能走向人类价值观和目标,开发更多上游人工智能安全技术,为本十年实现AGI的可能性做好准备。

“对齐”的本质,是让人工智能模型按照明确的指令做事,而超级对齐,是Open AI专门用于超级智能的对齐术语。Ilya本人表示这是“兴趣驱使”,他更关心的并不是AI是否具有情感,而是AI是否对人类有真正的爱。

听上去像科幻小说,但不妨仔细理解一下。技术大牛可能对怎么赚钱不感兴趣,但对AGI的理解真的比我们高了不少层。

现在对于我们而言AI只是个工具,而Ilya已经站在数字生命体的角度去思考,所谓“真正的爱”,是无条件、超越人性、守护价值观的爱。

Ilya打算从AGI诞生的一开始,就给他植入底层原则,如同阿西莫夫著名的“机器人三定律”,通过目前基于人类反馈的强化学习可能还无法实现,但只有我们日后为超级数字生命体植入这一原则,才不会真来一出“黑客帝国”。

为何不等AGI诞生再慢慢调整?Ilya表示等不了,现在就得做。从描述上倒推进度,OpenAI的研发团队可能真的积累了一些能载入史册的成果。Altman想快点用,Ilya觉得不安全,应该多堆资源在他的项目里,这里既有资源分配的分歧,也有对于如何平衡进步和安全的矛盾。

尾声

技术乐观主义和AI安全主义在OpenAI成长史里如同两块分分合合的橡皮泥,一边受到快速商业化的推动,另一边则坚持必须极其谨慎地加以控制AI。马斯克是典型的AI威胁论代表,曾经的骨干研究人员也由于同样的分歧出走创立Anthropic。

但两位创始人的离开,意味着OpenAI的融资计划可能要泡汤了,即使能够实现,缺少灵魂人物掌舵,OpenAI未来商业前景的不确定性陡然增加,内部派系矛盾的不断激化也会削弱公司未来的招聘能力,原本860亿美元的估值剩下多少,对于计划参与投标的员工都会是巨大的打击。

而累计已经在OpenAI上花了130亿美元的微软成了和事佬,既然要求Altman回归的谈判走向破裂,这边与OpenAI还要继续合作,不得不将两人先收入麾下,放在一个新的AI研究团队下,也给其他想跟着Altman跳槽的员工吃了颗定心丸,防止人才资源迅速地涌向竞争对手。

但就这样么?通过挽救这场劳动纠纷,微软与OpenAI是否能继续稳定地合作,对OpenAI内部治理没有投票权的金主爸爸是否着意更多?

据外媒报道,微软曾考虑争夺OpenAI董事会的位置,或作为没有投票权的观察员加入,前提是阿尔特曼复职。但目前谈判失败,董事会成员是否会重新进行调整,目前尚不清楚。

二进宫暂时是失败了,但剧情反转格外激烈。

乔布斯的王者归来之所以传奇,在于一直被诟病不懂技术的他不像工程师般追求极致的技术成果,但更懂得倾听用户的声音,把出色的功能塞进更大的愿景里,兜售出百八十亿美元的成就。

站在乔布斯的视角,技术的优越性,恰好也是它的偏见所在,伟大产品的CEO需要站在市场和研发中间,让市场为技术路线实现反馈;而OpenAI的象牙塔,有凌驾于市场的价值追求。

两个故事能否成功“对齐”,要看在未来公司商业化进度和AI技术运用上,Altman、微软、以及OpenAI新晋管理层如何角力了。

本文来自微信公众号:格隆汇APP (ID:hkguruclub),作者:弗雷迪

声明: 该内容为作者独立观点,不代表新零售资讯观点或立场,文章为网友投稿上传,版权归原作者所有,未经允许不得转载。 新零售资讯站仅提供信息存储服务,如发现文章、图片等侵权行为,侵权责任由作者本人承担。 如对本稿件有异议或投诉,请联系:wuchangxu@youzan.com
(0)
上一篇 2023年11月20日
下一篇 2023年11月20日

相关推荐

  • 水温80度:AI行业真假繁荣的临界点

    我们从来没拥有过这么成功的AI主导的产品。

    (这种分析统计并不那么准,但大致数量级是差不多的)

    这两个产品碰巧可以用来比较有两个原因:

    一个是它们在本质上是一种东西,只不过一个更通用,一个更垂直。

    蓝海的海峡

    未来成功的AI产品是什么样,大致形态已经比较清楚了,从智能音箱和Copilot这两个成功的AI产品上已经能看到足够的产品特征。

    未来科技 2024年6月5日
  • ChatGPT、Perplexity、Claude同时“罢工”,全网打工人都慌了

    美西时间午夜12点开始,陆续有用户发现自己的ChatGPT要么响应超时、要么没有对话框或提示流量过载,忽然无法正常工作了。

    因为发现AI用久了,导致现在“离了ChatGPT,大脑根本无法运转”。”

    等等,又不是只有一个聊天机器人,难道地球离了ChatGPT就不转了。

    大模型连崩原因猜想,谷歌躺赢流量激增6成

    GPT归位,人们的工作终于又恢复了秩序。

    未来科技 2024年6月5日
  • ChatGPT宕机8小时,谷歌Gemini搜索量激增60%

    ChatGPT一天宕机两次

    谷歌Gemini搜索量激增近60%

    ChatGPT在全球拥有约1.8亿活跃用户,已成为部分人群工作流程的关键部分。

    过去24小时内提交的关于OpenAI宕机的问题报告

    图片来源:Downdetector

    ChatGPT系统崩溃后,有网友在社交媒体X上发帖警告道:“ChatGPT最近发生的2.5小时全球中断,为我们所有依赖AI工具来支持业务的人敲响了警钟。

    未来科技 2024年6月5日
  • ChatGPT、Perplexity、Claude同时大崩溃,AI集体罢工让全网都慌了

    接着OpenAI也在官网更新了恢复服务公告,表示“我们经历了一次重大故障,影响了所有ChatGPT用户的所有计划。Generator调查显示,在ChatGPT首次故障后的四小时内,谷歌AI聊天机器人Gemini搜索量激增60%,达到327058次。

    而且研究团队表示,“Gemini”搜索量的增长与“ChatGPT故障”关键词的搜索趋势高度相关,显示出用户把Gemini视为ChatGPT的直接替代选项。

    未来科技 2024年6月5日
  • 深度对话苹果iPad团队:玻璃的传承与演变

    iPad最为原始的外观专利

    没错,这就是iPad最初被设想的样子:全面屏,圆角矩形,纤薄,就像一片掌心里的玻璃。

    2010年发布的初代iPad

    好在乔布斯的遗志,并未被iPad团队遗忘。

    初代iPad宣传片画面

    乔布斯赞同这一想法,于是快速将资源投入平板电脑项目,意欲打造一款与众不同的「上网本」,这就是iPad早年的产品定义。

    iPad进化的底色

    苹果发布会留下过很多「名场面」,初代iPad发布会的末尾就是一例。

    未来科技 2024年6月5日
  • 底层逻辑未通,影视业的AI革命正在褪色…

    GPT、Sora均为革命性产品,引发了舆论风暴,但它在上个月发布的“多模态语音对谈”Sky语音,却由于声音太像电影明星斯嘉丽·约翰逊,被正主强烈警告,被迫下架。

    华尔街日报也在唱衰,认为“AI工具创新步伐正在放缓,实用性有限,运行成本过高”:

    首先,互联网上已经没有更多额外的数据供人工智能模型收集、训练。

    03、

    如果说训练“数字人”、使用AI配音本质上瞄向的仍是影视行业固有的发展方向,那么还有另外一群人试图从根本上颠覆影视行业的生产逻辑和产品形态。

    但分歧点正在于此,电影公司希望通过使用AI技术来降低成本,但又不希望自己的内容被AI公司所窃取。

    未来科技 2024年6月5日
  • KAN会引起大模型的范式转变吗?

    “先变后加”代替“先加后变”的设计,使得KAN的每一个连接都相当于一个“小型网络”, 能实现更强的表达能力。

    KAN的主要贡献在于,在当前深度学习的背景下重新审视K氏表示定理,将上述创新网络泛化到任意宽度和深度,并以科学发现为目标进行了一系列实验,展示了其作为“AI+科学”基础模型的潜在作用。

    KAN与MLP的对照表:

    KAN使神经元之间的非线性转变更加细粒度和多样化。

    未来科技 2024年6月5日
  • 这个国家,也开始发芯片补贴了

    //mp.weixin.qq.com/s/tIHSNsqF6HRVe2mabgfp6Q
    [4]中国安防协会:欧盟批准430亿欧元芯片补贴计划:2030年产量占全球份额翻番.2023.4.19.https。//mp.weixin.qq.com/s/VnEjzKhmZbuBUFclzGFloA
    [6]潮电穿戴:印度半导体投资大跃进,一锤砸下1090亿,政府补贴一半.2024.3.5https。

    未来科技 2024年6月5日
  • 大模型的电力经济学:中国AI需要多少电力?

    这些报告研究对象(数字中心、智能数据中心、加密货币等)、研究市场(全球、中国与美国等)、研究周期(多数截至2030年)各不相同,但基本逻辑大同小异:先根据芯片等硬件的算力与功率,计算出数据中心的用电量,再根据算力增长的预期、芯片能效提升的预期,以及数据中心能效(PUE)提升的预期,来推测未来一段时间内智能数据中心的用电量增长情况。

    未来科技 2024年6月5日
  • 你正和20万人一起接受AI面试

    原本客户还担心候选人能否接受AI面试这件事,但在2020年以后,候选人进行AI面试的过程已经是完全自动化的,包括面试过程中AI面试官回答候选人的问题,AI面试官对候选人提问以及基于候选人的回答对候选人进行至多三个轮次的深度追问。

    以近屿智能与客户合作的校验周期至少3年来看,方小雷认为AI应用不太可能一下子爆发,包括近屿智能在内的中国AI应用企业或许要迎来一个把SaaS做起来的好机会。

    未来科技 2024年6月4日