心里有什么,就看见什么。
当奥特曼被OpenAI董事会炒掉之后,媒体在一天之内就用上了“权力游戏”和“政变宫斗”的标题。这可能只表示,媒体和观众被困在了自己建造的牢房里。
据说苏茨克维是罢免行动的灵魂人物,他是OpenAI的联合创始人,首席科学家。至少从他的角度看,这不是一场游戏,而是拯救人类的殊死搏斗。也不是一场政变,因为董事会必须尽责。苏茨克维本尊也不爱权力,他从2015年到现在都没有做CEO的意思。
实际版本可能是这样,下一代GPT已经进化出“惊天动地”的能力,可能不再是一个工具,而是一个智能体,所以激进派和谨慎派之间,自由派和责任派之间,产生了同样“惊天动地”的决斗。
激进派相信,一定要以最快的速度发展,因为技术是工具,为人所用,就算原子弹可以让核大国对小国任意杀戮,但却避免核大国之间不至于崩盘。但谨慎派认为,人工智能可能不再是工具,而会替代人,如果不为人工智能在最底层赋予“爱”的价值观,那人类一定被屠杀。
历史太丰富了,你可以从中得出任何结论。
媒体把奥特曼被撵比作1985年乔布斯被赶出苹果,这个比喻相当性感,可以迅速激起人的无脑同情,所以太危险了。
乔布斯自己说,1985年被赶出苹果是发生在他身上最美好的一件事。一个人只有被杀死了,才会重生。1996年重回苹果的乔布斯,跟11年前的乔布斯是两个人。
把奥特曼强比成乔布斯,并不尊重乔布斯的本意,但又怎样呢,围观群众爱死了这样的神来之笔,这让人有一种世界尽在掌握的爽。
更荒谬的是,苏茨维克才是那个第一天就住进OpenAI的灵魂。他参与发明AlexNet,也就是大模型的骨髓,他是Google AlphaGo论文的作者之一,用自己的力量团结到早期骨干,一直负责最前沿的开发。奥特曼在几年之后才全职加入,他搞定了投资和商业,为此把OpenAI改造成一个盈利机构。
苏茨维克是技术灵魂,奥特曼搞到资源,建立商业循环。如果可以说奥特曼是乔布斯悲剧重演,那也可以说,是苏茨克维吸取当年乔布斯的教训,先发制人。
王安石写过一首诗:周公恐惧流言日,王莽谦恭未篡时。向使当初身便死,一生真伪复谁知。
谁知道,奥特曼被炒,到底是一次撵走乔布斯,还是一次刺杀希特勒?如果刺杀希特勒成功,就拯救了几千万地球人。如果是刺杀希特勒,那就不必搞什么程序正义,苏茨克维的隐秘闪电战,倒表示这不是个只懂神经网络的书呆子。
可惜历史上刺杀希特勒失败了,几年以后,人才回过神来,原来强人做事就是赌博,拉人陪葬。
当人还没完全搞清楚事情,又急切想要安全感,最容易就是按自己的喜好,从历史中找出有一些相似的例子,然后脑补一切,心安理得认为已经掌握了真相。秦始皇,汉武帝,甚至孔子,不管是谁,都可以绑架来打扮一番,做回夜壶。
媒体此前还把奥特曼比作“奥本海默”,说他是一个忠奸两面的面壁人。据说奥本海默推动在日本引爆原子弹,是想借这杀死几十万人的行为艺术,来最大限度地警告地球人,必须锁死这个魔鬼。躬身入局,才能最大限度控制局面。
虽然奥特曼在外界一直扮演奥本海默的角色,呼吁监管,但目前来看,苏茨克维更可能是奥本海默。奥特曼推动商业生态,让GPT的能力快速扩散,打造一个赚钱机器。但苏茨克维最近表达了截然不同的立场:首要任务不是制造下一代GPT,而是研究如何阻止超级人工智能失控,这才是OpenAI的起点。所以奥特曼可能是表面谨慎,掩盖实际激进。
今年7月,苏茨克维主导“超级对齐”,也就是用人类的反馈来训练模型,让它遵守人类的价值观。这个项目会拿出OpenAI手里1/5的算力,用四年解决“超级智能”的威胁。他说,不能保证一定成功,但集中精力、齐心协力,就能解决。
看起来,不管是干掉奥特曼,还是重新跟奥特曼谈判,都可能是保证“齐心协力”的一部分。
有人公开警告苏茨克维,奥特曼随时可以拉走一帮人,搞到一大笔钱,回过头来搞你,而你却失去了一个可以搞到钱和搞定巨头的保障,你会死得很惨。但这种调调并不理解真正的“deep tech”。
一个投资人朋友,Nathan Zhao在朋友圈说,自成立之初,deep tech就是一个需要强烈技术信念来支撑的文化,贯穿整个组织的灵魂。这条路非常漫长,非常不确定,不像纯商业公司通过数据正反馈来达成共识。所以决定deep tech是否成功的东西是信仰,外行觉得这是玄学,但内行告诉你就是这样。
苏茨克维和奥特曼曾经一同参加一个论坛,苏茨克维在现场补充奥特曼的讲话时说,是信仰让他俩代表OpenAI在今天坐在这里。这在当时也受到硅谷观众的笑场,但恰恰证明,只有被群嘲的人才会走到巅峰,不要低估他们捍卫信仰的决心。
但问题也出自这些群嘲,这是人类的重力。信仰只属于极少数人,当一个信仰被现实捆在地面,需要钱和大多数人的支撑,信仰就被绑架。这是苏茨克维几乎无法克服的危险。
科技界的人把奥特曼抬到神的位置,可以理解,他们靠智能手机这些东西发了财,获得了权力。投资人力挺奥特曼,帮助他赶走苏茨克维,是一定的。断人钱财,杀人父母。
正因为此,他们会低估风险,不停踩油门,把一切踩刹车的都当成历史垃圾。他们崇拜智力,因为智力推动科技,而蔑视其他。
也不要低估科技媒体的权利欲,尤其主流媒体,他们报道科技天才,跟他们对话,甚至交朋友,就好像自己也吃到了春药。虽然他们只是马仔,不仅仅是行业的马仔,也是读者的马仔。
几乎没有媒体有真正的影响力,他们所拥有的只是迎合力。读者与媒体之间是一场共谋,媒体会用他们的智力去暗中迎合读者,你蠢,那我就把你的蠢包装成聪明,你坏,那我就把你的坏包装成高尚。这就是媒体的真身。
苏茨克维在微博上的最后发言是四十天前:“如果你把智力看得比人类的其他品质都重要,你就会过得很糟糕。”那个时候,他应该在准备行动了。这话也是宣誓,如果不想过很糟糕的生活,那不如一搏。
苏茨克维的老师辛顿,亲手创造大模型原型的人,他从谷歌离职,不在体制之内,就公开说:“不好意思,是我打开了潘多拉魔盒,唤醒了一个魔灵,但我无法关上它,所有人都被绑架了,我们可能正坐在前排看着人类灭亡。”
苏茨克维比他的老师更进了一步,留在体制内,绝地反击。
但如果大部分人都用“权力游戏”和“政变宫斗”来看戏,那苏茨克维命悬一线,现代版的人血馒头,不过也无所谓。乔布斯说,只有疯狂到自认为能改变世界的人才能改变世界。却还有一句更决绝的:有人破釜沉舟不是为了改变世界,而是为了不被世界改变。
今天有人闯关的全部意义可能只在于,100年之后,或者一年之后,人类集体跳崖的时候,会有一瞬间,他们忽然想起,曾经有人想要力挽狂澜,但被杀死了。这个瞬间也算是人性的光辉。
就算是在那个时候,他们也记不起那些人的名字,就像没人记得刺杀希特勒那个人的名字,人们只会记得希特勒,只会记得“成功者”。
本文来自微信公众号:卢泓言(ID:xixineryi),作者:凡其