专访OpenAI前科学家:无证据表明Sora、ChatGPT没有意识

在肯尼斯的观点中,AI文生视频时代,由于生成视频的技术门槛大幅度降低,视频数量会激增,因此,关于内容“有趣”的标准会提升,对内容生产者的创新性会有更高的要求:“比如,当Sora可以根据命令自行编辑视频的内容时,那些非常基础的工程师与艺术家就会被取代。

OpenAI的文生视频截图。

创新的诞生土壤

《中国企业家》:从企业角度来看,目前最先进的AI技术来自于OpenAI,而不是硅谷大公司的原因是什么。

《中国企业家》:你认为下一个颠覆性的AIGC产品仍然会出现在OpenAI之类的初创公司,还是互联网大公司。

文生视频是洪水猛兽吗?在Sora问世半个月后,这个议题余温仍在。  

居里夫人曾表示:“世界上没有恐惧的事物,只有尚未被认识的事物。知之越深,畏之越浅。”

两位前OpenAI的人工智能科学家也认为无需畏惧Sora:“就像你如果是一位画家,但你发明不出画布。Sora就是那张画布,它被发明了出来,你的才华反而能被显现出来。唾手可得的技术可以帮你把想法叠加起来,但它并不会代替你创造出全新的想法。

这两位科学家就是肯尼斯·斯坦利(Kenneth Stanley,简称“肯尼斯”)和乔尔·雷曼(Joel Lehman,简称“乔尔”),两位也是《为什么伟大不能被计划》这本关于创新方法论的书的作者。在加入OpenAI之前,二人还都曾在Uber AI实验室工作。

AI激变之际,《中国企业家》与两位科学家探讨了AI于普通人创新而言的危与机,颠覆性AI技术的孵化环境,以及人们应如何警惕被AI掌控的“终结者”时代。

在肯尼斯的观点中,AI文生视频时代,由于生成视频的技术门槛大幅度降低,视频数量会激增,因此,关于内容“有趣”的标准会提升,对内容生产者的创新性会有更高的要求:“比如,当Sora可以根据命令自行编辑视频的内容时,那些非常基础的工程师与艺术家就会被取代。”

普通人如何在AIGC时代提升自己的创新力?二人在采访与书中都提到,最关键的是人们要把生活中的部分时间用来做“新奇探索”——忽视宏大的目标、只研究感兴趣的内容,对事物保持开放、敏感,这样就可能带来无心插柳柳成荫的成果。

苹果创始人史蒂夫·乔布斯一直都站在艺术与科技的交叉点上——他热爱音乐、研习书法、喜欢包豪斯设计风格,也热爱计算机。所以iPod、MacBook与iPhone系列,才能以跨界的思维和简约的风格在科技产品中取胜。

而谈到ChatGPT和Sora为何能在谷歌、Meta、亚马逊等一众硅谷巨头的AI军备竞赛中胜出,肯尼斯和乔尔给出了巨头的两个创新壁垒:一、决策链条冗长;二、缺乏颠覆性研究和巨额投资的勇气。

在他们看来,抢占了基础设施先机的OpenAI,在下一轮AI的颠覆式变革中仍有很大的几率胜出。但想要再次研发出占据行业优势的新产品,对OpenAI而言也存在着“革自己命”的挑战。

对于更远的未来,AI可能产生的社会与伦理问题,肯尼斯和乔尔倒是有一些忧心。

在他们看来,随着社会变得更加人工智能化,地球上的财富分配可能会更加不均,造成阶层分化加剧。但也不排除在生产力的大规模提升之下,可能筑就一个完全相反的乌托邦世界。

尽管二人都认为自主意识AI在近期内还不会生成,但他们担忧这会是AI发展的终极形态。在肯尼斯看来,问题不仅在于未来AI产生了自我意识该如何解决,还在于当下它们是否已具有了自主意识萌芽。“没有证据表明ChatGPT和Sora具有意识,但同时也没有已知证据表明它们没有,我们甚至不知道证据是什么。”

在可能走向“失控”的背景之下,AI究竟应该走“有效加速主义者”(即包括阿尔特曼在内的AI发展激进派),还是走“超级爱对齐主义者”(AI研发速度放缓派)的路径?这是一个值得叩问的话题。

以下为《中国企业家》与肯尼斯、乔尔的对话实录(有删节)

《中国企业家》:你们对Sora的初印象是怎样的?在你们看来,Sora的到来是否意味着一场AI领域的颠覆性技术革命?

乔尔:在某种意义上,这不应该令人惊讶,因为这就是OpenAI的速度。同时,高分辨率的视频纹理非常逼真,被渲染得非常准确,它们有趣而惊人。

我认为它们将开辟许多可能性。一旦有了强大的理解力和视频的生成能力,以前AI在很多地方遇到的困境现在都可以解决。如今,视频的创新力可以更好地被发挥出来。

肯尼斯OpenAI的技术成果的令人惊喜之处,在于每一次都发生得如此之快,表明它有比我意识到的更强大的算力。但是也正因为技术进步太快,它并不像一些普遍评价看来的那样完美。

我认为这在AI内部并不具有颠覆性,因为它实际上只是一段时间以来研究成果的延续。但对于其他行业可能会是颠覆性的,尤其是那些涉及到视频商用的领域。

我认为随着Sora的迭代,比如根据命令自行编辑视频的部分内容,那些非常基础的工程师和艺术家的工作开始会被取代。这项技术可能会带来一些有趣的颠覆。

《中国企业家》:对平台YouTube和TikTok来说,Sora的出现会不会是一种颠覆?OpenAI最近在TikTok上创建了一个账号,未来OpenAI与TikTok的关系会是怎样的?

乔尔这是一个有趣而复杂的问题,我已经开始想象TikTok上充满Sora制作视频的画面了。不过,Sora可以运用于很多平台,OpenAI和TikTok、YouTube是维度非常不同的公司。因此,很难说未来他们之间会构成怎样的竞争关系。

比如,如果你创建了一个YouTube视频,你想要吸引很多人看,唾手可得的技术可以帮你更快把想法叠加起来,但是它不会帮你创造出全新的想法。

肯尼斯我不认为它会产生巨大的破坏性影响,这只是TikTok平台生存模式的延续。因为人们一直在尝试寻找一些新的工具软件来升级视频。在这之前,我们用各种软件来剪辑视频,只不过现在,我们显然是在从文本中生成原始视频。

如今,如果我们能够通过Sora生成独家的视频,使得视频变得更有趣,在用户看来更具有新鲜度,那整个视频生态系统的确会发生根本性的改变,但那是积极的改变。

《中国企业家》:普通人应该如何抓住AIGC时代的机遇?

肯尼斯:我觉得AIGC赋予普通人的权利很多,它让普通人创作视频成为可能。AIGC时代创作出了一种新的表达工具。就像你如果是一位画家,但你发明不出纸张,有人发明出来了,你的才华就能够被展现。所以我认为AIGC会很有用。如果你还不是AI方面的专家,那就想想你有什么创造性的倾向。

OpenAI的文生视频截图。来源:X社交平台截图

在AIGC时代,被认为是“有趣”的标准会提高,因为产生新视频的门槛大幅度降低了。想要创造大量的垃圾的、无趣的内容肯定会非常容易。对于一般人来说,视频制作、编程不再需要那么多技术能力,因为AIGC可以帮你实现,但你仍需要深刻的洞见和新奇的想法,才能更好地发挥你的创造性。

创新的诞生土壤

《中国企业家》:从企业角度来看,目前最先进的AI技术来自于OpenAI,而不是硅谷大公司的原因是什么?是否因为大公司业务众多,更容易停留在原有业务的舒适区,或者更长的决策链条?

乔尔:我觉得可能是大公司对于创新不像初创性公司那么渴望,而OpenAI从最初就打算把AI的算力扩充,后续就是不断在最初的计划上翻倍。OpenAI有独特的眼光和一流的人才。

另外,以我在不同规模的公司的经验来看,更大的机构更官僚,决策时间更长,对个人的信任会减少,对程序的信任会增加。

肯尼斯:这可能与他们规模小的事实确实有关。但你也要记住,还有很多其他的初创公司也没能研发出ChatGPT和Sora,所以这里的样本量很小。也许只是因为他们有独特的文化或者个人。

我认为其中一部分是勇气,必须有人说,让我们花数百万美元做一些我们不知道结果如何的事情吧。就像刚开始训练大模型,它非常昂贵,而且可能结果很糟糕。但是当他们训练出基于GPT-2的ChatGPT时,他们就愿意从一点点变化中相信AI训练的规模化能够带来质的改变。这种笃信需要非常大的勇气。

《中国企业家》:你认为下一个颠覆性的AIGC产品仍然会出现在OpenAI之类的初创公司,还是互联网大公司?

肯尼斯:接下来我们应该会在OpenAI看到一些令人欣喜的研究进展,我觉得目前一定不是他们发展的终极形态。他们应该会在这个领域领先一阵子。

但是在这之后,他们是否能持续领先会非常难说。因为曾经的革命者创造出来的新鲜事物,会逐渐变得稀松平常。对他们来说,比起其他人,可能更难重新去创造具有革命性的新技术。

OpenAI必须革自己的命。

《中国企业家》:在二位看来,乔布斯到马斯克,当代互联网科技领域的创新者、变革者,身上有哪些个性、喜好上的共同特征?

肯尼斯:说他们的一个共同特征可能是创造力。比起人的共性,我更喜欢从做事规律的角度去总结。当你喜欢一个事物,却不害怕去尝试,这是能够实现创造力的一种配方。这在我们的书中有所涉及。

很多新奇的点子实际上都是近在咫尺的,但不被很多人察觉到。实际上我认为就像iPod之后的iPhone一样,他们有某种用户友好的共性。但这显然不是CD机到随身听的升级,而是从音乐播放器到手机的跨度。  

创新人士大都能看到未来的发展趋向,虽然在时点掌握方面可能没那么准确。比如马斯克可能对自动驾驶技术实现的时间预估存在偏差,他当时觉得2017、2018年就能彻底实现,但他的确看到了这个方向。

乔尔:他们的特质就是开放、敏感。作为一个企业家在科技领域创新,即使没有按照他们想要的方式发展,他们也会对他人的反馈和解读很敏感,对一些建议很开放,也许最终会达到意想不到的结果。

《中国企业家》:你们来过中国吗?和中国企业家、科研工作者有哪些接触?他们和美国同侪有哪些异同?

肯尼斯:我去北京参加过会议。我认为很难概括,因为我对中国的创业了解不多。

如果我试着概括一下,我认为美国的企业生态系统可能更多样化,美国企业家对盈利计划、营收计划更模糊。

在中国,至少从历史上看,人们更倾向于采用传统的方法。你需要有一个商业计划和商业模式来理解你将如何赚钱。这种方法可能在美国也不是最常见的方法。所以在中国,打破常规相对会比较难。

乔尔:我去澳门参加过会议,那是个很有趣的地方。

我与比较多的中国科研工作者有过接触,我在中国科学家身上看到了一种超级强烈的职业道德。有时候,想要跳出思维定式是很困难的。

永远保持好奇心

《中国企业家》:书中提到了比较多创新的偶然性,你们如何看待一些科学家在晚上做梦时得到灵感,解决了创新性难题?比如苯环的发现者在梦中构想出了结构。

肯尼斯:我觉得这不是一个随机发生的过程。从某种意义上说,它确实与工作有关,就像踏脚石(书中提到的以兴趣为导向搜集的各种“宝物”)的集合,即使你不知道你要去哪里,踏脚石是可以引导别人去你要去的地方,它们很有趣。如果你收集了一些“收藏家”(科研工作者)发现的有趣想法,就相当于踩上了一块踏脚石,在某个时候,合成的成分就在那里了。

梦是一种不同的整合思想的方式。这很有可能发生在有准备的人身上,他们原本就具有解开答案的这种能力,只不过在梦境状态中体现了出来。

《中国企业家》:在你们看来,离创新型发明较近时,是否也会出现相应的奇点时刻?研究人员和普通人如何去找到实现梦想的“踏脚石”?

乔尔:还要再次强调,你要对有趣的想法保持敏感。

比如你有必须要做的事情,像找一份工作,赚很多钱,然后结婚。所以你大部分的注意力都集中在目标上,就没有兴趣空间。可事实上你可能会在这过程中发现一些很有趣的东西,但你会质疑这无法引导你实现目标,于是兴趣就会渐渐离你而去,因为你不给它机会。

《中国企业家》:在“新奇性搜索”时,研究者是否会遇到投入过多时间、资金,却又无法实现创新的情况?

肯尼斯:重要的是要承认追求兴趣涉及的风险,而且可能不会有回报。所以我们这本书并不是在介绍一种成功秘籍。从实践层面上来说,就是不要把鸡蛋放在一个篮子里。否则就养活不了家人。

乔尔:我认为这并不完全矛盾,即使你因为需要稳定与安全感而做着一份工作,也可以对其他的事物保持开放、好奇的态度。

这个世界是如此复杂和有趣,本质上就是这样。我认为总有一些兴趣的因素可以引导我们实现梦想,甚至在大多数情况下,我们能在工作中发现意义和兴趣,这不完全是零和游戏。总的来说,就是对快速奔流和无限复杂的时代保持好奇心。

AI的社会与伦理挑战

《中国企业家》:你们觉得人类该如何面对创新科技带来的很多伦理问题?比如是否会因为大多数人失业,从而导致未来阶层分化加剧?

乔尔:我确实认为这种分层已经恶化了。所以它需要很多人知道AI的未来会如何发展。如果这个世界变得越来越自动化,那财富可能集中在更少的人手中,这的确令人担忧。

但有一种乐观主义想法认为,未来我们可能生活在一种乌托邦的时代,那时候我们在AI技术非常发达的情况下,平等、自由地做最人性化的事情,而不是受AI操控。

肯尼斯:我非常担心你所描述的极端不平等分配,这真的是一个非常严峻的问题。我认为从长远来看,在新的社会结构中,拥有技术的人需要一定程度决定如何无私地使用AI。

不过阶层是永远会存在的,并且有着一定的合理性。就像我们从历史上看到的,当领导者把工作环境创造成完全的利他主义,技术人员工作得反而不会那么好。

事实上我不太确定未来我们该怎么做,因为这会是一个前所未有的社会结构,与此前所有政府面临的都不同。

《中国企业家》:在你们看来,AGI什么时候会确切地到来?

乔尔:很难确切地想到它什么时候会到来,因为它与所有这些关于当前范式的问题纠缠在一起。当前的模型存在局限性,这得基于能否克服更多数据上的难题。如果说是那种超人类的程度,我觉得这会变得更难回答。但如果是一般意义上的AGI,我觉得大概在5~10年内。

肯尼斯:我们应该系统地看待这个问题。如今,AGI已经在不断地重新定义,和多年前相比,人们对通用智能有了成倍的预期。如果10年前,你跟我说可以和ChatGPT互动,我会非常惊讶,甚至可以加上图片和声音。

如果说AGI只是在当下的发展上提升数据与规模,那我们一直在走上坡。但不确定的是,AGI也有可能需要基于AIGC领域全新的模型。

至于具体多久,我们可以放在更广的时间轴去思考。比如你会知道下一个爱因斯坦何时诞生吗?我无法告诉你什么时候会实现。该发生的自然会发生,5年到50年都有可能。

《中国企业家》:你们觉得电影《终结者》中,人类被机器人统治的局面,未来是否有可能会出现?如果可能,为了应对可能到来的机器人有意识并掌控世界的这种局面,AI科研人员与相关机构的管理者,还需要对创新做哪些前置预防措施? 

肯尼斯:首先,我想说的是,《终结者》中发生的事情,机器人可以是没有意识的,不过没有意识的计算机系统也是可以杀人的。我们显而易见要为此担忧。

最后要谈的是自主意识,我认为这是一个独立的问题。我现在不会因此失眠,因为感觉还很遥远,这听起来像是科幻小说情节,但我不认为这是不可能实现的。

现在,没有证据表明ChatGPT或Sora是有意识的,但同样重要的是,没有已知证据能告诉我们它没有意识。这不仅仅是因为我们没有证据,我们甚至不知道证据是什么。这是一个哲学问题。我认为你有意识的唯一原因只是因为你是人类,否则我无法证明你有意识。

如果AI变得有意识,这将关乎于它们是否有权利,因为它们是一个个自主的存在。当下的AI离自主意识应该还比较远,所以我认为可能不适合过早地把这当成一个道德困境来探讨。但我同意你的看法,不知道未来哪天,也许它就会越过那条线。

乔尔:这是涉及人类尊严的议题。因为意识,我们比其它动物更智慧。但如果AI越过了这条线,这就变成了有趣而可怕的事。这就好比我们可以把想法投射到AI上,它们可能给我们提供最适合的需求,但也可能像终结者一样消灭我们。

在社交平台上,每年都有调查问终结者时代到来的时间。有些人认为这永远不会发生,有些人认为在短短几年内就会到来,专家们在此观点上也存在分歧。我不认为它会很快发生,但我希望我们能做好准备,因为作为一个独特的物种,我们应该主宰我们的命运。

本文来自微信公众号:中国企业家杂志 (ID:iceo-com-cn),作者:陶淘,编辑:李薇

声明: 该内容为作者独立观点,不代表新零售资讯观点或立场,文章为网友投稿上传,版权归原作者所有,未经允许不得转载。 新零售资讯站仅提供信息存储服务,如发现文章、图片等侵权行为,侵权责任由作者本人承担。 如对本稿件有异议或投诉,请联系:wuchangxu@youzan.com
(0)
上一篇 2024年3月14日 12:13
下一篇 2024年3月14日 14:17

相关推荐

  • 水温80度:AI行业真假繁荣的临界点

    我们从来没拥有过这么成功的AI主导的产品。

    (这种分析统计并不那么准,但大致数量级是差不多的)

    这两个产品碰巧可以用来比较有两个原因:

    一个是它们在本质上是一种东西,只不过一个更通用,一个更垂直。

    蓝海的海峡

    未来成功的AI产品是什么样,大致形态已经比较清楚了,从智能音箱和Copilot这两个成功的AI产品上已经能看到足够的产品特征。

    未来科技 2024年6月5日
  • ChatGPT、Perplexity、Claude同时“罢工”,全网打工人都慌了

    美西时间午夜12点开始,陆续有用户发现自己的ChatGPT要么响应超时、要么没有对话框或提示流量过载,忽然无法正常工作了。

    因为发现AI用久了,导致现在“离了ChatGPT,大脑根本无法运转”。”

    等等,又不是只有一个聊天机器人,难道地球离了ChatGPT就不转了。

    大模型连崩原因猜想,谷歌躺赢流量激增6成

    GPT归位,人们的工作终于又恢复了秩序。

    未来科技 2024年6月5日
  • ChatGPT宕机8小时,谷歌Gemini搜索量激增60%

    ChatGPT一天宕机两次

    谷歌Gemini搜索量激增近60%

    ChatGPT在全球拥有约1.8亿活跃用户,已成为部分人群工作流程的关键部分。

    过去24小时内提交的关于OpenAI宕机的问题报告

    图片来源:Downdetector

    ChatGPT系统崩溃后,有网友在社交媒体X上发帖警告道:“ChatGPT最近发生的2.5小时全球中断,为我们所有依赖AI工具来支持业务的人敲响了警钟。

    未来科技 2024年6月5日
  • ChatGPT、Perplexity、Claude同时大崩溃,AI集体罢工让全网都慌了

    接着OpenAI也在官网更新了恢复服务公告,表示“我们经历了一次重大故障,影响了所有ChatGPT用户的所有计划。Generator调查显示,在ChatGPT首次故障后的四小时内,谷歌AI聊天机器人Gemini搜索量激增60%,达到327058次。

    而且研究团队表示,“Gemini”搜索量的增长与“ChatGPT故障”关键词的搜索趋势高度相关,显示出用户把Gemini视为ChatGPT的直接替代选项。

    未来科技 2024年6月5日
  • 深度对话苹果iPad团队:玻璃的传承与演变

    iPad最为原始的外观专利

    没错,这就是iPad最初被设想的样子:全面屏,圆角矩形,纤薄,就像一片掌心里的玻璃。

    2010年发布的初代iPad

    好在乔布斯的遗志,并未被iPad团队遗忘。

    初代iPad宣传片画面

    乔布斯赞同这一想法,于是快速将资源投入平板电脑项目,意欲打造一款与众不同的「上网本」,这就是iPad早年的产品定义。

    iPad进化的底色

    苹果发布会留下过很多「名场面」,初代iPad发布会的末尾就是一例。

    未来科技 2024年6月5日
  • 底层逻辑未通,影视业的AI革命正在褪色…

    GPT、Sora均为革命性产品,引发了舆论风暴,但它在上个月发布的“多模态语音对谈”Sky语音,却由于声音太像电影明星斯嘉丽·约翰逊,被正主强烈警告,被迫下架。

    华尔街日报也在唱衰,认为“AI工具创新步伐正在放缓,实用性有限,运行成本过高”:

    首先,互联网上已经没有更多额外的数据供人工智能模型收集、训练。

    03、

    如果说训练“数字人”、使用AI配音本质上瞄向的仍是影视行业固有的发展方向,那么还有另外一群人试图从根本上颠覆影视行业的生产逻辑和产品形态。

    但分歧点正在于此,电影公司希望通过使用AI技术来降低成本,但又不希望自己的内容被AI公司所窃取。

    未来科技 2024年6月5日
  • KAN会引起大模型的范式转变吗?

    “先变后加”代替“先加后变”的设计,使得KAN的每一个连接都相当于一个“小型网络”, 能实现更强的表达能力。

    KAN的主要贡献在于,在当前深度学习的背景下重新审视K氏表示定理,将上述创新网络泛化到任意宽度和深度,并以科学发现为目标进行了一系列实验,展示了其作为“AI+科学”基础模型的潜在作用。

    KAN与MLP的对照表:

    KAN使神经元之间的非线性转变更加细粒度和多样化。

    未来科技 2024年6月5日
  • 这个国家,也开始发芯片补贴了

    //mp.weixin.qq.com/s/tIHSNsqF6HRVe2mabgfp6Q
    [4]中国安防协会:欧盟批准430亿欧元芯片补贴计划:2030年产量占全球份额翻番.2023.4.19.https。//mp.weixin.qq.com/s/VnEjzKhmZbuBUFclzGFloA
    [6]潮电穿戴:印度半导体投资大跃进,一锤砸下1090亿,政府补贴一半.2024.3.5https。

    未来科技 2024年6月5日
  • 大模型的电力经济学:中国AI需要多少电力?

    这些报告研究对象(数字中心、智能数据中心、加密货币等)、研究市场(全球、中国与美国等)、研究周期(多数截至2030年)各不相同,但基本逻辑大同小异:先根据芯片等硬件的算力与功率,计算出数据中心的用电量,再根据算力增长的预期、芯片能效提升的预期,以及数据中心能效(PUE)提升的预期,来推测未来一段时间内智能数据中心的用电量增长情况。

    未来科技 2024年6月5日
  • 你正和20万人一起接受AI面试

    原本客户还担心候选人能否接受AI面试这件事,但在2020年以后,候选人进行AI面试的过程已经是完全自动化的,包括面试过程中AI面试官回答候选人的问题,AI面试官对候选人提问以及基于候选人的回答对候选人进行至多三个轮次的深度追问。

    以近屿智能与客户合作的校验周期至少3年来看,方小雷认为AI应用不太可能一下子爆发,包括近屿智能在内的中国AI应用企业或许要迎来一个把SaaS做起来的好机会。

    未来科技 2024年6月4日