《沙丘》里的电脑和机器人都去哪了?

人类世界树立起“绝不能制造思考的机器”的铁则,至此之后,电脑、AI、机器人就消失在了《沙丘》的世界当中。

将“三定律”推演到极致,就出现了一个基本的伦理和哲学问题:如果机器人保护一个人类的代价是坐视另一个人类受到伤害,该如何行动。但是在第零定律之后,得出的结论成为,如果想要最大程度的保证人类整体的生存与不受伤害,那么最好的办法,是让人类生活在一个没有机器人的世界之中。

《沙丘》设定下这样一个禁止计算机技术的世界,结果就是人类本身的意义被凸现出来。

《沙丘》(Dune)在科幻领域的位置,就如同《指环王》在奇幻世界中的地位一样,是基石与标杆,也是打通小圈子爱好者和普通受众之间的桥梁——随便问一个人,就算没看过,也总隐约听说过他们的名号。

小说原著作者赫伯特(Franklin Herbert)笔下的概念和设定影响了数代创作者:沙漠行星阿拉基斯(Arrakis,也被称为Dune),成为了《星球大战》中的塔图因(Tatooine)的灵感来源;由Westwood推出的游戏《沙丘2》奠定了“即时战略游戏”的基础;而沙虫、香料(或者被称为“美琅脂Melange”)、宇航工会、扑翼机等,更是以各种衍生形态频繁地出现在后来的各种科幻作品当中。

《沙丘》问世于1965年。相较于其他同时期科幻作家对于计算机与未来人类共生主题的热衷,赫伯特在故事的开端就铺垫下了一处与众不同的基础设定——一个没有电脑和机器人的世界。


我们怎么总想跟AI干一架?

这缘起于小说在开头就提到的一个设定:巴特兰圣战(Butlerian Jihad)

作为《沙丘》世界历史中的一个重要事件,战争发生在主线故事的一万多年前。那时的人类掌握了星际航行技术,分布扩展到宇宙群星之间;同时制造了大量“会思考的机器(Thinking Machines)”来为自己服务,甚至使用这些“思考的机器”来组成政府实施统治和管理。几百年之后,开始有人不堪于“思考机器”的高压统治和奴役,愤而起兵反抗,一场人类与“思考机器”之间的大战终于爆发。最终,人类胜,机器败,所有“会思考的机器”尽被消灭。

人类世界树立起“绝不能制造思考的机器”的铁则,至此之后,电脑、AI、机器人就消失在了《沙丘》的世界当中。

“巴特兰圣战”现在已经成为了科幻作品里的一个经典设定。例如经典战棋游戏系列“战锤40K”(Warhammer 40,000),就基本完整地继承了“巴特兰圣战”的概念:在过去的黄金年代,人类制造出了铁人为自己服务,而铁人反叛,人类最终消灭了所有铁人,黄金年代结束,之后人类禁止制造任何思考机器。

赫伯特在《沙丘》中做出这样的设定,很大程度上是对阿西莫夫“机器人-银河帝国-基地”系列作品的一个回应——对于阿西莫夫“机器人三定律”的推演。

将“三定律”推演到极致,就出现了一个基本的伦理和哲学问题:如果机器人保护一个人类的代价是坐视另一个人类受到伤害,该如何行动?一个智能机器版本的“电车难题”:绝对道德主义与功利主义之争。

面对这个困境,阿西莫夫在剧情里增加了一个“第零定律(Zeroth Law)”:机器人必须优先保证人类整体的生存与不受伤害,而三大定律都在此之下。那么,如何定义“人类整体”呢?

阿西莫夫自己写了《永恒的终结》(The End of Eternity)与机器人系列的最后一部《曙光中的机器人》(The Robots of Dawn)来回答这个问题:机器人为了执行机器人三大定律,推导出的结论,就是如果想要避免个体人类不受伤害,只能将人类置于自己的高压统治之下,彻底失去自由;但是在第零定律之后,得出的结论成为,如果想要最大程度的保证人类整体的生存与不受伤害,那么最好的办法,是让人类生活在一个没有机器人的世界之中。

于是机器人统一停止了运转,之后的人类世界,就再也不存在机器人了。

在读过阿西莫夫这个系列之后,再回头来看《沙丘》,就可以很明显的发现其中的对应关系:沙丘宇宙,就可以看做是一个黑暗版的阿西莫夫宇宙。


一个禁止人工智能的世界可能么?

这里的秘密,藏在希尔伯特(David Hilbert)的终极数学之梦里。

自古以来,数学都被认为是一个逻辑推理的学科。到了20世纪,数学家们就有了这样一个疑问:既然数学的本质是逻辑推理,那么这个过程是否可以不通过人脑,而是使用纯粹的机械过程来实现?这就是希尔伯特的终极数学之梦:形式主义,创造出一个无矛盾的数学体系,能够完全的使用形式化的、机械的推理过程来实现全部的数学。

在他之后,就是图灵(Alan Turing)和邱奇(Alonzo Church)的工作,为计算机的出现奠定了基础。图灵和邱奇分别独立证明了可以使用一个纯粹机械的形式系统,来模拟人类进行数学推导的过程,这就是后来我们都很熟悉的“图灵机”(Turing Machine)

然而,之后哥德尔用不完备性定理(Gödel’s incompleteness theorems)打破了这一梦想:他通过构造出一个特殊的形式系统证明了,任何形式系统都存在系统之内无法证明也无法证伪的命题,从而摧毁了希尔伯特无矛盾的数学体系之梦。但是“能够思考的机器”,就成为了希尔伯特的形式主义的直接遗产。从这个角度,假如真的存在某种无所不能的时间规划局(就如《永恒的终结》里一样)想要从一开始就“禁止思考机器的出现”,他们要禁毁的就是整个现代数学。

也许有朝一日,希尔伯特的梦想终将实现:人工智能的智力水平决定性地超越了人类,成为了一个崭新物种。那么,在这样一个世界里,人类还重要吗?这也是“赛博朋克”这一科幻门类的基本主题:对于人类被超越、被扭曲和被消解的恐惧。

诸如《终结者》《黑客帝国》这样的大众科幻影视作品也反映了这种情绪,以至于“机器人毁灭人类”已经成为一个固定主题,终结中手持激光枪和金属骷髅也成为了大众潜意识中的恐怖化身。近年来人工智能领域的飞速发展一同加深了这种不安,譬如马斯克(Elon Musk)也会出来凑热闹地呼吁研究“安全的”人工智能。

《沙丘》设定下这样一个禁止计算机技术的世界,结果就是人类本身的意义被凸现出来。原文里,因为没有“思考机器”作为拐杖,人类开发出了各种各样的“学校”用来拓展自身思维的力量。

比方说门塔特(Mentat)学校:他们把学生训练成“门塔特”——一种用来代替计算机的专业人才,有着无与伦比的分析与计算能力;还有宇航工会的领航员,也是通过使用香料来强化他们对超空间的感知能力,才能够让星际飞船在亚空间中航行(所以小说中的香料才如此关键,它支撑了整个星际的航运事业);还有其中的贝尼·杰瑟尼特姐妹会(Bene Gesserit),也是通过服用香料和严格的精神与身体训练,来获取强大的、近乎于魔法的能力——诸如预知、通过言语操控他人等。

《沙丘》的古典科幻意味就在这里:没有计算机或者时髦的新技术,而是在自己的框架下生长出一套完整的、异质性的、能够自洽的世界。

你想生活在没有计算机的世界里么?

如果是这样的话,我们或许就会回到1970年代以前了。

那就是一个基本没有计算机的年代。人们还是会看报纸来了解天下大事;多数人会在生产机器的工厂工作;飞机都很昂贵,长途出门需要坐慢速火车,高铁也不存在。

这样发展下去,大概会成为蒸汽朋克或者柴油朋克的世界:精密机械会有更多的发展,车迷的黄金时代会延续得更久(80年代的JDM,Japan Domestic Market,被认为是消费汽车行业纯机械化汽车的巅峰时期);技术领域更加关注于外太空(毕竟当年实现阿波罗11号登月的全部计算机算力还不如你现在的手机);人们有更多的时间出门参加活动,而不是整天呆在家里打游戏或者上网……

或许就真如《沙丘》中描绘的一样,人类能够更好地拓展自身思维方式,物理学会有意想不到的进步。没有计算机特效技术,模型、特摄、手绘赛璐珞动画会发展得更加精致,动画迷会尽享漫长的黄金时代。

当然,更大的可能是,没有第三次工业革命(代表就是计算机的出现),人类文明陷入停滞。

导演维伦纽瓦在《沙丘》之前的一部作品,恰好是以赛博朋克、人造人社会为主题的《银翼杀手2049》。某种意义上,它和《沙丘》形成了一个巧妙的互文:一个是人类精神已经被消解的世界,一个是人类精神占据主导性的世界;一个是绚烂的五彩霓虹,一个是单调的漫天黄沙。

而这两个世界显然都值得人们去尽情探索一番。

参考文献:

[1]https://nerdist.com/article/everything-star-wars-borrowed-from-dune/

[2]https://arstechnica.com/gaming/2017/09/build-gather-brawl-repeat-the-history-of-real-time-strategy-games/

本文来自微信公众号:果壳(ID:Guokr42),作者:邓思渊,编辑:卧虫

声明: 该内容为作者独立观点,不代表新零售资讯观点或立场,文章为网友投稿上传,版权归原作者所有,未经允许不得转载。 新零售资讯站仅提供信息存储服务,如发现文章、图片等侵权行为,侵权责任由作者本人承担。 如对本稿件有异议或投诉,请联系:wuchangxu@youzan.com
Like (0)
Previous 2024年3月10日
Next 2024年3月10日

相关推荐

  • 水温80度:AI行业真假繁荣的临界点

    我们从来没拥有过这么成功的AI主导的产品。

    (这种分析统计并不那么准,但大致数量级是差不多的)

    这两个产品碰巧可以用来比较有两个原因:

    一个是它们在本质上是一种东西,只不过一个更通用,一个更垂直。

    蓝海的海峡

    未来成功的AI产品是什么样,大致形态已经比较清楚了,从智能音箱和Copilot这两个成功的AI产品上已经能看到足够的产品特征。

    未来科技 2024年6月5日
  • ChatGPT、Perplexity、Claude同时“罢工”,全网打工人都慌了

    美西时间午夜12点开始,陆续有用户发现自己的ChatGPT要么响应超时、要么没有对话框或提示流量过载,忽然无法正常工作了。

    因为发现AI用久了,导致现在“离了ChatGPT,大脑根本无法运转”。”

    等等,又不是只有一个聊天机器人,难道地球离了ChatGPT就不转了。

    大模型连崩原因猜想,谷歌躺赢流量激增6成

    GPT归位,人们的工作终于又恢复了秩序。

    未来科技 2024年6月5日
  • ChatGPT宕机8小时,谷歌Gemini搜索量激增60%

    ChatGPT一天宕机两次

    谷歌Gemini搜索量激增近60%

    ChatGPT在全球拥有约1.8亿活跃用户,已成为部分人群工作流程的关键部分。

    过去24小时内提交的关于OpenAI宕机的问题报告

    图片来源:Downdetector

    ChatGPT系统崩溃后,有网友在社交媒体X上发帖警告道:“ChatGPT最近发生的2.5小时全球中断,为我们所有依赖AI工具来支持业务的人敲响了警钟。

    未来科技 2024年6月5日
  • ChatGPT、Perplexity、Claude同时大崩溃,AI集体罢工让全网都慌了

    接着OpenAI也在官网更新了恢复服务公告,表示“我们经历了一次重大故障,影响了所有ChatGPT用户的所有计划。Generator调查显示,在ChatGPT首次故障后的四小时内,谷歌AI聊天机器人Gemini搜索量激增60%,达到327058次。

    而且研究团队表示,“Gemini”搜索量的增长与“ChatGPT故障”关键词的搜索趋势高度相关,显示出用户把Gemini视为ChatGPT的直接替代选项。

    未来科技 2024年6月5日
  • 深度对话苹果iPad团队:玻璃的传承与演变

    iPad最为原始的外观专利

    没错,这就是iPad最初被设想的样子:全面屏,圆角矩形,纤薄,就像一片掌心里的玻璃。

    2010年发布的初代iPad

    好在乔布斯的遗志,并未被iPad团队遗忘。

    初代iPad宣传片画面

    乔布斯赞同这一想法,于是快速将资源投入平板电脑项目,意欲打造一款与众不同的「上网本」,这就是iPad早年的产品定义。

    iPad进化的底色

    苹果发布会留下过很多「名场面」,初代iPad发布会的末尾就是一例。

    未来科技 2024年6月5日
  • 底层逻辑未通,影视业的AI革命正在褪色…

    GPT、Sora均为革命性产品,引发了舆论风暴,但它在上个月发布的“多模态语音对谈”Sky语音,却由于声音太像电影明星斯嘉丽·约翰逊,被正主强烈警告,被迫下架。

    华尔街日报也在唱衰,认为“AI工具创新步伐正在放缓,实用性有限,运行成本过高”:

    首先,互联网上已经没有更多额外的数据供人工智能模型收集、训练。

    03、

    如果说训练“数字人”、使用AI配音本质上瞄向的仍是影视行业固有的发展方向,那么还有另外一群人试图从根本上颠覆影视行业的生产逻辑和产品形态。

    但分歧点正在于此,电影公司希望通过使用AI技术来降低成本,但又不希望自己的内容被AI公司所窃取。

    未来科技 2024年6月5日
  • KAN会引起大模型的范式转变吗?

    “先变后加”代替“先加后变”的设计,使得KAN的每一个连接都相当于一个“小型网络”, 能实现更强的表达能力。

    KAN的主要贡献在于,在当前深度学习的背景下重新审视K氏表示定理,将上述创新网络泛化到任意宽度和深度,并以科学发现为目标进行了一系列实验,展示了其作为“AI+科学”基础模型的潜在作用。

    KAN与MLP的对照表:

    KAN使神经元之间的非线性转变更加细粒度和多样化。

    未来科技 2024年6月5日
  • 这个国家,也开始发芯片补贴了

    //mp.weixin.qq.com/s/tIHSNsqF6HRVe2mabgfp6Q
    [4]中国安防协会:欧盟批准430亿欧元芯片补贴计划:2030年产量占全球份额翻番.2023.4.19.https。//mp.weixin.qq.com/s/VnEjzKhmZbuBUFclzGFloA
    [6]潮电穿戴:印度半导体投资大跃进,一锤砸下1090亿,政府补贴一半.2024.3.5https。

    未来科技 2024年6月5日
  • 大模型的电力经济学:中国AI需要多少电力?

    这些报告研究对象(数字中心、智能数据中心、加密货币等)、研究市场(全球、中国与美国等)、研究周期(多数截至2030年)各不相同,但基本逻辑大同小异:先根据芯片等硬件的算力与功率,计算出数据中心的用电量,再根据算力增长的预期、芯片能效提升的预期,以及数据中心能效(PUE)提升的预期,来推测未来一段时间内智能数据中心的用电量增长情况。

    未来科技 2024年6月5日
  • 你正和20万人一起接受AI面试

    原本客户还担心候选人能否接受AI面试这件事,但在2020年以后,候选人进行AI面试的过程已经是完全自动化的,包括面试过程中AI面试官回答候选人的问题,AI面试官对候选人提问以及基于候选人的回答对候选人进行至多三个轮次的深度追问。

    以近屿智能与客户合作的校验周期至少3年来看,方小雷认为AI应用不太可能一下子爆发,包括近屿智能在内的中国AI应用企业或许要迎来一个把SaaS做起来的好机会。

    未来科技 2024年6月4日