致友人：
认识这么多年了我还是第一次这样给你写信，这个年头谁还通信啊。我十五岁就开始出外景，有挺长一段时间非常依恋写信。回头看，这样充满孕育和等待的交流简直是一种仪式——好比祈祷——为心灵带来温暖和安抚，甚至升华。写信、折信、封信、贴邮票，浆糊用完了用米粒儿，最后把信投到邮筒里，开始等待对方的回应。时间流淌得很慢，“未来”离得很远，让我无限憧憬。从什么时候开始，时间成了Time-lapse拍的镜头，一转眼就不见了？从什么时候开始，未来成了巨浪，扑面而来？
第一次听说ChatGPT，是你告诉我的。你说，很高兴看到GPT现在增加了强化学习，有了更好的探索/利用平衡。我一直在批评big pre-trained transformer model， 它能很好地进行“利用”，但缺乏“探索”。现在使用强化学习弥补了这一点。新的GPT变得非常强大，试着玩玩看吧。那是2022年的12月，正遇母亲一周年忌日。
记得母亲在世时，我跟她说起过AI——她严重失忆，无论说什么都会在半分钟里忘记，聊天只是为了陪她度过时光——我信口开河地胡说，现在有一种机器人，能解答所有的问题，懂得所有的语言，随时自我完善，还有无限的记忆力，厉害吧？你要不要买一个？她说，那么灵啊，那每一个笨小孩都应该有一个，带着它去学校。我觉得她的话挺逗的，她本能地觉得聪明的小孩不需要。其实没人需要AI，只是它被争先恐后地创造出来了，我们也必须争先恐后地去使用它。
2022年圣诞节前后，旧金山上空来了一条“大气层河流” ，暴雨把窗外的世界变得一片模糊，我仿佛在一个现实以外的“水帘洞”中，着迷地玩了几天ChatGPT——问它尖锐的问题、勾引它说脏话、让它用我给的规定情景或人物编故事。我告诉你，我一直在努力让GPT写出些出乎意料的有趣情节，但结果都是最陈腐单调的东西，有点令人失望。在涉及知识时，它表现得很好；在涉及创造力时，它还差得太远…… 而且GPT被编程得如此一本正经，充满外交辞令，拒绝放肆或“邪恶”。从这个意义上说，它实际上是有偏见的……
你开玩笑说，可怜的ChatGPT，被你这么折磨。我回，问题是你可以折磨它直到你筋疲力尽或老死，它都毫发无损，怎么跟它竞争啊？你说，而且你越折磨它，它越强大。
第一次正式派上GPT的用场，是因为航空公司丢失了彼得托运的高尔夫球棒，管事人说球棒放在超大行李传送带上了，那之后不见的就不关航司的事了。我怀着好奇的心理向ChatGPT求助，没想到一封完整的法务信件瞬间出现在屏幕上，井井有条，面面俱到，振振有词。没有ChatGPT我自己也能写出来，但是为什么要花那么多时间精力去写一封枯燥乏味的法务信件呢？何况结果还不一定有它写得那么奏效。
所有这些不再被我们需要的人的能力，所有能省略掉的过程，都将不复存在。这是生命的效率，人是通过如此淘汰进化而来的。过不了几代人，母亲说的“笨小孩”也许就会越来越多了吧——毕竟，挣扎的过程是形成独立思考的唯一途径。你和你的同仁们都预言，AI很快会在感知和认知能力以及任务方面超越人类，它将为我们完成95%或者更多的工作，为我们创造巨大的价值。每次听到这样的话我都纳闷，那人自身的价值呢？
今年五月，好莱坞编剧工会开始罢工游行，其中一个重要的协商内容，就是关于生成性AI的使用规定。我跟你说，目前AI对我们行业的影响还没有真正显现，但我仿佛看着一个巨大的陨石，燃烧着惊艳火光，以每秒十公里的速度从天边向我们飞来，像电影《不要抬头》那样。你回，AI会是你最好的工具。
同月，你发来了一封世界尖端AI创造者的联名信，其中包括了你的署名，“……在短短几个月的时间里，从最初只是生成美丽图像和有趣对话的机器人开始，这一潜力迅速膨胀，导致了一种如此强大的技术，以至于我们现在对其可能产生的影响感到恐惧…… 人类正在因此面临着灭绝的危险”。增强型通用智能的出现，将彻底改变人类的进程，重新建立人与人、人与机器、机器与文明、机器与社会的秩序，而正如尼科洛·马基雅维利在《君主论》中所说，“没有任何事比引入和执行一个全新的秩序更困难、更危险和无法保障成功”。2023年将载入史册。
其实，“智能机器”的概念——它作为一个不知疲倦的助手、终极士兵，甚至一个贴心的伴侣——已经吸引了人类的想象力数千年。早在三千年前，荷马史诗中就描写了，火神赫菲斯托斯利用他的特殊能力创造了“由金制成的仆人，看起来像活生生的少女”。这些似人的机器“有智慧，有声音和活力，它们从不朽的神祇那里学到了技艺，整天匆匆忙忙地围着主人服务”。这个与文明一样古老的愿望眼看就要实现了，如此伟大的创举却让我想起一个说法：小心你的愿望。下半句一般不用说出来：它恐怕会成真。Be careful what you wish for（lest it come true）。
从几百年前开始，作家、艺术家、伦理学家就用他们的著作向世人发出警示。1818年问世的《现代普罗米修斯》也许是其中流传最广泛的吧。在十三年后的再版前言中，作者玛莉·雪莱描写了作品最初的愿景：“我闭眼看到了——用敏锐的思维视觉——我看到了一个被亵渎了的学科的学生，跪在他所创造的东西旁边。我看到了一个像可怕幻影那样的男人躺在那里，然后，在一台强大引擎的作用下，显示出生命的迹象，并以一种不安的、半有生命的动作挣扎。”
书中的科学家弗兰肯斯坦以发展科学、造福人类的初衷，在实验室中制造出一个有机的生命，它学会了人的思维、逻辑、言行和感情，也跟人一样渴望爱与归属。但正如它对它的创造者所说的“我本该是你的亚当，却成了坠落的天使” 那样，所有遇见它的人都视它为恐怖的怪物，它因此陷入绝望，成了人的仇敌，并杀人报复。弗兰肯斯坦后悔莫及，天涯海角地追踪这个他不该创造的生命，发誓将它毁灭，最终不幸付出了自己的性命。
在对科学的理解还非常局限的年代，这本书对科学和创造的本质提出了精髓的探讨。书中的“怪物”虽然不是机械的，但它跟AI引发出来的伦理问题是相同的：我们的能力与野心是不是应该有禁区？当我们看到自己的能力与野心在毁灭人类时应该怎么办？
今天翻开《现代普罗米修斯》，我再次为之惊叹，如此娴熟的语言、深邃的哲思、澎湃而细腻的感情、无底深渊的黑暗，竟然出自一位18岁少女的笔下。当然，这不是个一般的少女。
玛莉从出生就离文学和死亡很近，她的母亲——女权主义哲学家玛莉·渥斯顿克雷福特——生下她不久就去世了，她的父亲威廉·戈德温也是一位重要作家。玛莉自幼在父亲的图书馆博览群书，并通过父亲认识了许多文学界的精英，她后来的丈夫珀西·雪莱也是其中的一位。她与珀西恋爱以后，他的第一个妻子自杀了，玛莉的三个孩子也相继在幼年夭折。
失去了第一个孩子之后，再次怀了孕的玛莉跟珀西、拜伦、妹妹克莱尔启程去日内瓦湖休养。因受到印尼桑巴瑞火山爆发的影响，那年整个北半球被笼罩在阴霾中，在历史上被称为“没有夏季的一年”。旅途中，玛莉被大自然的美和严峻深深震撼。所见风云的不测、山峰的威严、峡谷的神秘、河流的奔腾、森林的幽静，日后被她重新想象，成为了《现代普罗米修斯》中的场景。
到达日内瓦湖畔后，他们为了躲避恶劣的天气经常聚在屋里聊天，从文学、哲学谈到当时最新的科学进展，从异常的气候谈到超自然现象，从神秘主义谈到鬼故事。有一天，拜伦建议他们每人写一篇鬼故事，比赛谁写得最恐怖。《现代普罗米修斯》由此诞生，谁能想到，这个始于消遣的创作，将成为世界上最有远见的文学作品之一。
2021年，一本原版印刷的《现代普罗米修斯》在佳士得拍卖了117万美元，创了纪录，但书中的伦理并没有太多人留意。我耳边莫名地响起那首叫《风中飘荡》的歌：“……炮弹要从头顶飞过多少次，才能永远被禁止？答案，我的朋友，在风中飘荡，答案就在风中飘荡……”
讲到玛莉·雪莱的人生、她的创作源泉和才情，我想到我们讨论过的另一个课题——AI对艺术家和艺术的影响。那天我们是从梵高的画谈起的，你给我发来一幅人工智能生成式补全的《星空》，说，AI开始糟蹋名画了。我给你发去一张用Lensa软件做的“梵高画的”我，说，AI对艺术最大的威胁不是取代，而是使之庸俗化，使人的审美和鉴赏眼光钝化。
什么是艺术？看到梵高的《星空》时，我们也看到了他关在精神病院里，凝视窗外的星空，并在作画的过程中获得心灵的安抚和自由；看到了他在贫困、病痛和讥笑面前的挣扎和信念；看到了他对爱、知音和自我完善的渴望。阅读《现代普罗米修斯》时，我们也会联想起那个被死亡纠缠的少女。作品的熔炉是人生的苦海和彼岸的乐土，没有肉身与精神的锤炼，怎么可能成形？
其实真正打动我们的是人类的局限性和超越极限的勇气，人类的欲望和它的精神升华。人工智能以其无限的潜力，不具备人的局限与脆弱。艺术让我们体会到的敬畏感，不仅存在于创作结果中，它也存在于我们拼命超越自身的企图中。无限的潜能还有什么可超越与升华的？
心灵和意识是人类智能探索的最后疆域，这块神秘之地也是艺术的起源和归属。但也许有一日AI能模仿我们的心灵和意识？也许真与假、本质与表象的界限将跟水银一样流动？也许我们的感官将不再能辨别代糖与蔗糖、植物奶油与黄油、一夜情与恋情的不同？
你说，在未来（大约50年后）人类将进化成一个新物种，类似于今天与10万年前智人的差异，只不过这次的进化是由技术的进步所加速的。你的话让我联想起石黑一雄的小说《克拉拉与太阳》，在那个未来的世界，“人机结合”的手术已是现实，家长们思想斗争是否该为孩子的脑子“提升”——毕竟，“提升”后的孩子就不再是原来的人了。人类可能并不会进化成新物种（30万年前的智人和我们仍是同一物种），但被“提升”后的生命的确将是一个新物种。
他们的（还是它们的？）记忆将是什么样子？连遥远的记忆都会清晰无疑？而不再是似梦似幻想的人、声音、场景，以及那无名的渴望？不再是隐藏太久而朦胧了的秘密，以及那穿刺心灵的甜蜜？不再是掉入时间河流里的石头，被岁月磨成卵石，长出毛茸茸的青苔，坐落在淤泥砂石旁，在水波中恍恍惚惚，阳光里一个样子，月光里又是另一个样子……
他们拥有了包罗万象的知识和所向披靡的认知，还会有神秘的体验吗？还能遐想和惊异吗？还需要意义吗？人类文明的驱动力——不管是发展科技还是人文——都源于对意义的渴求，而并非对真理的渴求。AI完全不需要意义。
增强型AI的自主性加上人的天然惰性，会不会使这个新物种变成人工智能的寄生载体？就像那些被寄生蠕虫侵入了大脑神经的蟋蟀，跳到河里去自杀，从而让寄生蠕虫进入更有利于其繁殖的水环境。
人与新物种之间会发动战争吗？就像那些科幻小说和科幻电影里的那样？使用AI自主武器打仗将是什么样的情景？
每个美梦都能在镜中看到一个噩梦的深渊，就像我们仰望苍茫的夜空时，看到自己灵魂的深渊……
不管发生什么，结局是不是都一样？朝代来了又去，文明来了又去，人类也将来了又去，就像恐龙来了又去，星球来了又去，宇宙来了又去。这种宿命的感觉或许也导致了我对废墟的迷恋？古罗马的格斗场，秘鲁的马丘比丘，墨西哥的玛雅遗址…… 我们不仅能从断壁残垣看到昔日的辉煌，也能看到我们自己的未来，看到地球上每一个终将被自然或非自然吞噬的文明。婷婷九岁的时候我带她去了庞贝——公元79年被维苏威火山爆发埋没了的古城。记得她一动不动地望着玻璃展柜中被岩浆定了格的人，神情那么严肃。我问，你在想什么？她转头看我，如梦初醒。然后她做了个怪脸，笑着模仿起那些岩石的人体。也许她没有语言表达对生死懵懂的思绪？也许她从扭曲的肢体中看到人类永恒的痛苦和挣扎？
艺术家描绘的未来，往往是一派反乌托邦的衰变景象和某种怀旧的惆怅，而你总是说人类会因为科技的进步而越来越幸福。我欣赏你的乐观，以及你对自己领域的信念和期待，但是人怎么可能因为科技进步而变得越来越幸福呢？幸福与苦难从来是成正比的，就像光明与黑暗，科技能让阳光没有阴影吗？医学的发展可以减轻人肉体的疾痛和折磨，但是苦难本身是人类的生存境况（human condition）。
也正是痛苦的体验，让我们对他人的苦难有了温柔和同情。幸福的基石不是科技的进步，而是对苦难的忍耐、抗争和释怀。幸福与苦难怎么平衡？一边是几粒金色的麦穗，另一边是无际的苦海。然而，它们是平衡的，就像宇宙是平衡的一样。那几粒麦穗包含了每一片日出，每一片日落，每一份滋养你的美丽，每一个值得你的渴望。今天你在天平的这边，明天你也许在天平的那边，不需要太多理由。我们唯有珍惜。
今年以来，你参加了各种AI安全使用的峰会和论坛，并起草了AI对人类的具体威胁以及给管理者的建议。我觉得这些努力值得敬佩，跟你说：你在为人类做一件伟大的事情。半秒钟内你发来一个字：No——有点不容置疑，不像谦虚或客气。或许你惯常的乐观是一种心灵取向，而并不依赖于现状或对未来的评估。你很清楚，人的本性和未来都像洪流一般汹涌，而“自由意志”只是洪流中的一株浮草；驱使我们创造出惊人奇迹的动力，也必将导致自我毁灭。
写了这么多还觉得没写完，与其说我在给你写信，不如说我在企图用这个过程整理思路、寻找和认识自己。我们是在梦中呼喊的人，不知道折磨着我们的东西，是不是某种深层幸福的隐秘开端。
祝愿你在新的一年中健康美满！
陈冲
2023年12月
本文来自微信公众号：经济观察报 （ID：eeo-com-cn），作者：陈冲（著名电影导演、演员）