机器人也有“心”吗？——《ATRI》与《克拉拉与太阳》中关于人心的思考。

专栏版本：https://www.bilibili.com/read/cv23415107

我发现通过笔记的形式可以一边看视频一边回顾文案的内容，非常方便！于是我就把专栏里的内容摘过来了_(:з」∠)_

#1.《ATRI》使我想到的。

如果要用一段话概括《ATRI》的情节（happy end）的话，我会说这是一段跨越了久远的记忆的重逢。大水漫漶，何以为家？《ATRI》这部作品的氛围，让我想到北岛的“玻璃晴朗，橘子辉煌”，却呈现一种清澈的哀伤，像是一则由童话的一个并不美好的结局为开端，续写下去的篇章。在这样一段“世界的尾声”中，主人公夏生在机器人少女的扶持下走出阴霾，选择走向一条自我拯救的道路。

很多时候，我们从身边的人的鼓励中获得力量，又或者是从一本书、一部电影，或者是某个游戏的故事中被触动或是治愈，在其中积累某种信念，并藉由这种信念来迎接生活。但是，我们从中汲取的勇气或是希望也好，它最终还是根源于作者，也就是，“人”的情感表达。人的内心只能由人来拯救吗？《ATRI》这部作品展现了另外一种可能性。它给出的答案是，我们同样可以从真正的“人”之外获得某种情感上的支持，而这种情感似乎从来只有当我们与真正的人进行交流的时候才得以被触发。

推完这部作品之后，每当我被一阵从海边吹来的风、礁石，或是海浪的声音唤起与亚托莉的回忆的时候，我发现当我在思考亚托莉的时候，我也在思考着自己。曾几何时这部作品给我带来了很多的感动，但我似乎又有些分不清这种感动是源自我对夏生和亚托莉的这段故事的第三人称的观望，还是当我代入这段故事的时候，亚托莉这个角色本身带给我的触动。

其实现在想想，对我来说，这种感动更多来自于后者。这似乎印证了我们刚才提到的观点，那就是我们可以从人之外来满足自身的一部分情感需要。

想到这里的时候，我有些轻飘飘的，感到人的价值的一部分被否定了，这样的渺小的有些无力的感觉。当然，这并不影响我对亚托莉本身的喜爱（笑），只是我的思绪有时候就像一藤牵牛花，从一根杆子上蔓延到别处去了。好在故事本身从来不曾改变它的纯洁性。

随着这条藤蔓的四处攀缘，我开始叩问起自己，试图从中找出“我”所独有的，无可替代的东西。这样的东西，叫作“人心”吗？

再后来，我读到了石黑一雄的《克拉拉与太阳》这本书，这段阅读经历使我对于这样的问题有了更深的思考。

#2.触碰不到的“心”

我是在大概一个月之前读的这本书。接触到这本书的原因，是因为我在其他地方读到了这本书中的一则文摘。里面有这样一段话：

我问你，你相信有“人心”这回事吗？我不仅仅指那个器官，当然喽，我说的是这个词的文学意义。人心，你相信有这样东西吗？某种让我们成为某个独特个体的东西？

就是这样一段话，它让我相信这本书里有我想要知道的答案。我们还是先从故事本身讲起吧。

《克拉拉与太阳》的作者石黑一雄在一段给中国读者的问候（BV1zp4y187D8）中这样介绍他的作品：克拉拉是一个人工智能机器人小女孩，人类制造它是为了帮助青少年排遣孤独。故事讲述了她如何拯救她所在的人类家庭，让他们免于心碎，以及她如何恳求太阳，就是天上的太阳，帮助她实现愿望。克拉拉发现，人类世界有时候遍布着恐惧与黑暗，但她依然用孩童般的眼光看待这个世界，她面对善意，满怀希望与信任。她会问一些问题，比如“人类为什么会感到孤单？”以及，“人们所说的‘爱’是什么意思？”

这部故事是从我们的克拉拉，这位机器人女孩的第一人称视角展开来写的，因而这部故事，也可以看作是她的一场学习，并逐渐了解人心的过程。

你们认为人心可以被触及吗？如果要给这里的“人心”下一个定义的话，它指的是一种可以感知到自己的存在的，具备这样一种意识与思考的能力的人的本身。我常常想象着能够进入到身边的某个人的意识里去，通过这样的“通达人心”的能力，他所想的成为我所想的，他坚信的成为我真正坚信的，他的过去就是我的过去，我们感知着同样的当下，也经由他的视角忧虑于他的未来。

我一直认为只有通过这种方式才能真正了解一个人的内心，并只有在这样的基础上，才能去理解“人心”本身。为什么呢，因为人心太隐蔽了。我们常常通过一个人的表现来猜测他的想法，进一步是借助仪器来测量某些数值，但这些途径和拿着听诊器去诊断一个黑箱，在某种程度上并没有太大的差别。而我所幻想的那种通达人心的能力，在现在看来也是遥遥无期。那我们如何相信人工智能会具有理解和通达人心的能力呢？

对于这样一个近乎存在主义的问题，《克拉拉与太阳》这本书里的不同的人物展现出了不同的立场，我们先从一个叫作保罗的人物说起吧，他是这部小说的主人公的父亲，而机器人克拉拉后来也成为了他的家庭的一员。还记得我们刚刚提到的这本书中的那段话吗，关于是否有“人心“这样的一个东西，来使我们成为独特的个体。这个问题就是保罗向克拉拉提出来的。克拉拉对此的回答是，尽管人心就像一座有着许多房间的房子，但只要有时间，她就可以走遍人心中的每一个房间，直到它们就像是她自己的家一样。

但保罗又说，“要是你走进一个房间，发现里面还有一个房间呢，而在那个房间里面，还有一个房间，房间套着房间套着房间，这不就是你要面对的情形吗。”这个回答指向的是人心的复杂性。

这让我想到了前些年的AlphaGo和围棋这回事，既然围棋的走法远高于宇宙中的原子数目，这样的数据量是当下的算力所无法企及的，这就意味着人工智能几乎不可能完全掌握围棋本身。那当然，我们会认为人心，或者仅仅对于人脑而言，要比围棋复杂得多是吧。这样我们似乎就可以认为人心是一种几乎不可能被参透的东西了。虽然我们不能低估科技的发展速度，但我们也同样不能轻视了人心的复杂程度。

当然，我们并不应该认为人心的不可参透性视为一种定论，而应该把它视为一种观望，因此，这并不妨碍我们依然可以选择相信人工智能终将走遍“人心”这座房子里的所有房间。

故事里有另一个人物，卡帕尔迪，就选择了这样的观点，他在故事里主持着一个出于善意的计划，来延续一个人的生命。他先是通过某种技术复刻出这个人的外形，可以认为是一种皮套，然后把它披在人工智能机器人身上，这样，当机器人学会模仿这个人的一言一行的时候。这个机器人本身就与它所替代的那个人，在表现上实现了完全的一致。于是在某种特定的意义上，一个人的生命在他人的眼中就得到了延续。

卡帕尔迪自称理性的信徒，相信每个人的内核深处并没有什么独一无二，不可转移的东西。在他看来，人心终将被科学和数学完全分析。

如果是这样的话，披上了皮套的机器人就不再只是表现出来像某个人那样简单，而是从“内心”到外表的完全相同。但是我们就因此可以认为机器人成为了这个人本身吗？

我们可以经由另一个问题来理解这个问题：如果这世界上凭空多出了另一个你，而且在物理层面上和你完全相同，你会认为凭空多出来的这个“你”是你吗？显然不是吧，因为从你的第一人称视角看去，凭空多出来的这个“你”实际上是一个彻彻底底的“他者”。

类比一下的话，我们应当认为戴上了皮套，参透了人心的机器人仍然不能成为人本身。

那在这两个情境中，是什么把你和另一个“你”，把人和完全模仿了人的机器人区分开来呢？

对于后一个情境，这本书给出了一个绝妙的回答。

这个回答出现在整本书的尾声部分，在久远的某一天，克拉拉在一段谈话中谈到了卡尔帕迪的这个计划，她认为即使机器人完全成为了某个人的延续，但有一样东西是它始终无法触及的，那就是这个人，在其他人心中的位置。

这样看来，答案不在任何一个单独的个体之中，而是在那一个人的“身边的人”之中。区别了人和机器人的，是我们赋予他们的价值。而我们作为“人”，这样的“人”的身份，就是一种无可替代的价值。人工智能机器人始终无法僭越的就是他们的身份，这种身份应当是某种与生俱来且无法改变的属性。这样，对于“人”的不可替代性，我们又找到了一个答案。

#3.相互靠近的“心”

这期视频的内容，就将要进入尾声了。首先谢谢大家能听到这里。创作这期视频的原因，是我很想为《ATRI》这部作品写些什么，但是要写些什么呢，一开始还没有太多的想法，但后来读到了一些资料，也遇到了《克拉拉与太阳》这本书，于是就想：不妨围绕“人心”这个话题来写些什么吧。于是就踏上了这样的旅程。这期视频里，我们从一颗无法触及的人心开始，进入到石黑一雄的《克拉拉与太阳》这本书中，探讨“科技能否完全实现人心“这个问题。后来呢，我们发现这在某种意义上是一个存在主义的问题。人之所以具有价值，是因为我们赋予了人以特殊的价值，是这样吗？

这使我不由得又想起《ATRI》了。我们是在什么时候完全认为亚托莉就如同一位可爱的人类少女，又是在什么时候意识到她的本质，实际上还是机器人呢？如果亚托莉不曾表现出远离人性的一面，我们是否可以认为她和人类之间，并没有十分重要的区别。是的，尽管亚托莉和真正的人类少女有着本质上的区别，但我们或许可以认为这样的区别无伤大雅。这句话可能听起来有些奇怪，但是故事里的主人公夏生和他身边的人们，像珍视彼此一样珍视亚托莉的时候，亚托莉在她身边的人的心中，就已经和真正的人一样，具有了同等高度的价值。再或者，夏生珍视亚托莉，并不在乎她是否具有人心这件事，而夏生在乎的，就是亚托莉本身，这样的独一无二的存在。

还好夏生还有亚托莉啊，我常常想。

在夏生和亚托莉的这段跨越了久远的记忆的重逢中，有这样一个片段让我印象深刻。

那是第一次登上伊甸的时候，夏生和亚托莉坐在静谧的银河之下，谈到人类的何去何从，当下和未来的价值。夏生认为人类文明终将被海水淹没，而亚托莉坚信，人类的未来依然有希望，在细微的夹缝间，仍有一丝光亮。

这个时候的亚托莉，可以真正理解到这整个世界对于夏生的意义吗？

我觉得吧，毕竟很多时候在人与人之间也只能产生最低限度的共情啊，人与人之间有时成为孤岛，更何况人和机器人呢。很多时候，理解或是被理解，本身就是一种奢望。无论是我们试着让机器人了解人心，或是让身边的人理解自己，都不能做到尽善尽美。但正因如此，我们才更加需要交流，来让他人更加地理解自己，也让自己更加地理解他人，不是吗？面对夏生的厌世情绪，亚托莉并没有选择顺从和安慰，而是告诉他，未来把握在人类自己的手中。这就是一种交流，也正是因此，夏生最终从往日的阴霾中走了出来，去拯救地球和人类，去实现亚托莉所希望看到的未来。

事实上，面对这颗触碰不到的“心”的，不只有亚托莉，也不只有克拉拉。其实还有正在观看这个视频的我们啊。但尽管如此，我们依然可以去接近每一个人的“心”，去理解他，去相信他，也怀着这样的心态，去拥抱身边的每一个人，不是吗？或许永远没有两颗心可以重合，但永远有两颗心可以相互接近，这样的理解与被理解，就是我们一直追求的。

谢谢你能听到这里。