人类面对AI时的情感,跟面对猫有什么不同(下) | 科幻小说
B3
白色墙壁,和实验室的很像。这里是医院,气氛和实验室一样严肃。
老师与他来到医院,看新生儿的诞生。
“上次谈到死,这次我们看看生。”老师说。
老师和妇产科的医生是好友,自己也是这家医院脑科学与神经科学研究所的荣誉教授。医生给了他们俩护士的服装,让他们跟着自己进了产房。
这个产妇孕前检查没有什么问题,应该可以顺产,没有太大危险。生产过程比较长,有时候他和老师会出去,借取器械的由头。他们看到产妇的父母、丈夫、公公婆婆,都坐在走廊上,有时说着话,有时沉默地望着产房的门。虽然知道危险系数不大,但家属还是很紧张、焦急。
但他不是很急。他习惯于等待,对他来说,做这件事和那件事没什么不同,等待也只是一件事。
他们的等待接近尾声,小孩的头冒出来了。随后是上半身,再然后是腿,最后,新生儿整个滑出母亲体内,只剩脐带还血淋淋地连着里面。
护士利落地处理完。他们听到响亮的啼哭。他忽然想到那天被告的哭喊。
一些护士围着小孩,一些围着妈妈。小孩很快被送到了母亲手里,母亲把他抱在怀里,抚摸着他的背,摇晃起来。没有人教,母亲好像天生就知道怎么做。她看着孩子,露出微笑。
那是幸福。他辨识出。
家属也进来了。新生儿在爸爸、奶奶、外婆、外公、爷爷的手里传了一遍,每个人都露出那样幸福的笑。
他试着笑起来。
“这是新生命的诞生。”老师说。
他点头。
这很神奇。这样的生命与他完全不同。这生命一出来这么小,随后却会长得和每个人一样大。而他一直是这副样子,没有更小的时候,他会因为老化而变老,但是比人类慢得多。新生儿全部是由血肉组成的,正是那些血肉,它们会生长。
他在这不同中强化了“我”的概念。
“小孩的父母,还有其他亲人现在的表现,是什么,是因为什么?”老师问。
他刚才已经思考了。
“是快乐、喜悦、兴奋、满足,总和起来是幸福……还有一点希望和期盼。”他又更仔细地观察了一下。
“没错,这是他们现在的情绪。那么为什么?”
他思考起来:“因为他们获得了一个成果。他们经过努力,得到了一个可见的、实物的成果。这个成果承载了他们的努力并以实体呈现在他们面前,他们觉得得到了回报。由此得到了满足感。”
“回报?”老师微笑,“不尽然。”
他一顿,开始扩展新的思路。如果不觉得这是回报,那是什么?
“而且,也不一定是使劲付出努力得到的成果。要知道有些是意外怀孕。他们只是接受了它。”
他点头。他想到有这种情况。
那么是为什么?不是成果、回报,那么他们得到了满足感吗?如果得到了,是从哪里来的?如果没有,他们为什么快乐?
“父母爱他们的孩子。”老师说,“这是因为,孩子是他们的一部分。是从他们身上分出来的。”
是的,是的!他已同时想到了那条公理:人类优先考虑自己,以及与自己有重要联结的事物。
新生儿和父母。这是很重要的联结了。
“孩子是父母的一部分,是从父母身上分出来的。所以他是与父母有重要联结的东西。父母爱他,某种程度上也是爱自己。可以看作人类自私的分支。”他说。
老师点点头,却没有继续引导他。
因为老师此时也还对这件事的解释抱有疑惑。他的老师正在想,将个体之间的爱解释作自私的分支,可以,这当然是一种解释,以建立起他的学生的情感逻辑框架——对于原本“无情感”的AI来说,理解人类大爱反而不难,他们只需要将每个个体视作同一且有价值就好了。但将个体间的爱纳入逻辑框架却是要训练的事。
而个体间的爱,它是否真的这么简单就说不准了,老师想,例如,从荷尔蒙吸引到持续陪伴终生的爱。
忽然地,一个点引起了他的好奇。
“那么你可以算我的父母吗?”他问。
老师一愣。
“是的。”老师点头,一边点头一边思索,“从生产关系上可以算。但你并不是那么真实的……我的一部分。”
老师想到,一定要还原的话,最初最初,他的学生倒确实是他的一部分。
老师笑了:“可以算。”
他摸了摸心口,又把手放在后脑,过了一会儿说:“但我并没有感受到什么。”
老师失笑:“我这时候似乎应该悲伤。”
“我应该重视自己。”他继续说,“优先考虑自己……由此也考虑你。是的,我会把你放在优先级的前列。”
老师点头,看上去有点无奈,但笑意又深了一些。
“没感受到,是因为你对这些的认知还是分析得来的。会比较慢。你还在学习。”
A4
AI平权游行那天,我载俞澄回家后,和他一起在他家吃了午饭。橙黄色的餐厅窗帘拉了一半,使得初冬中午的光线稍显黯淡,但是有暖意。俞澄家的餐厅外面是一小片绿地,冬天,灌木是一片沉绿,再过去是一列白墙,光线照在上面,显出斑驳的质感。
我又问了他为什么会参加AI平权游行,这么做的话,似乎和Island公司员工的身份相违背。
“AI也和人类一样有感觉和感情。歧视他们是不合理的。”俞澄说。
“有感觉我同意,但是感情?”我质疑道,“你也是研发部的,应该知道人工智能的思维逻辑架构是怎么一回事。那毕竟是人工智能。”
“我明白你的意思。”俞澄笑,“你是说情感不能被人工制造,它不属于可制造的范畴。”
“是的。”
“但我觉得不一定。如果你不去考虑它的本质,只考虑表现的话,情感也许是可以被人工制造的——通过一定的逻辑,获得一个输入输出的框架。”
“但那只是接受输入、经过运算、产生输出,然后产生感觉反馈到人造神经中枢的过程。本质上来说还是感觉而不是情感。”
“好吧。那么情感还是什么呢?”俞澄问。
我愣了一下。
“我不知道。但是至少,有的情感导致危险。”我说。“比如今天。人们这么做是因为对AI怀有感情,于是相应地对Island产生愤怒、不满……甚至不理智的恨意。”我说着,出现在脑中的是俞澄受的伤。
我发现我没有接着上面的讨论,我转换了话题。因为记着这件事。
俞澄挑眉:“不理智的恨意?”
是的,对于我来说。
我耸肩:“考虑到人类的情感机制,对于人类个体,或许是一种理智。”
俞澄弯起眼睛好像笑了:“你真像个Island的研发人员啊。”
“我本来就是?”
俞澄又笑:“我知道。我是说……”
“我是说,听起来就好像他们一本正经的员工一样。”俞澄夹了一口菜。
我也去夹菜。我有些不确定。他在讽刺我吗?可看起来又不太像。他没有敌意。
我感到不安。因为我在意他对我的评价。因为我是在装作一个人类啊,因为我不希望他看出来。否则我不就失败了。
有一阵沉默。“还在想吗?”俞澄开口,语调轻松,我察觉他要谈别的事了。
“你觉得我有些冷漠吗?”我抢在他之前说。
即使是情感型AI,我的情感也太少了。主要是因为它们都被逻辑化了——为了学习,我不是还在记报告吗。我想到,如果真的要制造合适的情感型AI,应该让他自己不知道自己是AI才行。但那又有伦理问题。很麻烦。
“没有啊。”俞澄立刻否认,“你很……真诚。所以很好相处。”他点点头。
也许没有他想的那么真诚。
如果告诉他我是AI呢?他会怎么反应,惊讶、诧异?或者拿我作例子告诉我,AI是有情感的,因为我们是朋友?
好奇心使我蠢蠢欲动。好吧,现在我得到了我刚遇见他时产生的问题的答案。俞澄会对无情感的客体,例如,我,产生情感投射吗?会的。而且不只是我,是众多无情感的AI们。
想到这里我的大脑有些不适,很奇怪,就像在顺畅的脑内通路中插入了一片薄薄的云母,由此思考通路稍稍被堵了一下,还有点硌。
“AI和人类在你看来有什么区别?”我问他。
他想了想:“生命形式不同吧。”
那么,在其他方面,AI和人类在他看来是一样的。我也就没有必要告诉他我是个AI。我不做没有必要的事。
那次游行之后,我的人类观察报告进展缓慢。因为我不时感觉到脑内的云母,它阻碍了我顺畅的逻辑通路。而且,俞澄认为AI和人类在生命形式之外没有区别,这是否意味着我应该也观察一下AI?或者我更应该考察一下俞澄为什么有这种想法?
不管怎样,我很久没写报告了。
年末的时候我和俞澄去参加了一个同事的葬礼。死者之前连续加班了很久,在周末晚上因为蛛网膜下腔出血猝死在公司的茶水间,死亡半小时后才被下一个来茶水间的同事发现。
因为年末,Island公司想赶在新年之前上市新款高级情感型AI,大家都经常加班。市场调研部认为,新款AI在应对春节亲戚朋友的个人问题关怀上会很有市场。
“也许你是对的。人们要求着AI平权,也是在为自己。”我说。
俞澄点点头。他看上去很悲伤。
或许与天气有关。冬日的天色晦暗,即使是白天,阳光也并不热烈。今天是个阴天,空中积起了一些灰云,把天空往下压了一点。
冷风拂过我的围巾,在下颌上擦过。
我们都低着头,我眼角偷偷瞥着周边的人,看到俞澄微微皱眉,嘴唇抿起。
他是个共情能力很强的人。葬礼上并非所有人都很悲伤,但共情的人还是大多数,毕竟死者与他们有相似的职业和经历,面对相似的人,就更容易共情。
有意思的是,有的人一开始没什么感觉,但随着葬礼的进行,受到氛围的感染,他们也变得悲伤起来。悲伤与同情之心就像一场瘟疫。
2119年12月18日。我试图记录观察报告,但却没记。悲伤、同情、共情,同情与共情的区分……今天可以记录的是这些,但我不知为什么觉得很没意思。
我轻轻叹了口气。
俞澄听到了,抬起头,安慰似的看了我一眼。
“……”
我怔了一下,心道,不,和你想的并不一样。
但很奇怪,收到他一眼安慰之后,我似乎觉得舒适了一些。即使不是因为一件事情……也还是有安慰效果吗?这是否说明了情感的动机在某些时候不重要,而结果才比较重要?
这也可以记在报告里。回去考虑写报告。
或许因为冬季的总体气氛压抑沉重,节日才显得格外热闹温暖。圣诞节很快要到了,悲伤的事也逐渐被新的欢乐抹平。
圣诞节当天Island公司会放半天假。圣诞节有很多人出街玩,这是我观察的好时机。葬礼后,我的观察报告又被搁置了一阵,一方面由于很多现象之前已经记录过了,一方面由于我对此的兴趣不比以前。葬礼那天的观察我回去还是补了上去。我似乎越来越喜欢在事情结束后再写报告,而不是当场就记。可能是那次游行让我意识到,在事件发生当下有必要一直集中注意力。
不知到什么时候,我的人类观察报告才可以完善到不用再记了。人类与人类,人类与动物,人类与植物,人类与无生命物品,人类与AI,再细分,亲人、恋人、同伴……这些我基本都记录过了。但我有种奇怪的直觉,即使不断补充观察报告,我还是没有补充到重要的点。
那很可能是研究的核心问题,但我还没发现。令人沮丧的是,我竟然还感觉——即使我继续观察,也不会发现。
科研人员在黎明前夕都会有这种无望感。我依照人类经验,如此告诉自己。
况且我不是还有一个更明确的问题没有解决吗?俞澄厨房里的毒药是用来干什么的?我和他的关系已经很近了,每隔一两天都会见到,一起遛狗或者运动,或者吃饭,我了解了他从小在本市长大,父母都是工程师,他在本市的大学读了计算机专业,毕业后就进入了Island公司。他的家庭和睦,朋友不多不少,他喜欢各种运动,喜欢看电影和郊外远足,喜欢小动物。我没有发现他的人生中有任何人称得上是仇人。他也没有会寄存毒药在他这里的朋友。
难道真的只是用来毒老鼠的?
俞澄在圣诞节前一天问我圣诞节要不要一起吃晚饭。我欣然同意。
他又说,吃完晚饭如果没事的话还可以去灵山公园看圣诞的灯光秀。
我说我没事。
圣诞当天的灯光秀人应该会很多,看完回去会有点麻烦,不过这也不要紧。
我们约在了饭店见面,是一家火锅店,冬天吃火锅,是人类非常喜欢的活动之一。我早到了一阵,坐在窗边,继续观察饭店里和街上的人。现在的观察基本是在报告框架里填充案例补充,所以比较轻松。街上人果然比平时多了好多,而且少有落单的。街上还有卖花、圣诞帽和圣诞果的,有的小贩穿成了圣诞老人的样子,很吸引小孩,小贩露出大大的笑容,孩子也跟着笑起来。
我早到得还挺久,天色逐渐由玫红变为灰紫,再变为暗蓝,最终彻底黑下来。火锅店里的人也多起来,很多锅开始冒热腾腾的蒸汽。
我感觉到有人往这边走,抬头看见俞澄一边取围巾,一边急匆匆地走来。他准确地避过了蒸汽,身影很清晰。他看到我,眼睛就弯起来,笑容没有小贩那么大,但我也理解了为什么刚才的小孩看到笑容时,也会跟着笑起来。
他靠着窗,拉开椅子。我余光瞥到窗户,在窗户的影子上看到自己在笑。
好奇怪,我好像忽然找到了之前的——核心问题。
我感觉报告里那个重要的部分被补充了。但也,不太像是作为观察报告的补充。是观察报告的框架被填补了吗?更像是我自己的思维,或者……心?被填满了。这是说,它达到了满足,不再需要,也不能有其他东西进来。
人类经验真有用啊。黎明真的到来了。
俞澄在对面坐下,一边说:“你来得好早,什么时候来的?”
“刚来不久。”我说,“我点了一些,你看看你想吃什么?”
俞澄接过菜单和铅笔。
我们点完菜,锅底先被端上来了。要了鸳鸯锅,一半麻辣一半清汤,开始加热,汤面一点一点冒出微小的气泡和丝丝缕缕的蒸汽。
我从锅上抬起视线,看到俞澄在看我。
他掏出一只包装在纸盒里的苹果给我。
“圣诞快乐。”他说。
“啊,谢谢。圣诞快乐。”
俞澄看了看窗外,手指交握。
“昨天晚上才问你,因为担心你会和家人朋友……或者女朋友一起。”他说。
我愣了一下:“不,我没有。”
他笑起来:“是吗……我猜对了。你好像是一个人住。”
我想到我还没有邀请过俞澄去我家。或许,什么时候,可以邀请一下他。
我发现自己无意识地戳着苹果盒子顶上,剪成圣诞树样的纸。里面的苹果看上去很诱人。我没有给他准备苹果,甚至没有礼物,对比起来显得有点没礼貌。
也许灯光秀结束之后就可以邀请他去我家。但那样时间太晚了。可他就住对面,邻居真是方便。不过我家也没有苹果。有什么可以作为礼物的吗?也许可以请他喝点酒。我的客厅现在还挺空旷,或许应该添置一个吧台。我想着,在脑内打开了购物网页。
“你在想什么呢?”俞澄捞起了一勺肉,放到我盘子里。
“嗯?”我立刻回神,“哦,我在想吧台的事情。”
“?”
俞澄神情很困惑。
紧接着他望向火锅店里的吧台:“你想要点水果吗?”
“嗯?哦,好。”
他起身去拿了。我一边帮我们把煮好的东西捞出来,一边在网上订了一个吧台。
吃过饭我们去灵山公园。要到视野好的地方,就得爬高一点,我们走到了山腰,灯光秀也快开始了。
俞澄找到一个栏杆边的位置,向我招手。站过去可以看到对面一幢幢高楼,此时它们全身暗着,有的地方有小小的光点,是窗户里的光。Island总部大厦在楼群中最高,也最明亮,仿佛楼群的领军者。
灯光秀最先从Island大厦开始,一开场就是圣诞主题,音乐很欢快,红绿配色在底部,楼身上长出一颗颗结着礼物的圣诞树,而高楼顶部,有星星不断降落。
周围人声吵吵闹闹,使环境体感温度升高。俞澄拿出手机拍摄,过了一会儿转头:“要拍照吗?”
“好啊。”
我们在前置摄像头下露出笑容。刚才在火锅店,我看到了窗户里自己扬起的嘴角。我确实是看到之后才感觉到的。而俞澄,他总是笑,温柔而可亲。
现在两张笑脸我第一次看到它们并排在一起。其实也挺和谐的,而且很让人开心,是那种让一直在转的脑子忽然停了一下的开心。
它停下来,就放弃再转了。
有什么填满了我的思维,和在火锅店一样。这些感觉应该在大脑里,但我在心脏里感觉到了。它现在不只是满足,甚至微微发胀,所以里面一定有很多东西。
我知道在人类身上,这与某些激素有关,多巴胺、肾上腺素,等等。漂浮、柔软、欲望、快乐,竟然还有一点点苦涩。
这感觉很好。我被感觉淹没,以至于忘了观察人类。
“圣诞快乐。”我忍不住对俞澄说。
“嗯。圣诞快乐。”俞澄弯起眼睛看我。他这样可真像望着那些流浪猫的时候。我第一次见他就是这样。但又不完全一样,怎么不一样,我说不上来。
俞澄增加了我的未解之谜,却不是我迫切想要解决的那种。
我们转回身时楼身都变得金灿灿的了。是刚才落下的星星落满了圣诞树,人类在天与地之间接起许多垂直的星河。
我没有做过梦,但想来如果有,可能与人类相差无几。
灯光秀结束之后,人群渐渐散去,我和俞澄离出口远,就在原地等其他人先走。空气变得疏朗,即使没有灯光秀的光,夜空原来也是明朗的。我从刚才淹没的感受中冒出一点,想要寻回逻辑的线头。
我应该不懂就问。
我只是需要好好组织语言。
“你知道,AI或者人类有时候会感到满足。这就是说,感觉到被满足了,甚至有时会有心脏发胀的感觉。”我说。俞澄望向我,神色放松而愉悦。我很快继续说:“AI也会。你是搞研发的,知道这一点。这很莫名其妙,对吧,所以,那么是因为什么?”
不,我根本没有组织好语言。
但是俞澄笑了,趴在栏杆上望着我,好像知道我在说什么似的。“是啊。”他说。
“嗯?”
“我知道那是什么。”他望着山下说。
一个仿佛为了自证的陈述句。
B4
他与老师去了南安大学,老师要和这里的神经科学与人工智能学院的老师谈论研发合作的问题。
老师和教授谈的时候他在旁边,他们谈到研发技术的时候他也会给出建议。他看到教授频频点头。南安大学的这间办公室要比他住的实验室更大、更敞亮,占满了一面墙壁的书柜中摆满了书,窗外是大片茵茵草地。他不需要书,只需要一枚小小的芯片。他的居所很简单,窗外是一条窄窄的马路,对面是一列白墙。
最后他们谈完了正事,又闲聊了一会儿。教授问:“这位是?不是南安的学生吧,我好像没印象。”
南安大学是全国最好的大学,综合排名是,神经科学与人工智能这门专业也是。
“不。是Island的……成果。”
教授眉毛高高挑起,往前坐了一点,一双眼睛透过镜片盯住他。他礼貌地笑了笑。
Island的产品。他想。从他(的心智)长到十岁左右时,老师就不再这么称呼他了。
“也是我的学生。”老师说。
“不错。”教授坐回去,点点头,十指的指尖对在一起,过了一会儿说,“你要把你的学生培养成什么样?”
“让他成为人类。”
教授的眉毛又挑起来了。他的手指在扶手上有节奏地扣着,最后说:“怎么成为?”
“这有点复杂,短时间也许解释不清。”
他们从办公室出来是傍晚,又一起在食堂吃了饭。食堂学生居多,他看着这些人,心想,当大学的学生,和当老师的学生真是非常不同。这些人有同学,可以一起交流,而且他们的办公室和教室窗外是草地,而他的是一列白墙。
教授回去后,老师与他在校园里散步。他们来到湖边,这片湖斜对着落日,边上有五六把长椅,几乎每一把都坐了一对情侣。
老师停下脚步。
“这是新生儿的源头。”老师说。
“是的。”但同时他知道,在这些情侣中,有机会出现一个新生儿的概率大约是20%。
“源头是什么?”老师问。
“激素。”他说。
“没错。然后他们选择结婚。”
“社会规范与动物繁衍本能相结合的产物,一类社会所设定的繁衍的规范——结婚。”
老师点头。他们开始绕着湖边继续散步。“那么,在孩子出生后,夫妻为什么还选择继续生活?”
“为了确保后代更好地长大,在所生存的环境里取得更多资源,占据有利地位。如果夫妻分开,他们给予小孩的资源就没有合起来那么大。是1+1>2的效应,具体分析,是与一些无形资源,比如家庭氛围有关。当然,还有很大一部分原因是社会规范。夫妻有了孩子后继续一起生活是符合社会常理的。”
他与老师的对话越来越顺畅了。这意味着他的人类行为逻辑框架越来越完善。
“是的,是的。”老师点头。
过了一会儿,老师说:“那些不是因为繁衍和社会规范而选择一起生活的人呢?”
“那些?”
他在数据库里搜索,发现这样的人很少,但是有。
当然,这不是因为激素,因为那东西很快会消失。一年,两年,三年,四年,总之不可能是永久。
他看向老师,老师似乎在与他一起思索。
不是激素,不是繁衍本能,也不是社会规范……那么还剩下什么呢?抛却人的生理本能,再抛却社会的规训,生理和社会两大方面都被排除了,还剩什么,是可以归到根源上去的?不管它是什么,总归是有一个合理的、有意义的源头……
“因为以前的记忆……”他推理道,“激素消失了。但是对对方的认知和记忆还是在的。既然有共同生活的记忆,那么对方通过存在于记忆里,成为了‘我’的一部分,所以,也可以归到自私与优先级的公理上吧……”
记忆是很有用的经验。曾经他也被输入过各种各样的信号,并记下了它们带来的体验。他也体会过“爱”所带来的感觉。漂浮、柔软、欲望、快乐,还有一点点苦涩。但那些感觉无凭无依,没有附着的对象,他只能把这些感觉弥散地投射于外界,而不能聚焦在一个客体上。
而人类关于他人的记忆,就是感觉的聚焦吧。他原来给老师反馈他弥散的感受时,老师曾说,聚焦将是一件很有意义的事。
“存在于记忆里的人,就是一起生活的那个人么?”老师问。
“事实上会有所偏差。完全没有偏差是很难达到的。”他想了想,“而且,一个是现实中的人,一个是另外的主体构建出的人,还是有很大的不同。”
“然而,记忆还是让现实中的他者进入了‘我’之中?”
“是的。记忆是对现实之物的主观摘取。”他最终说,“如果抛掉生理和社会本能,只能采取这样的解释路径。”
“再没有别的路径了吗?”
他没有想到。沉默。
他看到老师此时的神情很微妙,他无法解读。
“像我刚开始告诉你的那样,‘我’的范围可以不断扩大。在这个例子中,也确实是这样。”老师沉吟了一会儿,感叹道。
“照这样说的话,我越扩大,是否负累就越多呢?”他提出了一个问题。
“你认为呢?”老师果然回问。
“我认为是的。我越扩大,负累和获得都越多。”
“……我认为,你越来越像一个人类了。”老师说。
这样,他的学生就有了关于情感的逻辑框架。片面而自洽。
他们离开湖边,走回树林中的小径。在小石桌旁他们看到有两个女孩在喂一群流浪猫。说是一群,也只有五六只。
他扫过一眼,每只流浪猫的毛色花色都被他记了下来。
与那些复杂的路径相比,人类对小动物的感情显得如此简单:幼崽、共情,乃至道德。
A5
这实在是个多事之秋,不,多事之冬。元旦假期过后,Island公司的副总住院了——是暗杀未遂,被抢救了过来。
消息对外封锁,但公司里的一部分人知道。副总似乎是上午中的毒,中午被送去抢救,下午消息就流传到了我们这里。
小道消息称,暗杀者可能是Island内部的人,副总的水杯被投了毒。如此就很好排查,因为能接近副总的人并不多。
“说是不多,其实也麻烦着呢。”老王一挥手,“就比如说吧,一起开会的时候,很多人都能接近水杯:秘书、下属、其他公司的人,再想想清洁工,还有家人……”
理论上讲,是这样。
我却止不住地想起我在俞澄家发现的毒药。还有他说他支持AI平权组织。他去参加游行。他在游行中受了伤。
他说AI拥有情感,并且和人类没什么不同。
他是对的。我站起来,终于彻底承认这句话。不是存疑也不是逻辑推导,是感受。平安夜或是其他时候,我有过的那些感受会消失,但也变得十分容易唤起。
身边的同事抬头看我。“去个厕所。”我说。
我开车一路飞驰回家,拿俞澄给我的钥匙直接开了他家门。
俞澄在家。竟然就在客厅抱着绒绒安然地坐着。他看见我时目光凝住了,绒绒从他膝盖上跑下来,颠颠地跑向我。
我绕过它,径直走向俞澄。
绒绒趴下来,发出低低的呜呜声。
“副总的事情——”
俞澄试图对我微笑,但似乎觉得有点单薄,就作罢了。
“是我啊。”他说。
我稍微有些愣。答案来得太简单,虽然知道接受就行了,但我没有做到。
我想是我的心已经被其他东西占据了。它不再那么容易接受任何事实。
但还有解决办法。如果我能……我当然可以……我走向他。把最高的优先级给他,我就能有解决办法。
“跟我走。现在逃还来得及。”我拽起他。
俞澄一怔:“我本来没打算——”
“你现在打算了。”
我拉他飞奔下楼。经过我的房门,下了两层楼梯,我想起吧台已经——在圣诞节其实就已经——安装好了。不过我还没邀请俞澄。他送我的苹果甚至还摆在吧台上。等他去我家的时候,我会把苹果收起来。
俞澄被我塞进车里时还有点回不过神。“我在郊区有实验室,你可以躲那里。”我说。我聚精会神开得飞快,他捡到空,犹犹豫豫地问我:“你这样算不算共犯啊……?”
“他们不会找到你。”
俞澄欲言又止。
我的AI助手黑进了警局的系统。警察正在排查,锁定了几个人,俞澄在此之列,嫌疑还很高。
他们在俞澄家没有找到他,会调查他的人际关系,查看他今天的行踪,会发现我们……但如果他们找到了,就不会了。
我开得飞快,城市的街景全部被抛在身后。
我在郊区的一栋房子前刹车。为了完成计划,我们需要加快速度。
我们下车,进了门,我打开房子的电源,角落里的AI苏醒过来,和我打招呼。
“你有任务了。”我对她说。
我在这里的AI助手与我相比,显得十分真实而简陋。她没有人类的仿真外表,脸与躯体都是金属的,金属音回答我道:“是的。”
“任务是照顾这个人。直到我给你指示。”我说着,在墙上的内嵌屏输入密码,打开了通往地下室的门。
往下走,温度降低,冬天这里很冷,因为只有我和AI助手,我没装供暖。
“可能会有些冷。”我转身对俞澄说。现在我们在地下的一个房间,四面墙壁全白,有一张棕色桌子、一个衣柜和一张床,是我在这里的卧室。对于人类来说,这个房间有些简陋了。
俞澄环顾四周,又望向我,依然担忧:“他们不会找到这里么?不会连累你……”
“不会的。”我扬起嘴角,露出笑容。
俞澄却没有像他往日那样,对我回以笑容。
“这里有充足的食物。萨利会带你了解这里。”
AI助手对俞澄友好地微笑。
“等等,你呢?”
“我不能和你在一起,否则不安全。”
我说着,上了楼梯往地面走了。俞澄似乎觉得有点不对,又说不上来是怎么回事,跟在了我后面。
“好吧,你可以送送我。”我说。
毕竟是最后一次。
我得快一点,在警察去俞澄家之前,在俞澄进一步思考这件事之前。
“那你,你就回去了?”
“不然他们会怀疑我。”
“我不说的话,不会有人知道这里。”我又向他保证。
我走到了门口,让他不要出现在门口。俞澄后退,到了门内的阴影中。
如果现在不说,俞澄将永远不会知道我是AI,其实他知不知道也没什么分别。
我已经走出了门,却回头问他:“我问你,人类和AI有什么区别?”
俞澄抬起眉心,有些茫然,张了张口,说:“……除了材料,没有吧。”
平安夜那时的感觉又涌了上来。我想要记住它,像记住逻辑和公理一样。它真的很好。
当我开车回去的时候,两个警察才刚刚出发,我会比他们先到俞澄家。我家里有置换指纹、虹膜,乃至面容的设备,当我待在俞澄家,他们不会知道他们逮捕了谁。
B5
最后,去掉复杂的推理通路,去掉这一切的机制。
在实验室,这个他“从小”到现在最熟悉的地方。
他感到了这一天的不同,又说不上来有什么不同。人类和AI还是有区别的,人类(的思维)有些时候,让他很难接近。老师为他戴上一个头盔,实验中他经常戴的。
“你会发现你忘记了一些事。不用担心,这是实验的一部分。”老师说。
他望着窗户。窗前依然有微黯的、温暖的橙色光线。
他不觉得担心。不过有点伤心。很奇怪,在他忘记对于情感逻辑框架的了解,以及其他一些记忆时,他感到伤心。
这是因为那些记忆是他过去的经历,是他的一部分,所以丢失就会——这是因为——因为——因为——
现在,他只是感到伤心。
尾声
“你会看到你是错的。”索飞说。
他已经出院了,这时正和Island的另一位副总经理坐在监控室,等待着手术的进行。
手术是针对那个暗杀他的“人”的。警察调查了在案件当天接近索飞的人,很快锁定了嫌疑人俞澄,在他家搜查出了毒药,并逮捕了他。秦天向警局申请,把凶手交由Island公司处理。这个私下的交易被同意了。
于是凶手被送进Island公司的实验室。人体实验对AI的研发有所助益,剖解真正的大脑所得到的东西,显然不是计算机模拟能比拟的。因此,Island公司与医院、警局、法院和监狱联系紧密。
秦天莫名其妙地看了索飞一眼:“什么错的?你死里逃生,倒有空来关心我是不是错的?”
索飞笑了:“不是死里逃生。”
“你不是认为AI无法成为人类吗?”索飞下巴点向屏幕,“你认为他是人类吗?”
秦天皱眉,站了起来,走到屏幕前。实验员们围绕着台上的躯体,俯拍的视角里,台子上的人全身赤裸,是一具匀称的年轻男性身体。屏幕两侧还显示了体征监控,一会儿的实验过程也会在这些监控上反映出来。
秦天仔细看着,转头望向索飞。
索飞也站起来,向他走来:“一个愚蠢的人类,因为同情AI的处境,所以帮助他们,到头来还要付出自己的生命,对么。”
秦天耸耸肩。实验台上这个人他记得,是Island公司的研发部员工,研究成果优秀,风评也很好,还接受过表彰。他其实没想到对方会是凶手。
索飞没再说话,与他一起注视屏幕。
手术刀切入人体,剖开了表皮。刀面与皮肤摩擦时,从监控里甚至能感觉到一点皮肤的弹性,在顶灯冷白的光下,皮肤有了一丝透明的观感。索飞甚至产生了一丝幻觉,他想,在灯光下,这具身体是否会显现出精妙的机械结构呢?
刀锋深入皮下,一寸、两寸、三寸。
索飞的脸色逐渐变了,他按下屏幕旁的按钮,对实验室中的人大喊:“立刻停止实验!立刻停止!”
手术刀一寸一寸深入皮肤,他看到了心脏。人类的,活跃着的,跳动的心脏。
实验员们望向实验室中的屏幕,多脸茫然。实验立即停止了。
秦天更加莫名其妙:“你是不是出院太早了?我觉得你的脑子还需要检查。”
“跟我过去。”索飞说着头也不回地走出监控室。
秦天顿了一下,跟在后面:“我现在预约医生过来吧?”
血液检测报告很快被送了过来,与人口数据库中的记录对比。实验台上这个人不是俞澄,虽然他有和俞澄一样的脸、指纹以及虹膜。
“陈心?”秦天浏览着此人的履历,“有意思……这是你的安排?”
“不是。”索飞脸色铁青。
秦天吹了声口哨。
“南安大学?诶,他和你的学校一样。专业也一样?嗯?你们不会是同学吧?”
“他是我的师弟。”索飞说。
秦天又吹了声口哨。
“那么这是?”秦天摊手,“还用给你请医生吗?”
索飞白了他一眼:“本来应该在这里的俞澄,是AI。我看着他长大的。至于陈心……他很优秀,不出意外的话,他原本可能成为南安的年轻教授。”
“什么意外?”
“几年前的AI运行轻轨事故。他母亲在那场事故里去世了。他父亲很小的时候就离开家了,他一直和母亲生活。”
“哦……”
“那次事故后我就没见过他。本来我想过把他拉来Island。他是想留校来着,但Island条件又很优厚,他还在犹豫。后来,我就联系不上他了。”
“这么说我们损失了一个人才。”秦天摸了摸下巴。
“我的猜测是,他对自己做了一个实验……恰巧和我的实验相反。我们那时已经知道如何去除人类的情感反应,只要对大脑做一点小操作。”索飞停了片刻,接着说,“我不知道他为什么躺在这里,不过他很快就要醒来了。”
两人望向病床。陈心已经从实验室被转移了出来。
在等待的沉默里,索飞再次开口:“他原来经常和我讨论AI研发的各种问题。”
“我不懂。我是个商业人员。”
“其中有一个,是AI和人类的区别。他认为AI就是没有情感的人类。说实话,我这个实验的想法也是在他这个观点下产生的。”
索飞回忆起那天下午的实验室。南安大学的实验室宽阔、明朗、光线充足,各种大小的屏幕一闪一闪,他和陈心各坐一把转椅,陈心向他阐述自己的理论。如果摒弃了情感,只剩下对于一切的分析处理框架以及庞大的数据库,那么人类就和AI无异,暂且不讨论繁殖问题的话。
“所以我反过来想,那么人类就是得到了情感的AI吗?让AI得到情感,其实是可以的——你只需要给他们建立一套刺激-反应的框架。问题在于,这样建立起来的情感和人类的有什么不同……”
“俞澄是我的实验结果。我建立了他的情感框架,再让他忘记那个框架的运行逻辑,以及自己AI的身份。他认为自己是人类。”
秦天瞪大了眼睛望向他,过了一会儿问:“所以,他和人类有什么不同吗?”
“我不知道。”
“那么等他醒来,我们还有一个问题。你的小AI去哪了。”
A∞
我醒来之后,索飞告诉了我前因后果。我在他那里顺便把打包密封起来的记忆解封,也换回了原来的脸。
这些事花了我一天半时间。从索飞的实验室出来,我去找了俞澄。我的AI助手把他照顾得很好。我告诉了他我用伪造的容貌、指纹和虹膜骗过了Island公司让他们以为我是他。他一开始很生气,随后又很紧张,最后喃喃说幸好没事,怎么会没事?
我说Island公司的人本来想用我——也就是他——当实验品,研究人类大脑关于情感部分的运行,结果发现我的大脑不适合这类研究。它似乎缺失了情感部分。
“怎么可能?”俞澄疑惑地看着我,“真的么?你……缺失了那部分吗?”
我耸耸肩:“我原本以为是的。但是逐渐发现也不完全是。可能只是发展得比较慢?”
Island公司的副总没有追究俞澄的责任,据说是因为公司的高层意识到自己对AI们的定位有些微可探讨的空间,决定好好考虑一下这件事。他们采取友善的姿态与AI平权组织对话。
之后不久的一天我和俞澄坐在Island总部的天台上。Island总部大厦有103层,是全市最高的建筑,在这里可以把城市尽收眼底。高楼、绿地、河流、飞鸟、人类、AI,都是它的一部分。
午餐时间,我们在这里休息。
我们聊到他之前的暗杀行动,我说,Island的副总现在估计就在我们脚下。俞澄笑,又说他会继续坚持自己的立场。听起来就像他会继续喂养流浪猫。天台上风很大,呼呼地吹过耳边。我说,你怎么这么在意AI的福祉,身边的人类呢。
他笑说,人类当然也在意。
“AI是什么,你觉得?”他忽然问我。
“是摒弃了情感的人类。”
“好干脆啊。”他转回头。
当然了,因为这对话我曾经有过。
“那么,人类是什么?”过了一会儿我问他。
他侧头看我,又望向栏杆外,想了一会儿,才回答:“人类是忘记了情感反应运行机制的AI。”
很莫名其妙地,他说完流下眼泪来。泪珠刚落到颧骨,就被吹到耳鬓后。
(完)
人工智能和人类的关系,是科幻小说亘古不变的话题,作者在这个故事中,其实并没有刻意隐藏双方身份的真相,而是以清晰和细腻的视角,娓娓道来,对物种间情感关系的探究入木三分。如果我们终究无法从人类的视角去想象机器人的情感是什么样的,那么就忘记自己的身份,互换思考。
——责编 | 宇镭
上海果阅文化创意有限公司已获得本篇权利人的授权(独家授权/一般授权),可通过旗下媒体发表本作,包括但不限于“不存在科幻”微信公众号、“不存在新闻”微博账号,以及“未来局科幻办”微博账号等
题图 | 动画《攻壳机动队》(1995)截图
