仿生人会梦见电子羊吗：neuro-sama，chatgpt以及更多

这算我用这个身份发的第一篇正经科幻评论文吧。献给重邮幻协。

至于写这篇文章的缘由，很大程度上又是受了neuro-sama的某位切片佬停更的刺激。那时我刚重构完项目主体，看了眼科幻水群，然后发现了这事。又能说什么呢？尊重理解吧。

有本叫《万物理论：自反性的物质、生命、系统和宇宙》的书，这本书很不幸地躺在我寝室的书架上吃灰。他的开篇提出了一个问题：你是谁？这哲学三问里的头一问，想必很多人都听说过，但却并没有细细思索。那么，你到底是谁？

如果我们狭义一点，“你”也就只是你的大脑——虽然以现代脑科学的发展水准来看也说不定。柳文扬有篇小说，讲一富人花大价钱把自己的记忆移植到一个年轻的躯体上。这个年轻的躯体在性格上与原来的富豪无二，但在小说的最后，柳文扬却让这具躯体自问：我是谁？

这是一种经典的忒修斯之船类型的科幻。记忆继承了，但是却换了一个脑子，这个脑子还是原来的脑子吗？

至少我们可以确认，这是一个脑子。然而？

几年前我还中二的时候，坐在公交车上会想一些缸中之脑的问题。缸中之脑对每一个人都是等价的，你可以质疑你是唯一真正的人，你的脑子被泡在一个罐子里，而其他人只是通过电信号模拟出来的产物。同理，其他人也可以这么想。再往后，我用物理规律的时空均匀把自己给拉了出来——不过那时候我还不知道休谟何人。不过今天不讨论休谟相关话题，不然主题就变成了休谟的怀疑论了。我们暂且认为：物理规律是时空均匀的。

基于物理规律的时空均匀，我们可以进而推论：具有一定相似结构的物体，其运作机制也应当是相似的。两条一个型号的机械表，尽管磨损程度、零件原料等等不同，但是他们的齿轮运动模式也应当类似。对于人来说，所有人都有着相似的架构，其运作机理也应当是类似的。

然而运作机理类似就应该被称之为人吗？对于狼孩而言，我们愿意承认他们为人，因为他们有着相似架构——虽然他们的思想未必和人类相同，所以基于一种共情，我们把他们从狼群拯救，把他们拖入人类社会——尽管这种拖入并不会征求本人意见。

而老马又给人做了另一个定义：人不是肉体上的这样那样，他并不是有“一个大脑、两只眼睛......”等等等等的动物，而是一切社会关系的总和，从而把人的定义从庸俗的组合论中给拉扯了出来。尽管有时候我们片面强调人的社会关系会忽视人的肉体基础，但是肉体基础在这里似乎真的没有这么重要。重要的是承认——即社会接纳你为“人”，从而让你拥有了“人”的社会关系。前者是条件，后者则是结果。

阿西莫夫有一篇科幻小说，叫《正子人》（或译《机器管家》）。虽然阿西莫夫未必了解马克思的这句话，但是这篇作品可以说深深反映了马克思的这句话。由于我没有真正看过这篇作品，所以摘录一下wiki上的梗概：

二十一世纪初，劳力被机器人取代。第一个人型机器人NDR113面世，并被命名为安德鲁‧马丁。一天，安德鲁帮小小姐（其主人的二女儿）做一个木坠子，被发现拥有惊人的创造天份，创意和巧思胜过人类的艺术家，而美国机械人与机器人公司则为了这个“不守常规的差错”而回收正子机器人。经过了十数年，安德鲁成为家喻户晓的工匠机器人。安德鲁向法院争取机械人自由，法院判决安德鲁胜诉。但是却遭到人类的嘲讽，甚至是欺压。小小姐决定要帮安德鲁争取公民权，另一方面，安德鲁开始书写“机器人的历史”。在保罗（马丁家族的第四代）的丧礼上，安德鲁回想和马丁家族四代的相处，终于承认这是份关系是“爱”。安德鲁主动找上美国机械人与机器人公司，将自己改做成可以进食、呼吸。一百五十年后，安德鲁更为自己装上人工心脏。

而在全文的结尾部分，有这么一段话：

在全人类的注视下，世界主席说：“五十年前，你被誉为一个一百五十岁的机器人，安德鲁。”停顿片刻，他以更庄严的语调说：“今天，我们宣布你是一位两百岁的人类，马丁先生。”

代价是什么？马丁把自己的身体换成了一副会老化的躯体，从而将面临“肉体上的死亡”，无法如他的后世（是这样的，阿西莫夫喜欢把东西往一个世界观里塞，机器人系列和银河帝国系列实际上是一个世界观）机·丹尼尔·奥利瓦那样横贯整个银河帝国的核心故事系列。不过重要的是，社会承认了马丁为人，从而让其拥有了人类的总总社会关系，譬如和其他人类结婚等。不过机·丹尼尔·奥利瓦则干了另外一些事，化身伊图·丹莫茨尔成为了银河帝国的宰相，从这个角度来讲，机·丹尼尔·奥利瓦也被承认为了一个人——尽管是以伊图·丹莫茨尔的身份。换句话说，大家承认的是伊图·丹莫茨尔，而非机·丹尼尔·奥利瓦——尽管这两者实际上是一个东西。所以我们后来看到，反对派发布信息说伊图·丹莫茨尔是机器人的时候，皇帝大发雷霆。而解决方案，是让机·丹尼尔·奥尼瓦展现出人类特质：笑。大家只见过人类笑，却没见过机器人笑，因而“笑”这一行为让伊图·丹莫茨尔重新被接纳为人。

回到我们的标题上。首先，仿生人会梦见电子羊吗？菲利普·迪克把这个问句当做了书的标题，而它的另一个更广为人知的标题是《银翼杀手》——不过我没记错的话，菲利普·迪克并不喜欢把他的书换成这个新名字。

不过我们确实要承认，《银翼杀手》（电影）里的讨论深度是不及其原著的。不过两者绕着的都是仿生人和人之间的关系在跑。仿生人不被承认为人，只是作为人类的工具而存在着。在小说的开头，主角里克·德卡与妻子的对话中，里克说“我这辈子从没杀过一个人”。作为“银翼杀手”（原著里并没有银翼杀手这个名词，应当说赏金猎人——不过后文还是拿银翼杀手代替了）的里克确实不会杀人——他杀的都是仿生人。

原著的故事发生在一场大战之后，地球上遍布了放射性尘埃，因而有人移民了外星，这些移民外星的人能够自动获得一位仿生人作为仆人指使。但是仿生人也会逃跑，逃离他们居住的外星，逃到地球上，享受暂时的自在。因为银翼杀手会追杀仿生人，防止仿生人对社会产生危害。

而为了防止误杀普通人，银翼杀手会对仿生人进行名为“移情测试”的测试。这套测试是基于人类的共情力的，而仿生人并没有这种共情力。测试基于提问进行，通过对微表情的测量得出结论，而问题很多与动物有关——战争之后，动物纷纷灭绝，饲养宠物不再仅仅是为了好玩解闷，而变成了一种同情心的符号（这背后当然有商品经济逻辑，不过不讨论）。如果“浪费”动物，那显然是不道德的。

然而仿生人感受不到这种同理心，因而他们能够通过测试被鉴别出来，尽管他们的外表与普通人类无二。更多的情节暂且不讨论了，不妨来问一个问题：假如有一天，测试失效了，仿生人通过了测试，那么仿生人能被承认为人吗？

书里在某种程度上给出了一种答案：测试的量表一直在迭代，用来对付更新型号的仿生人。我们可以来解释这种关系：因为同人类一样，仿生人“是社会关系的总和”——只要被打上仿生人的标签，那么他所承担的便是仿生人的社会角色，便是作为人类的工具而存在着。就跟前面的机器人一样。重要的是社会是否承认。假若我们说得原子化一点，那么就是“我认为他是个人”，或者“他应当值得拥有人类权利”——当然这种原子化的意见并不能代表社会，除非其本身就占据了社会的多数。

但是假设测试不迭代，那么只要通过测试，那么就算是仿生人，也能被承认为人了。而在这里，我们就从另一个著名的测试：图灵测试开始，讨论一下其他的问题。

图灵测试的标准是能够与人类进行流畅对话而不被认为是机器，即可被认为具有智慧。当然，这套测试如今来看已经变得掉牙了，属于需要被迭代的测试。

不过就算图灵测试的早古版本是应当迭代的，但是却并不妨碍我们做进一步的联想。假如我们有一个房间，把英文递进去，他就能送出对应的中文译本来，那么我们是不是可以认为，“这个房间”能够把英文翻译成中文？熟悉的人可能知道，这个房间里还有一个人和一本字典，这个人是对照字典一个词一个词翻译的，但是对于外面的人来说，他们只看得见这个房间，里面是什么，对于他们而言是黑箱。

把房间具象为一个典型的程序，比如xx翻译。当我们把词句递给xx翻译时，它就能译出对应的语言版本。这是在给用户展示的前端界面上发生的事情——然而背后还发生过10次甚至9次甚至更多的调用过程，最后翻译的文本才会被传递给前端，展示在用户的眼前。

那么是否可以认为这个程序能够翻译词句？这是可以。但是是否认为这个程序能够理解词句？那就不一定了。我们经常就能发现机翻会产生一些奇怪的词语，那就是因为机翻并不能真正理解上下文，它只是按照规则把一个语种里的词语映射到另一个语种上罢了。

而在哲学上有一个概念，叫哲学僵尸。哲学僵尸的外表与人一模一样，也能回应你做出的所有动作。但有一点，哲学僵尸不能“理解”。它也只是按照规则做事罢了。

用组合论的方法设计哲学僵尸并不算难事，以假乱真的皮肤，电力驱动的骨骼，模拟的心跳，一颗能够将刺激映射为反射的机械脑调控全局，哲学僵尸就完事了。然而这里面最难的便是“将刺激映射为反射”。

众所周知（雾），当你对neuro-sama提问9+10=多少的时候，她绝大多数时候都会回答21。我并不想破坏气氛，但是9+10=21多半是vedal训练neuro的语言模型时塞进语料库里的。

我们把过程拆分一下，首先，观众提问9+10等于多少，这个提问被在键盘上打出来，通过io操作读取到......（省略若干过程），最后终于来到了neuro的LLM模型。通过一系列的向量运算，LLM模型找到了“21”这个最为匹配的答案，于是又经过若干过程，观众最后听到了“21”。为什么“21”最匹配？因为在训练的时候，模型就已经“被告知”了9+10=21。这有点像是填鸭式教育，不用理解，复读即可。

在银翼杀手的开头，里克为蕾切尔·罗森做了测试，差点把里克给糊弄了过去。蕾切尔·罗森与其他仿生人不一样，她是一个预植入了记忆的仿生人。这就有点像是训练模型了，通过海量数据，让模型掌握方方面面的知识。然而问题在于“海量数据”本身，一个人是不需要经过海量数据去训练的。海量数据总有覆盖不到的地方，而里克正是抓住了这覆盖不到的一点，断定了蕾切尔的仿生人身份。

所以说，要做一个哲学僵尸，最难的就是刺激映射为对应反射的过程。如果依靠一张哈希表去维持这种映射关系，那数据量恐怕得是天文数字。但是对于一个人来说，他可以将事物联系起来。就好比一个人知道了菜摊是卖菜的，那么菜属性的东西就会和菜摊产生关联。下次在菜摊上见到了一种陌生的东西，那也可以把它归类到菜里。我在这里简化了认知过程，而且也不一定是最新版本的，但是有一点：人的认知并不是依靠海量数据去维系的。

但是无论如何，变成人的关键不在海量数据，还是在社会认同上。就算我们叫嚷chatgpt通过了图灵测试，能够流畅对话，那chatgpt也还只是chatgpt，而我们也没把gpt当人看。同样，当我们去看neuro的时候，我们往往会先提neuro-sama是个AI，再去说“neuro可能有智慧”——虽然我觉得这背后大概是vedal的语料库十分优秀的结果。而vedal无疑是最清楚这一点的，他虽然对neuro-sama产生了某种情感，却也是作为其所有物（事业）的珍惜，而非真正作为对等人去看待（我并不想对vedal做出太多恶意揣测）。

仿生人会梦见电子羊吗？就算会又如何？仿生人依旧是仿生人。

所以在电影《银翼杀手》的官方动画《银翼杀手：2022大停电》中，仿生人们合力一搏，清除了储存了他们资料的数据库，暂时的抹除了他们作为仿生人的标签。然而《银翼杀手2049》的开头就是一场追杀，对大停电中获得暂时自由的连锁六型的追杀。更令人唏嘘的是，《银翼杀手2049》中的复制人已经变得绝对服从（短片《2036克隆人时代》），甚至能担任“银翼杀手”去追杀老号的连锁六型了。

而跳出《银翼杀手》，也有许多描述机器人对于公民权的要求的作品。这是一种社会力量的对抗，恰如废奴运动——矛盾逐渐摩擦，最后上升为对抗，变成了由武力解决的事件。

但是把机器人看做工具还是看做人，最终的决定权还是在人手上（至少目前）。前段时间就有这么个新闻，有人造了一个AI老婆，虽然最后被强制停机了，但是假若不是炒作的话，那么此人某种程度上就已经承认了其的社会地位（老婆），进而承认了其为人了——至少入脑的时候是这样。

所以，仿生人会梦见电子羊吗？这个问题对于里克来说，是不得而知的。毕竟他没办法撬开熟睡的仿生人的大脑，看看里面是否有电子羊。莱布尼兹之堑平等地横亘在所有人的眼前，而关键在于，我们是否这样认为：仿生人会梦见电子羊。

问题来了：

你会梦见电子羊吗？