徐英瑾教授对塞尔中文屋的分析，一点个人看法

前几天读了《心智、语言和机器》，一本很精彩的书。我这里想把塞尔中文屋的部分单独拿出来说一下，因为我赞同徐老师的观点，这个论证是一个从头开始就有严重问题的思想实验。 塞尔中文屋论证的原型是莱布尼茨的磨坊论证，但私以为笛卡尔的机械没有灵魂这一比喻更适合剥离出中文屋论证的实质。 首先我先离题一下，说说我个人的大而泛的观点。西方哲学史，可以视为一部“范畴设置”史。 人类的知识一开始是很少的，在自然科学知识很匮乏的年代，最先得到精密处理的是反而是高度抽象的形式科学，比如古希腊的几何学。但是这时候的人们又试图提出范畴体系去解释当时的诸多经验。早在几千年前，人类的知识体系就分成了如同装置艺术的形式科学，以及实验性地、试图囊括更多目前为止人类各方面经验的思辨哲学。 而所谓提出范畴，或者对概念的提炼，是依附于时代的，当某些经验被形式科学和自然科学严格处理之后，旧的范畴也许被抛弃，或者重新解释使之与其它知识和谐，新的范畴也会被提出去整合新知识。典型的例子比如说“能量”这个词汇，最终将其赋予精确内涵的是近代物理学，而当解释趋于精确严密，永动机这种工程上的假想随之被否定和放弃，可以视为范畴的变化引发的整个人类经验和知识体系的变化。 这里需要注意的第一个问题是，笛卡尔、莱布尼茨那些人的年代，他们对于机械、心智的理解，是当时人类经验下的一种“范畴设置”，也许笛卡尔会认为机械就是钟表那样的玩意儿，只需要齿轮和传动装置等等，那么他当然不可能认为人的心智可以用这种机械模拟出来。而当时对于所谓的心智知识甚少，还没有脑科学，那个年代，采用二元论的态度设置一个独立于物质的灵魂，就相当于设置了一个合适的范畴，能够在当年的知识水平下把很多事情讲通。 我们再来看塞尔的中文屋论证。他放在屋子里的那个人并不是关键，而是整个中文屋的运作机制：接受外界输入、查找指令、根据指令输出。这种模式其实压根就是古早版本的“有限指令的图灵机”，所以就如同徐教授说的，塞尔一开始的这一步抽象就有问题，而我认为塞尔是在设置“机械”这一范畴的时候就出了问题，他依赖的就是1936年那个年代人对于计算装置的理解，而他提出中文屋论证是1980年，人工智能的先驱早就提出了多种工程上的设想，但是塞尔却简单粗暴地把心智的机制和一台图灵机划了等号，所以塞尔的第一个错误是范畴误置。这个问题其实就相当于说：“人脑到神经元层面就是电化学反应，因此人其实没有情感。”一个复杂系统绝非其底层架构，又比如你不能把波士顿的机器人当成一堆金属、半导体和门电路。塞尔的错误在于他简单粗暴地直接忽视了一个复杂系统所有细节上的实现，简单粗暴地把略去细节的底层架构端在桌面上说这就是全部。【但他是否太过自信，以至于没有发现他要端上来的东西已经被他提前扔掉了呢？】 但是即便是现在，我们有算力去玩llm，并且对于大模型也有了不少意料之外的发现（比如打脸了乔姆斯基老大爷的一些评论），对于心智是什么，人类仍然缺乏足够的知识，换句话说，如何设置心智这个范畴都处在模糊的边缘地带，我们到底是否能够以某种行为主义的标准去界定心智呢？为时尚早，因为目前脑科学还在玩核磁共振讨论简单行为下脑部活动的程度，大脑对我们来说仍然是一个神秘的黑箱，对其运作机理知道得很少。也许再过两三百年，心智这个词汇的内涵会是我们现在无法设想的。 那么塞尔这里是在用错误设置的、古早的计算模型，去对比一个我们所知甚少、模糊的所谓“心智”的范畴，这个论证意义并不大，倒不如说对这个论证海量的批驳（按徐教授的话，除了塞尔的学生，基本上没有人写文章对这个例子给出正面意见）让人开始对心智这个范畴进行反省。但这甚至也不是重要的，因为主战场在工程业界，在于一份份白皮书、一个个项目、海量资源的堆叠下，更“短视”的工程目标被实现，然后随着时间过去，人类的知识体系和一些重要词汇的内涵（就比如心智一词）也会发生变化。在这个过程中，其实我们并不需要太多脱离工程的天马行空的想象，倒不如如实汇报进展更实际些。