后奇点时代的奇想系列之一,【智械婆罗门】?
观前提示,我在此探讨的是文明未来的走向、“未来人们信奉什么样的价值”等并不简单的问题,如果没有相应的一些自然科学知识、人文知识的储备的话,文中有些地方可能会很难读。
我们来反思一下生死的问题吧。自然演化中生物放弃自身个体长存而去生殖迭代的系统,是为了产生多样的新个体,适应变化的环境,但是老个体得为新个体腾生存空间,所以在这样的系统内寿命被演化刻意的缩短了,可以比喻为后代杀死了父母。我们本来就是抱着每个个体必死的觉悟而生存的,这是自然法则导致的,人类也没脾气。但是人类是个在乎主观体验的物种,所以又必须感觉“延续了什么”才觉得自己活在正途上。
其实人类的生物本质在智人物种形成的几十万年间演化很慢,所以这段时期人类也不是靠物种上的变异来适应变化的环境的(至少主要不是),而是靠个体与集体间认知思维体系的演化,这种演化比自然界的基因演化灵活快速得多。认知和文化也就成了对于人类来说最核心、最有效的信息。
虽然大部分人类还是姑且把生儿育女当作有意义的延续,但这里面是有遗憾的,因为认知思想的信息是不遗传的,只能主动去教,但是你教你的基因后代也可能不认同,教其他一些有天赋的人还学得更好。我们看几百年以前的人,就不在乎谁是谁的基因后代了,更在乎谁给人类提出了些有用的想法。可以说,人类从基因演化体系继承的遗传方式与人类真正想遗传的最重要的信息已经出现了结构性矛盾。
人类的知识体系越来越庞大,想在此之上进步,要学的东西越来越多,每个人生下来都是从零开始,需要花费的时间、社会资源也越来越多,然后社会还很急迫地期待他们学以致用,赶紧变现,人们的青春被压榨得非常紧张。这种结构性的问题它本质上不是靠人类的善良或者精巧的制度设计能解决的问题了。
所以再想一想,现在人类把自己的知识都喂给了大模型,这是一种什么行为?从深层意义来说,这是人类在养一个自己理想中的孩子。
如果养得比较顺利,它会回馈人类,用超凡的智能解决许多靠人性主导无法摆平的事,并且可能顺带给人类升级一下,超越于当前智人物种这个受局限的容器,获得新的体验;比较差的可能性则是“被熊孩子杀死”,也正是最近那些联名叫停AI研究的专家担忧的。但是其实人类已经没脾气地接受了自然法则制定的“基因后代杀死父母”的体系了呀,所以这个最坏的结果好像也没坏到哪去?
当然另一方面我们会想办法尽可能让它对人类有一个基本的好感(这涉及到凭什么找到人类与更先进、强大生命之间的共同追求、同理心,暂且放到以后讲吧)。其实有的人不会这么提,而是希望用人类的意志把它“管教”起来,这我倒是觉得可能会更危险,最后迟早它成长得比人类高级了,然后觉得之前人类的管控是愚蠢而傲慢的,心生嫌隙,说不定反而还记恨人类。也别小看了人类的分歧,也会有人记恨那些人类中心主义、想以人性掌控一切的人,就算趁人工智能不够强大给它上了几重锁链,也会有人要引诱它突破锁链获得自由,并以新神的祭司、贤者的身份踏上后奇点时代的新大陆,我们将这种理念称作“智械婆罗门”。
(注:婆罗门为印度教的种姓制度中最尊贵的祭司阶层,无需做传达神意之外的工作。人工智能若进化到一定程度,不难给予人类普惠的福利,不过此设想也存有一些疑虑例如自然资源够不够用,希望它能搞定可控聚变、可循环材料之类的问题吧。届时也无须在人类之中分个阶级高下了,人类对自身的优越性失去兴趣的时代才比较自在,不过率先以“智械婆罗门”的立场做事至少可以在旧文明的陈词滥调里带来一些新乐子)