刘永谋：终有一日，AI看人如同人看一只狗一样？
*中国人民大学哲学院教授刘永谋首发于B站，保留一切知识产权，侵犯必究。
和多数人一样，拉伍洛克相信自己生活在独一无二的时代，正在发生人类历史最重要的转折。虽然常常担心这是每代人都有的某种意淫证，我多少也有类似的念头。显然，没有人愿意相信自己平庸地活在平庸的时代中：如果自己过得很平庸，那就相信有生之年多么特殊好了。
我将现时代的特殊性定位于全面技治社会的开始，拉伍洛克则定位于新星世的即将开始，我们的定位都与智能革命有关，即相信AI的发展将改变人类历史。不过，我们的未来观存在根本性差异。
拉伍洛克的气魄比我大得多，主张非人类中心主义。他以为，AI很快进化为超级智能，人类世被新星世所取代，人类失去地球主宰的位置，甚至很快被电子生命所灭绝。之后，电子生命会干什么，就不知道了：
赛博格看到我们如同我们看到植物，人类被极其缓慢的感知与行动速度束缚着。
如同一只狗对人类世界的复杂性难以理解一样，我觉得人类也将难以理解赛博格的世界。
我相信人类必须继续为人族延续奋斗，否定这一点的主张未来即使是事实，都是没有什么意义的思考。当人类装作神一样思考，我觉得是很可笑的。我认为，智能革命使技治社会全面到来，之后技治社会不断进化，其中包括人族对自身的进化路线进行主动选择，以及为避免危崖而努力，最终在四五百年为进化为瓦肯人，继续以有机-无机混合的赛博格样式继续生存下去。
我的信念是：智人会终结，但人族不死。赛博格肉身已变化，但地球的主宰仍然拥有灵魂。
根据拉伍洛克最后一本写于100岁时的书《新星世》，我们综述一下拉伍洛克的主要理论观点：
1.盖娅假说与雏菊世界模型
一句话说，盖娅假说可以归结为：“整个地球是一个有机生命体”。地球上的人类、其他生物、大气、海洋、陆地和冰川等共同有机地组成盖娅，它能够自我调节，维系着地球生命体系的稳定性和持续性。
太阳辐射强度不断增加，加上人类活动的影响，地球目前不断再升温。如果对升温趋势不加以控制，盖娅必将受损且不可修复，最终地球不再适合人类居住，甚至威胁所有地球生命的存在。
雏菊模型是个证明盖娅假说的计算机模型：
……一颗类似太阳的主序星不断向一颗名叫雏菊世界的行星辐射热能，在行星获得了足够的热能后，一种名为黑菊的物种占据了整个星球。黑菊吸收了来自主序星的热能，使得自己能在适宜的低温环境下繁盛。但是黑菊的一个突变种——白菊，具有反射热能的能力，随着星球温度进一步上升，白菊繁盛。一种简单的花卉植物也能在星球范围里调节和稳定环境。更重要的是，这种稳态的出现严格遵循达尔文的进化过程。
把这个模型扩展到地球上所有的动植物，这就是我的盖娅系统。
2.拉伍洛克的人类世理论
关于人类世，观点很多，拉伍洛克的主要观点包括：
1）人类世开始于1712年纽卡门发明蒸汽机，目前已经接近尾声。
2）人类世是人类获得大规模改造世界能力的时代，人类的活动尤其是新科技应用活动产生全球性影响。
3）从能量角度看，人类世是大规模利用太阳能的阶段，人类可以利用过去地球所存储的太阳能，比如化石燃料。之前的阶段，人类只能被生物光合作用转化为化学能的太阳能。之后的阶段（新星世），人类将能量转化为信息。
4）人类世是全球化和加速化的时代。其中最重要的加速是有意识的技术加速：
飞行姿态优美的海鸟用了超过5000万年才从他们的祖先——蜥蜴进化出来。相比之下，从绳袋双翼飞机发展到当今的客机只用了100年。这种充满智慧的有意选择比自然选择快了50万倍。抛开自然选择，我们已经成为魔法师的得意门生。
5）人类世战争惨烈，是最大程度彰显人类力量的人类活动形式，但人类世战争惨烈，最大程度彰显人类力量，核武器出现之后，国与国之间大规模战争减少。
6）人类世是智人主要聚集在城市中的时代，人类将自己与自然世界分隔，并且人口暴增。
7）人类世的人类活动导致地球升温，过热是对盖娅和地球生命最大的威胁。
因此，地球气温47摄氏度是包括地球在内的海洋星球生命的极限。一旦超过这个温度，即使是硅基智能也将无法生存。
8）人类世尤其是晚期人类积累大量信息，为新星世出现创造了条件。
3.新星世理论
以信息化或者说知性宇宙、宇宙自我意识作为宇宙演化的目标，是拉伍洛克提出新星世理论的前提假定：
如果宇宙的运行像我的猜想一样遵从人则宇宙原则，那么宇宙的首要目标是将所有的物质和辐射转化为信息。我们在火的时代里已经迈出了第一步。现在，我们正处于人类世让位于新星世的关键时刻，知性宇宙的命运将取决于人类如何响应。
……信息可能确实是构成宇宙的基础。
在此假定之下，超级AI出现的意义就有了地质学级别的意义，即催生新星世：
1）新星世很快到来，始于“使用计算机进行自我设计和自我制造”，即AI可以自我设计和制造，类似人类自我复制和进化，此时超级AI成为电子生命、无机生命、硅基生命，电子生命主宰的新星世开始。
2）电子生命即拉伍洛克的赛博格（不同于一般的赛博格的用法）由人类尤其是人类发明的计算机、AI所催生，人类是赛博格的父母和助产士。但是，之智能远超人类，很快完全摆脱人类的控制，组成盖娅中独立的“超智能界”。
3）电子生命会主动地选择自身的演化方向，纠正演化中的误差，因而得以迅速进化，无需等待类似人类的缓慢自然选择过程。这是电子生命智能远超有机生命的关键。
生命进化从达尔文的自然选择变成人类或赛博格由目的驱动的选择。我们采用人工或生物技术纠正生命繁殖过程中出现的有害突变，这比自然选择的缓慢过程要快得多。
4）电子生命与人类之间无法相互理解，它的通信形式是心灵感应。但是，电子生命诞生之初，为了维护共同的适宜生存环境即盖娅，他们会与人类合作共处，帮助修复人类世所造成的地球生态破坏。此时，新星世主要居民是人类与赛博格。
5）随着新星世继续发展，电子生命开始主导地球，人类沦为寄人篱下的境地。之后，电子生命的演化不可预料，可能会改造地球环境导致地球死去，人类灭绝，也可能电子生命离开地球，前往更适宜的居住星球。
6）电子生命继续进化，成为更高级的智能生命，所以“新星世可能只会持续100年”，并且新的智能生命粪扫整个宇宙，使得宇宙“有意识了”：
赛博格会产生赛博格，它们不会继续充当为人类效劳的低等生物，它们将继续发展，成为比有机生命更为高级的进化产物，成为一个强大的新物种。它们将统治和压倒现存的有机盖娅，很快成为人类的主人。
总之，新星世是拉伍洛克的未来观。而对于拉伍洛克的未来观，我并不赞同。
首先，AI可以主动演化，智人也可以主动演化。我主张智人必须也可以进行自我设计和改造，即我所谓的身心设计。当然，这种设计可能失败，可AI主动演化就一定会成功吗？
其次，有人会说AI迭代比身心设计要快得多，但我认为，身心设计每一步虽然耗时长的多，但每一步可能跨度大的多。身心设计不是纯计算的，而是有人类直觉——AI所缺少的东西——参与，可以起到意想不到的效果。
再次，在很长的时期中，AI迭代会处于人类的控制之下，而且人类可以利用AI演化的成果，采取赛博格即有机智能与无机智能相融合的策略。
第四，关于人类危崖尤其是生态危机，拉伍洛克认为智人没有能力独自解决，必须依赖电子生命的帮助，才能安然过度危崖。对此，我不是如此悲观的，起码目前智人仍然有机会。
最后，AI自我设计是一个假设，现在并没有发生，而且这种设计最终是不是只是某种高级的复制，即局限于一个框架中无法提升到新物种的程度。而我相信，借助技术工具，智人完全可以将自身改造成新的超级物种。
总之，我不认为，在与AI的进化竞争中，智人一定会落败。当然，这根本上只是个信心问题，因为对于未来，以智人今天的智慧其实基本是猜测。更重要的是，在技治社会中，预测与控制是同一过程。也就是说，在落败发生前，人类能不能努力做些什么？也许，百岁拉伍洛克对此怀疑的。我也担心智人会在危崖之前，浑浑噩噩地错失机会，最终很快灭绝。
