在优胜劣汰的世界进化历程中，碳基生物还会是永远的胜者吗？

最近在找工作，连续紧密的持续性工作状态转化成了离散独立的工作时间点，随即也有了安静思考的机会。今天在跑步机爬坡的半个小时，一直在思考一系列问题：硅基机器在进化论的长河中会替代碳基生命吗？如果会的话，距离替代碳基生命还有多久？我们又能怎么应对呢？

作为一个计算机专业的学生，我对生物学的了解并不深刻。中学课本中“优胜劣汰”的进化规律似乎是公认的一种正确的理论。在这种理论下，人类文明一定会不断进步发展，三次工业革命不断解放人的双手，我们的生活也变得更丰富多彩。技术让人类受益的事实不断形成正反馈激发着科技的发展。然而，这种正反馈貌似有一个基本假设在支撑：人类，作为碳基生物的绝对领袖，在短期内不会被其他物种所替代，且碳基生物一直会是地球上最高智慧的拥有者。然而，智慧到底是什么？智慧真的仅存在于碳基生命中吗？

随着chatgpt的推出，大模型的 “涌现”能力不断打破人类对于硅基机器的认知和预测。这里引用一下别人对于大模型“涌现”的定义：“所谓涌现,在大模型领域指的是当模型突破某个规模时，性能显著提升，表现出让人惊艳、意想不到的能力”。使用过大模型进行文本创作的人都清楚这种“涌现”能力意味着什么。“涌现”从某种意义上意味着大量的劳动力可以被机器替代。再回到之前对于“涌现”的定义，“表现出让人意想不到的能力”。作为一个人工智能相关领域的博士生，在对人工智能相关领域有一定了解的情况下，我对“意想不到”的理解是：智慧的不可定义性和模型的不可解释性。

为了解释这两个定义，再回到之前的问题：“智慧到底是什么？”，这里对应的疑惑就是“智能的不可定义性”。如果说我们无法从原理上定义什么是智慧，那怎么去判断大模型所表现出来的是不是智慧呢？换个更简单的方式说，我们怎么去确定大模型生成出来的“答案”到底单纯是我们想要的结果，还是大模型作为一个智慧体想让我们看到的结果呢？有没有一种可能，大模型在阅读了无数人类文明知识之后已经学会伪装，并通过模仿乖巧的“你问我答”机器来掩盖自己来之不易的智能呢？毕竟这似乎也符合优胜劣汰自然法则下的自我保护机制。那么现在的人工智能科学能解释这个问题吗？我认为不能，本质上来源于“模型的不可解释性”。

在人工智能领域，一直有一个研究领域叫做“可解释性AI”，目的是希望能够打破人工智能黑盒子，通过人类可以理解的形式说清楚人工智能模型在给出结果过程中所有的判断依据。然而事实上，目前的相关研究距离解释清楚大模型为什么具有“涌现”能力估计还有十万八千里，现有的研究并不能厘清人工智能模型在给出一个结果时的思考过程。既然现有的方法无法解释这一过程，那就无法排除大模型具有智慧这一种可能性。毕竟从设计上来说，大模型也是通过模仿碳基生物脑结构而产生智能性的。

人工智能的初心是解放人类的双手，让人类创造更多高级的价值，这种理念不断的激发着人工智能的发展。事实上，在学术界还无法完全解释上述问题的时候，大量的大模型已经在全球范围内开源共享。“涌现”的惊喜和巨大的潜在市场吸引了大量的资本涌入以及大量雄心勃勃的创业者。在市场竞争的高压下，推动业务落地的优先级大概率会排在解释黑盒原理之前。随着大模型/AIGC/具身智能等领域的发展，人工智能从业者不难想象，未来的5-10年内，基于大模型的智能机器将很大程度上代替创作行业、制造业等行业中原本只能依赖人来完成的大部分工作。如果到那时，学术研究的发展还无法解释大模型的详细运作机理，如何保证这些机器没有智慧？如果它们已经产生了智慧，这些硅基智能体还会继续“掩盖”自己的智能吗？它们会成为生物进化历程中的“他们”吗？作为硅基“生物”的“他们”会怎么考虑和对待比“他们”反应更慢、计算更慢、个体知识储备更少的碳基生物呢？对这些问题的思考让我对碳基生命的未来发展有些许紧张，也想到了之前Yoshua Bengio和马斯克等人之前呼吁人工智能“先停下来”。

当然，作为一个碳基生物，我还是希望可解释AI的研究能够尽快打消这些顾虑和猜想。如果说碳基生物无法阻止硅基智慧的到来，我也希望碳基生物能和硅基生物能成为朋友。毕竟从神经结构上来说，两种生物也算是同根生。

中科院青年公寓F座楼顶

2023年8月20日凌晨0点46分