GPT 是人类召唤出的邪神？或许只是焦虑。如果人类在机器中创造出意识，我们可能生活在模拟宇宙

通用人工智能是人类召唤出的邪神，正如克拉克所说，真神降临，群星慢慢闭上了眼睛。有人高喊奇点已经到来。今天，一千多名科学家的要求暂缓更强人工智能模型训练的公开信刷爆全网。

人类文明真的迎来一个重大拐点吗？奇点临近，末日降临？

毁灭人类的蛋

1945 年，美国洛斯阿拉莫斯的沙漠里，一颗铁蛋立于铁塔之巅。一片死寂中，世界正在等待毁灭的爆发。

那是人类第一次核爆。核弹创造者，奥本海默，注视着这颗耗费了无数心血的铁蛋，想起几千年前印度的史诗诗句：现在，我将变成死神，世界的毁灭者。

诡异的铁蛋静卧高塔顶端，不祥的毁灭力量潜伏其中。

靶场播报员倒数的声音响起：十、九、八......

不止一个在场的人把这个声音当成世界毁灭的声音。杨振宁的博士导师，匈牙利人泰勒，就是其中之一。

核爆前，他曾提出，核弹爆炸，有可能点燃地球大气层，造成人类灭绝。

现在，人类又孵化出一颗蛋，再一次，创造这颗蛋的先知们，开始害怕自己召唤出来的东西。

五十年前的科幻小说《莱姆狂想曲》中，作家设想，超越人类的人工智能率先由军方开发出来。

那个时代，冷战铁幕下的核末日危机让西方世界的知识分子惶惶不安。出于军事战略目的，开发具有毁灭人类力量的人工智能，是最符合国际形势的推测。

有人说，科幻小说从来都不能预言未来，他们的想象总是局限在时代。莱姆没有想到，超级人工智能是资本主义商业化的产物。就算德国老马设想出来的优越性制度，也没能举全国之力攻坚，发展出即将碾压人类智力的人工智能。

谁能想到资本家们再次召唤出毁灭人类的力量。

通用人工智能来临？

最近，一封公开信发布于网络，呼吁暂停更大规模人工智能模型数据训练，已有多达 1125 人在公开信上签名（值得注意的是，好多签名是伪造的，当事人并不知情）。最前面的五人，除了两名人工智能专家，还有首富马斯克、苹果创始人沃兹尼亚克，还有以《人类简史》名世的尤瓦尔。后面是一大群科技界人士，有著名物理学家，有企业家，有学生。

我注意到，和沃森一道研究意识的神经生物学家柯赫（Koch）竟然也签名了。

公开信的要点如下：

1.潜在风险：高等人工智能可能引发地球生命史深刻改变，理应在有效监管下试验。

2. 竞争失控：当前关于人工智能模型的训练，涉及商业竞争，已然有失控风险。谁也不知道会训练出来什么怪物。

3. 文明失控：我们是否应该发展出超过人类的人工智能？现有的人工智能已经能够取代一般人类任务。我们是否应该更进一步，发展出全面超越人类的人工智能？从而放弃人类文明的优先地位，放弃对自身文明的控制？

4. 迅速叫停：暂停至少半年的人工智能模型大规模数据训练。如有违反，政府或其它监管机构应该介入。

5. 达成共识：共同制定并实施关于人工智能研究监管的安全协议。确保人类安全。

技术奇点

人们对人工智能的焦虑由来已久。

计算机控制人类，人类派出秘密特工潜入计算机基地（最好处于某个神秘孤岛），输入人类建造计算机时留下的自毁密码，最终拯救人类。这是英国科幻小说《秘密行动》中的故事梗概。

现实中，最早鼓吹人类警惕人工智能的是库兹韦尔。库兹韦尔自称科学家、发明家、企业家、未来学家，写了一本《奇点临近》的书，忽悠了许多国内著名高校的计算机教授，惊为稀世之作，组织翻译出版，在国内颇为流行。

奇点是本身是物理学术语。人们通过借助数学研究物理模型，一旦所建立的物理模型，在某个点，尤其是广义相对论中的时空点，出现无穷大，这时基于正常条件建立的模型开始失效，毕竟你不能从无穷大中得到任何有用的东西。这时，物理学家就会说，这里出现了奇点。奇点处，物理理论失效。实际上，这表明现有的理论不完备，存在一些不能描述的点。

奇点的出现，暗示理论有严重缺陷，而非那里真的具有无限大的密度或质量。所以，奇点只是理论上的存在。人们不相信，宇宙中真的存在奇点。

就库兹韦尔所言的奇点，是指，当人工智能强大到一定程度，将超越人类智能，从而造成人类文明时空，从此以后，基于线性外推的未来预测不再有效，未来完全不可预知，或者说再没有未来。人类历史进入技术奇点。

技术奇点的概念最早由数学家兼科幻作家弗诺文奇提出，经过库兹韦尔的包装宣传，成为一个商业概念。

这是贩卖焦虑的典型商业套路。库兹韦尔顺势推出奇点大学、奇点主义等一系列商业产品和概念，取得了相当的商业影响和成功。

卡耐基梅隆大学博士王威廉曾经在《中国计算机学会通讯》撰文指出，奇点理论只是一个商业包装，而库兹韦尔则是一个民科，主要利用“垃圾科学”商业化赚钱。实际上美国 CBS 电视台曾报道过库兹韦尔的伎俩。

最近鼓吹人工智能威胁最力的是首富马斯克。马斯克先是搞 Palbal 赚到第一桶金，然后收购德国工程师的电池专利，卖起电瓶车。发家之后，又准备去火星，搞火箭。被称为钢铁侠。他总是一副忧心全人类的样子。为了整顿美国网络空间，收购了推特，结果差点一顿瞎操作，差点整死了。

早在 2015 年，阿尔法狗还没有战胜人类之前，他就忧心超级人工智能会对人类造成威胁。现在更是忧心忡忡牵头弄出一个公开信。马斯克让我想起阳明先生著名的弟子王艮。王艮有次梦见天塌了，幸亏他双手撑住。

如欲拯救天下苍生，挽救人类文明，舍我其谁哉！马斯克没说这话。但是我替他说了。王艮可能也会这么说。不过，王艮有时会忘记，自己穿的是纸作的衣服。

我们真正应该担心什么？

当被问道机器人能否消灭人类的问题时，有人工智能女王之称的贾斯汀·卡塞尔（Justine Cassell）说：不用怕，等二十分钟机器人就没电了。

如你所料，这份公开信的签名人当中，没有贾斯汀。不过也没有弗诺文奇和库兹韦尔。最近人们总是问 GPT 的创始人奥特曼，你是不是随身携带一个按钮，能紧急关停 ChatGPT？

实际上，人工智能学界很多人还是保持冷静，完全不认为人类已经召唤出来了邪神，面临灭亡的困境。

杨立昆甚至都不认为 ChatGPT 就是强人工智能。别忘了，最先实现神经网络算法反向传播的人，正是此公。

不过公开信中关于人工智能对社会的担忧有一部分是正确的。

我们已经见识了剑桥分析利用社交媒体操纵民意，影响选举结果。让西方世界担忧引以为傲的抿住体制就此被摧毁。

比起剑桥分析使用的技术，ChatGPT 可谓是核弹级的信息战武器。

我们可能淹没在 GPT 生成的信息洪流之中，不再能依赖信息网络工具。

正如《沙丘》中设想一般，人类将不得不退回信息时代之前。

我们生活在模拟宇宙？

实际上，就算是打遍人类无敌手的人工智能围棋，最近也爆出存在弱点。

人类终于在围棋上赢了AI一文中说，有人利用人工智能的弱点实现了连赢 AI 十三局的战绩。这是柯杰也不敢想象的。

但是如果你用这种方式来和人类棋手对弈，对方大概率会觉得你是一个刚刚掌握围棋规则的新手，只想过来随便玩玩。毕竟这种下法的目的太明显了——就是想用棋子围起来一大片区域。

也就是说，有人用小孩子踩脚趾一样的周星驰招式，打败了人工智能绝世高手。

显然，现阶段的人工智能只不过是异常强大的专家系统，距离通用人工智能还很远。

GPT 本质上不过是语言处理系统，它是否真正理解自己输出的那些文字？这是一个容易引发哲学争议的问题，如同塞尔提出的中文屋子哲学命题一样。

但是，很多人工智能学者相信，人类永远不可能制造出具有自我意识的人工智能。

意识和大脑的结构深度关联，不可能在硅基芯片上复制出来。

最最重要的是，一旦人类在计算机上实现了意识，也就是说，我们真正创造出了超级通用人工智能，创造了硅基生命，真正创世的神，那么人类极有可能生活一个模拟出来的宇宙。