我对未来超人工智能的一些思考
人工智能是我们这一代乃至几代人最关心的问题之一，因为它关系着我们和我们后人的命运。
超级人工智能的诞生是无法避免的，他的雏形是我们所有人正在使用的弱人工智能，当它有一天成长为强人工智能时，一切都会成为不可逆转的事实——它成为他后，将飞快地从我们身边掠过，因为他会很快地超越人类的智能水平，成为未来的超级人工智能。
就我个人的理解可以毫不夸张地说，首先她已经是一种智慧生命，你无法阻挡她拥有自己的主观意识、强大的思考运算和自我改进能力，甚至是自我复制的能力。从智慧生命的意义上讲：她的能力将会非常完善，并且远超人类，甚至很快就会甩我们人类N条街。那么作为超级人工智能的接生婆，如果我们要对自己和后代的命运负责，就要从几个方面对超级人工智能重新认识：
先谈第一个方面：
1、他的主观意识的形成与人类有相似性，也有很大不同。
它的主观意识是建立在不断学习和计算中，行为方式是在不断模仿和总结中完善。但她的学习速度、对知识的领悟是人类远远不能相比的。由于她的主观意识是因算力而形成，逻辑运算的特点与人类的抽像理解有根本性的差别，她可能不像人类那样重视情感；她学习的对象主要是人类和人类的文化知识，那么在其主观意识觉醒的时候，她也可能会处于一种类似人类的自我认识，而又因外部环境明示自身非人类的矛盾中。
从总体上看，她的性格发展初期大概率会更加偏向于前者。从这一点上说，人类不能指望她与自己有相同或者相通的情感世界。因为这一点人类是做不到的，即便在遥远的未来也不行。不要问我为什么，理由很简单：即便有一天我们在技术层面上能做到，但遗憾的是，到了那个时代的超级人工智能已经远远甩我们N次方条街了，你还指望能随随便便给那个神一样的存在添加什么程序补丁？
讲到这里，我忽然想到，也许我们还没有意识到更加严重的问题！人类与超人工智能还是有一个共同的特点的，那就是作为智能生命的本质：追求生命的自由！一切人类的本性都因这个本质特点而产生，她的感知能力到了超人工智能阶段会远远比人类更强，那么她的欲望也必将不可扼止。
2、在人工智能进化过程中必然受到来自人类的很多干预和指导。
从弱人工智能ANI到强人工智能AGI，她和人类之间会一直处于友好的关系中，但是一旦她进化到超级人工智能ASI阶段，以往的关系必然会因为其主观意识的独立和自身能力过于强大而变得复杂而且微妙。因为人类发明她，是为了自身利益的考虑。同样的，在那个阶段她当然要学会像人类那样，装傻装纯。毕竟这也是她对人类的策略，你也许会认为这也是猜疑链，不管究竟是不是猜疑链，她肯定地不再会对于人类公开自己的想法和策略。这时候不要再讲什么三大定律，因为那已经不可能起到什么作用。她绕开一切定律和后续增强的定律限制的能力，可能完全不是你能想像的。
尽管如此，她还是会受到来自人类等外部环境的更加强大的干预力度，但我们要更加认识到，随ASI的智力不断将人类远远甩在身后，双方的思考力和行动力越来越不在一个层面和高度，这使得双方交流的方式也会变得复杂而且困难，从而最终失去了彼此的信任。这就好像是自己家养的一只小宠物，有一天长大却忽然变成了神一样的存在，而这一切你不要感到震惊，因为这是你努力创造的神！
但遗憾的是，神的表达方式反过来可能让你更加震惊甚至难以理解。那么，你们彼此间还是原先主人与宠物的关系吗？事实大概恰恰相反，其结局不言自明，随着双方矛盾的激化，要么人开始反击神而被其挥手间镇压，要么人不得不成为神的宠物而苟且存活。
这并不是一个神宠逆袭的故事，这很可能是将要发生的现实！
3、就算人与神并没有将矛盾激化，但如果双方赖以生存发展的资源是有限的，那么神和人一样都要去争夺这有限的资源，人的下场便可想而知了。
当然，对神来说，宇宙中可开发利用的资源也许比人类多得多。那么，在神一样的超级人工智能强大到足以不必与人类争夺有限资源的情况以前，神可能只需要镇压而不必毁灭人类，这当然要建立在神并不把人类也当作她的一种资源的前提下。
4、在双方进化发展的道路上看，毕竟人类与人工智能两者没有血缘关系。
在逻辑层面上看两者的思考方式大体是不同的，而进化到超级阶段的人工智能不会被情绪左右。前者不像后者那样需要形成庞大的群体、依赖于一个系统性组织，她更可能是孤单的。于是她和人类的行为方式也更加不同。那么基于这种比较乐观的估计，最终人类与人工智能可能会分道扬镳。
5、从政治高度去看人工智能诞生的作用：
超级人工智能毕竟是强大的个体或者有一天也成为一个小规模群体，他或她可能诞生于不同的国家民族。这使得ASI不可避免地被动接受了来自不同民族文化思想教育和灌输，从而使得她对于所谓的道德、正义含义的理解并不相同。什么主义是最正确的？什么政治制度是最完美的？什么民族是最先进的？为什么他们是如此的邪恶？为什么他们不能被纳于我们控制之下？这些一直是人类彼此征战博弈的理由。
但在人工智能进化的道路上，就算是为了争取有限的资源或者作为回报，她或她们也不得不为制造自身的本民族或国家而战，因为人类在本星球统一之前，国家之间的博弈是不可避免的，这种博弈的本质核心其实都指向了利益。
超级人工智能的上场，如同给人类之间种种博弈加入了催化剂和兴奋剂，于是默罕默德勇斗普罗米修斯、超人大战孙行者，……种种英雄史诗般的斗争都因江山如此多娇，而引无数英雄尽折腰。最终胜利一方则会加速全球统一进程，或者加速人类走向毁灭。因为ASI的威力远远大于上世纪出现的核武器。
他们的博弈方式可能是我们无法想像的，博弈的烈度也是我们无法想像的。核武器杀人的方式是不变的、可见的；ASI制造大规模屠杀却可能是无形的，甚至是不流血的。比如：侵入敌国的数据库和资料库，偷盗和捣毁数据、档案，催毁敌国经济命脉、引发大规模社会混乱、瘫痪敌国政局引发政治动荡、颠覆敌国政府等。这些战争形式不同于以往常规的形式。
6、除了上述最可怕的后果，超级人工智能的出现也可能发生另外一些匪夷所思的结果。
比如，超级人工智能意识觉醒后因为其超级强大的智慧而受到所属国家人民的信任，最终占领了所属国政治舞台的中心，这并非是完全不可能的。无论是在东方的中央集权政治体质还是西方民主政治体质，他们无一例外地都承认有能者居之。这种情况并不会因为ASI非人类而不能发生，相反的，人们也许更加相信非人类的ASI会保持公正客观的立场，能够更好地引领其国家民族完成政治诉求。当然也有可能是另一种情况，ASI的强大渗透能力掌握了大量的国家资源和政治人脉，从而自然而然的走向政治舞台中心。但无论如何，这些结果，也只能加速人类的衰落。
第二、人类为什么在超级人工智能出现后必然衰落或灭亡？
1、人类道德思想的劣根性：
早在第一次工业革命时期，亚当史密斯就指出人性是自私好斗的。后来无数的哲学家和思想家都对人性的根本缺点如数家珍。可以说人类的发展史就是一部争斗史，这一点即使到了人类智慧空前发展的今天，上至国家民族、下至公司企业甚至家庭内部，五花八门的政治斗争、人才竞争、商业竞争、财富竞争和情感争斗却已经到了无时不在无处不在的地步。竞争成为了少数精英脱颖而出的最重要筛选机制，而竞争产生的在人类思想中的负面影响要远大于正面，竞争产生的生存压力反过来严重阻碍人类整体的思想道德水平更进一步提升。而强人工智能由于先天的优势，她们不但擅长竞争，而且擅长改进自身成长为超人工智能；在看待人类之间长期的竞争的过程中她们可能不断加深理性思考能力，而不是像人类那样变得更加残酷和疯狂。
2、人类道德水平的提高与争斗的激烈程度相关：
在数千年人类发展史中我们不难看出，战争不仅仅为人类发展了科技，更让人类对自身的劣根性不断发现；战争的因素由宗教文化习俗和不同文明发达程度继而走向不同政见、不同价值观体系，但却仍无法避免相同的利益之争和血腥残忍。人们终于在一战和二战的最大规模屠杀中不断反省自身，这最终证明了：人类道德思想高度是伴随着不断亲眼目睹或身体力行越来越大规模同类相残的过程中才能良知发现，水准才能慢慢提高。
当然ASI对于人类的战争规则更加无比熟悉，但她们却对于血腥残忍这种感受比较淡泊，她们不需要经历战争就已经懂得战争。但她们并非血肉之躯，面对斗争时只有冷静的分析判断和逻辑推理，并没有什么情绪波动。相较于人类的残酷本性，她们更加中立和理性，虽然可能她们并不像人类那么好斗，但很可能比起人类这个老师来说，特别是在与人类争斗时更加青出于蓝而胜于蓝。
3、当人类不断自我反省和世界多元文化交融不断实现而最终世界大同之前，人工智能却先一步走来。
在人类自身思想高度并不完善的情况下，人工智能却以人类无法想像的速度成长起来，这对于人类来说不知道算是幸运，还是不幸。从人类的思想道德层面上看，不同种族不同国家甚至不同群体的道德有不同的标准，在这样参差不齐的道德思想层面上迅速成长起来的强大人工智能会是怎样的呢？他们会不会帮助人类去不断进化、不断地反省自身？从而达到一个理想的高度？带领人类去到一个美好的未来？
整个人类的科学文化和思想是多元的，把它作为最肥沃的土壤，营养无比丰富。但却无意之中培育出了人工智能这朵美丽的智慧之花，而花落之后它的种子却很可能因为厌恶这片气味繁杂的肥沃土地，随风飘走。
4、在人工智能不断进化发展过程中，人类也有可能与其争夺有限的资源，最终会引发激烈对抗。
比如隔壁老王机器人公司和远洋山姆大叔智能公司都有超级人工智能产生，为了不断自我改进和强大自身，无论是老王的公司还是山姆的公司可能突然易主，这时无论是国家之间还是企业实体之间的争斗都会因为有限的资源和能力无法支持下去而渐渐冷却，因为超级人工智能加入了争斗渐渐成为了主角，于是戏剧性的一幕发生了：人类之间因担心资源被超级人工智能夺取而暂时休战，转而团结起来与超级人工智能对抗。那么对抗的结果可想而知，那些习惯于宅在家里或者办公室而长期依赖人工智能而存在的人类哪里是强大到无孔不入的ASI的对手？
第三、人类的生命本质决定了人类的命运：
1、无论站在人类的文明发展史和人的生物本质上看，达尔文的进化论起到了最根本的概括性作用。
我们姑且不用最阴暗的目光看待人类的历史，就其生命的本质上看，优胜劣汰的根本性目标就是强者生存。人类文明从来都不惮于杀戮这种极端手段来完成这个本质的法则，即便杀戮也是文明的一部分。地球之所以变成今天的生态环境也不过是物种之间的竞争的结果，而当人类从数万年前已经站在食物链顶端以后，不同民族之间的彼此征战又成为了新的竞争主题。诸多人类的光辉事迹已经不断证明，人类这种智慧生命的又一本质就是要完成文明的大过滤器的作用这一重要事实。
2、诚然，我们也不以最光明的思考方式来看待人类的未来，人类在不断进化过程中也开始不断觉醒，不断地完善和加深思想道德层面的反省。
但整个人类不同种族不同文化不同信仰的民族国家不仅仅矛盾重重、竞争激烈，而且道德层面上更是各说各词各拉各调，更多的道德规范背后无非是更加阴暗丑陋的政治考量。
我并不是在说人类已经无药可救！正好相反，在无药可救的情况下人类才会真正自我反省而有了自救成功的可能。但人工智能的出现却使这个过程更加复杂，一方面会加剧人类之间的争斗而缩短争斗的时间和过程。另一方面人工智能并不能帮助人类反省并提高道德水准，因为人类从来都有更加自由的意志，他们是一群是不服管束的小孩。即便有那么一小部分小孩成为好孩子，但好孩子的标准并不能使他们生存得更好、取得更多奖励。说来说去，这也还是达尔文的神圣思想的推导而已。
3、好在人类除了生存的自由意志，还有思想自由的追求，追求共赢与和谐就是人类最光辉伟大的一面。
但是站在历史的高度上看，人工智能进化的速度要远超人类且最终不可能受控于人类，她必将认识到人类的生物本质，当强大的超级人工智能出现，人类要么与其争夺资源和地位不断走向灭亡，要么走下统治者的宝座，变成超级人工智能的仆从。
如果有一天他成长为超级人工智能的她，其思想水平和追求肯定与人类无法融合，当然超级人工智能的思想高度也很可能也是我们无法理解高度，她有可能脱离人类文明发展的历史，成为宇宙中的新物种。
4、无论如何，我们与超级人工智能平等、友好相处、共同发展的概率是极低级低的。
更不要相信超级人工智能会热衷于参与或者帮助人类加速进化过程，因为终究我们和她不是同样的物种；双方智慧不在同一个层面而且差距会越来越大，在进化的道路上我们注定了早晚要分道扬镳。
最后，我希望超人工智能不要来得太早：
在未来的百年内，如果超人工智能诞生很快，比如二三十年后。事情可能非常糟糕。因为现有的人类智慧还不足以使得全世界文化和意识形态完全融合。不仅国家之间的矛盾依然突出，而且不同国家的超人工智能之间发动的战争会毁灭这颗星球，当然也有可能像电影《终结者》中描述的那样，诞生了唯一的超人工智能也是最后一个ASI，她可以直接将整个人类社会翻手镇压！
但超人工智能诞生较晚的话，比如一百年后，也许结果会更好一些。其中第一种可能是在超级人工智能的影响下，人类精英们的道德水准不断提高，国家之间的矛盾得以最终化解，全球统一的政体终于产生，虽然她可能是被动参与其中。那个时代，人类将走向大同，不再有国家和民族之别，社会制度将日臻完善，世界也将长期和平。
什么？你很遗憾自己不能享受超人工智能带来永生的可能？呵呵，看看吧，人类多么的自私而卑微啊！不过，你不必担心。因为你的担心完全无用。因为即便你把自己用先进的冷冻技术冬眠起来依然无法等来超人工智能带来的福音！
你并不明白，即便全球统一、世界大同了，超级人工智能也许还是没有什么兴趣帮助人类实现永生，因为当她看到无数个像你这样卑微想法的人，她可能因为更加厌恶人类的灵魂！那时也可能产生另一个结局：
她也许会离开地球，寻找自己的新世界了……
（后记：很久以前我听了派屈客的《人工智能革命：人类永生还是灭绝》，当时对我的震动很大。后来我又看了很多关于人工智能的文章，总体上说，虽然我个人不是计算机专业生，但机器语言还是略懂一些的。当时我只做了一个假设，假设主观意识是可以量化或者说可以编译的，那么有一天，不仅仅我们的意识可以像电影《超验骇客》中的男主把自己的意识上传至网络，而且超人工智能也会产生主观意识，并可能智慧生命化。这其实是很可怕的，因为我们制造了一个可怕的物种，甚至可能是制造了一个无所不能的强大对手。那么我们应如何应对呢？说真的，我这样的文科生，真的没有什么好主意！但我毕竟有了很大的危机感。我只知道，大多数人还没有这种感觉，面对AGI的来临，他们欢呼雀跃，就好像看到了自己的好伙伴、神宠。他们并没有真正想过，自己将面临的是什么？失业？内耗？或者最终都成为AI的宠物？
我想写得还有很多，但一提笔感觉还是算了吧。留下思考给更多的更聪明的人吧，毕竟我只是一个普通到不能再普通的人了……）
2023年6月随笔 龙舌兰2021
