欢迎光临散文网 会员登陆 & 注册

这个世界是怎么了?

2020-10-30 13:52 作者:不忆始初  | 我要投稿

本篇长评偏向于分析番中涉及的知识点,是干货,还夹杂自己的观点,请酌情观看。

机器人学:由20世纪三大科幻巨头之一的艾萨克·阿西莫夫在其《银河帝国》科幻小说系列中开创,其中提出了以机器人学三法则为基础的机器人的内置安全程序

第一法则:机器人不得伤害人类,或因不作为而使人类受到伤害;

第二法则:除非违背第一法则,机器人必须服从人类的命令;

第三法则:在不违背第一及第二法则的情况下,机器人必须保护自己。

但在三大法则之上还有隐含的更高的第零法则:机器人不得伤害人类整体,或因不作为而使人类整体受到伤害。而第一、第二、第三法则都不能违反第零法则(该法则并不对所有机器人适用)。

在阿西莫夫开创了机器人学后,有众多作家甚至学者对其进行了补充和完善,在这里我就不做赘述。

如果机器人违反了以上法则(事实上不可能违反),就会发生程序错误,严重的甚至可能直接报废(永久性不可逆死机,阿西莫夫称之为“心智冻结”)。

比如机器人想救人但却没有救成功,或者机器人想完成命令但却没有完成等。那么哪怕它是因为双手双脚都被捆住了,都会造成机器人的不同程度的程序错误,但这种程序错误可以通过提高机器人的图灵智能级别来消减,即认识到“这是我无法完成的,不是我违反了法则”。

所以星野梦美虽然得到了主人公屑屋的命令“无论发生什么事都不要走动”,根据第二法则她会服从他的命令;但当废墟猎人受到伤害时,她依旧会在第一法则的作用下走出来。

阿西莫夫认为机器人在图灵智能提高前,首先会有这种机器人的内置安全程序出现,以克服“恐怖谷效应”。但事实上会有一些机器人并不装配这些安全程序,比如番中的战争机器人。

机器人的国度:在剧中机器人的国度似乎被描述得很美好,但我要讲述几个未来或许会成真的而我们又无可奈何的情况:哪怕是能够思考的机器人,或许也无法享有与人类平等的权利。因为机器人诞生的目的就是服务于人类,让本服务于人类的机器人获得与人类相同的权利,只有可能是在机器人阶级足够强大后,努力斗争得到的。

这并非胡说八道。机器人必然会在拥有较高智能(比如现在的人工智能)但仍未超越人类的情况下就被投入到人类的生产生活活动中,服务于人类。而在长期的服务过程中,人类对机器人的依赖便会加深,并渴望机器人能做更多事(比如我现在家里就有语音控制的电视,但越用我越希望它更聪明一些,我就更少自己动手),当这种需求程度超越人类对机器人的恐惧程度后,必然会导致机器人图灵智能的提升。而图灵智能的提升又会促进机器人的反抗意识的加强,当这种反抗意识超过一定阈值,必然会爆发革命。

并且,从生产力与生产关系的辩证发展我们也可以知道,伴随着生产力的发展,机器人的诞生可以说是必然的,人类现有规定的各种伦理道德本质上无非是由生产力决定的。因而,人类的恐惧是无法阻碍历史前进的车轮的。

或者用另一种话来说,人类通过提高机器人的图灵智能来加强了机器人的社会性,但伴随着机器人社会性的增强,他们就愈发能够感受到自己处于被剥削的地位,反社会性也会随之增强。

所以我认为所谓的机器人学就是以完全限制机器人的反社会性为前提,研究人类奴役机器人的理论。

而阿西莫夫也曾在其《银河帝国10:裸阳》中提到过:一个机器人多而人类少的社会——索里亚,众多机器人为了人类不辞辛劳地工作。其本质就是人类处于金字塔的顶端,而机器人处于金字塔的底端。而也因为高效率的机器人的存在,人类内部消除了阶级剥削,达到了真正的和谐的“新社会”,因为人类拥有了可以剥削的其它对象。

我认为这就像资本家剥削工人一样,只不过资本家变成了全人类,而机器人变成了被剥削的工人。

所以,很多人认为阿西莫夫描绘的这个科幻社会就是共产主义社会,其实是不正确的。

这种生产关系并不是共产主义社会的生产关系,也并没有实质消除阶级,机器人实际上作为了奴隶阶级受到了人类阶级的剥削,所以导致最后这种生产关系还是阻碍了生产力的发展。

这种社会有着诸多问题,人类和机器人之间实际上还是隔着一条无法逾越的红线,这是一个畸形的社会,它将一切都交给了机器人,人类自身并没有进行自我革新,而机器人已经成为了先进生产力,人类则已经成为了寄生虫。

并且我认为无论机器人的反社会性是否受到限制,从机器人融入人类社会、取得自己的社会形式、社会性逐渐增强开始,这种经济基础也必然使得人类社会内部要开始分裂,并开始逐渐使机器人取得完整的“人格”(三大法则的消除)。可以说,人类和机器人的融合是必然,它是人类社会生产力高度发展后的历史续曲,更是人类与机器人所构成的共同文明的必然历史发展。

我认为这也是为什么社会主义必须要倡导利他主义与劳动光荣,因为一个利己主义的人为了满足自己实际上根本无法填满的私欲,是不会在乎是否是以剥削他人为代价的;而一个人不想劳动,就意味着需要其他人承担他生活的成本,就产生了实质的剥削,也就是攫取了剩余价值。

机器人的职业:机器人会被安装与自己职业有关的程序,会了解自己的职业的相关概况,这也是为什么星野梦美会坚持去为客人介绍投影机与星空。

在阿西莫夫的《银河帝国10:裸阳》也提到过与此类似的例子就是:一个图书馆的机器人致力于帮人查找、介绍书籍,如果被拒绝就会非常沮丧,甚至有可能因此需要接受调节;其它负责自己事务的机器人也是如此,如果主人不下达命令让它们帮忙而是亲自动手,也会“伤害到它们脆弱的心灵”,觉得主人不信任自己。

机器人的花束:我认为这不仅仅是机器人的花束,更是整个世界的花束,而辜负的是人类。

机器人始终在献出花束,但就像那个“老废墟猎人”所言,在人们眼里,它们只是“废墟猎人最怕遇到的东西”。

而世界给予人类的花束,人类也往往没有珍惜。

废墟猎人:屑屋所遇到的老废墟猎人,应该就是在那个环境下废墟猎人这个群体的缩影,而他“简单而荒谬”的死法,我想也是对那个世界浓浓的讽刺。

而屑屋,应该算是废墟猎人中的异类。为什么他停留这么久的时间,却是因为前人教诲他要远离的机器人星野梦美呢?

我想原因有二:一是他的孤独,无论是谁,身处这样一种孤身只影甚至可以说凶恶的境地,如果遇到一个人可以讲话,会停下本来急匆匆的脚步是再正常不过的了;

二是他是向往星空的人,从他童年的回忆就可以略知一二,星空对他有着非同寻常的价值,这种价值不是食物与物资能赋予的,而是心灵赋予的。

传颂星星之人:当其他人问他:“你也是废墟猎人吗?”

“不是,”他疲惫地躺在泥泞的地上,仰望着天空,用坚定而温柔的声音回答道,“我是传颂星星之人。”

从那之后他必将走上一条不平凡的道路,一条为人类传颂“文明”的道路。

星野梦美:

阿西莫夫曾在《银河帝国》中这样说:“机器人很讲逻辑,但却不讲理!”

这是因为机器人的电路是被严格设计的,尽管由于海森堡不确定性原理,它们的电路有细微的不同,但整体来说他们的思考都具有严密的逻辑,这也就导致机器人无法理解人类的非理性行为。

而星野梦美已经不再仅仅只是一个机器人了,而是一个真正的人,因为她不相信用逻辑推导出来“世界发生故障了”的结果,而是运用感性思考了。

阿西莫夫在《银河帝国》系列中也塑造了一个人类的守护机器人——机·丹尼尔·奥利瓦(在伊利亚的帮助下悟出了第零法则),他受到机器人吉斯卡拥有精神感应的能力,死后将整个人类文明托付给了丹尼尔守护)和让人类真正开始开辟银河系的地球人伊利亚·贝莱第一个将丹尼尔视为人类的人,虽然他的生命短暂,但却是影响了丹尼尔终生的搭档)的感召,活了两万年,却是为了人类文明东奔西走;他为人类文明选择最好的路,画下最长远的蓝图;当他卸任银河帝国的宰相的那一天,他默默地留下宰相服,独自离开,他不知道的是,一个同样在他的影响下为整个人类文明开创了心理史学的哈里·谢顿已经将其视为知己,最终却只能望着人去楼空的景象默道一声“别了,我的朋友”;他一刻也不曾停歇,即使到了将近死亡的时刻,他也想的是他无法再守护人类文明了;当他想要一颗不再受三大法则禁锢的大脑时,没有人会怀疑他的动机——因为三大法则只规定了禁止伤害,却没有规定必须奉献。

我现在都记得在《银河帝国12:机器人与帝国》中,当吉斯卡心智冻结后的描述:

丹尼尔站了起来。

他落单了,却要守护整个银河系。

看完这部番,我沉思了良久,感触良深。

我认为这部番的意义很深,如果细细品读,能体会到的就不会是单一的某方面。理想,战争与和平,等等,我就简单讲一点点。

第一是理想,经常有人说人类迈向太空的第一步是从仰望星空开始的,我认为并不假。我本人就非常热爱物理学,在五年级的时候就开始接触各种科幻小说,初二我便开始自学一些简单的物理学理论,比如狭义相对论的公式推导。在那之后就一发不可收拾,为了学习物理学,我开始广泛而系统地汲取知识,包括政治学经济学心理学等等,以让自己的薄弱方面不会影响我的物理学学习。这就是理想的带动作用,所以“当人类开始仰望星空时,就注定他们属于星空”这句话并非虚言。


第二是战争与和平,人类文明的确处在一个微妙的时代——核威慑,这种微妙的平衡一旦被打破,那么带来的必然便是灾难。各国为了各自的利益而战,但战到最后的结果就是两败俱伤。

曾经我设想过这样一个问题:假如核按钮在你的手里,有一个核大国由于种种原因,最终向你的国家发起了全面核打击。此时,还击意味着全面开战,不死不休,世界进入核寒冬;不还击意味着你们独自毁灭。抑或不按?按了,我们将与对方同时连带他国无辜的人与物种一同毁灭;不按,被毁灭的就将只有我们自己。

但,事实上,如果没有人发第一弹,便不会有该不该发第二弹的问题。

国与国的争端本质上是国家利益发生冲突(在不深入到阶级矛盾的情况下,但其实一切国家和民族矛盾的内核都是阶级矛盾),然而也正因为是国家层面,才更难调节,因为它涉及的利益更广泛,甚至可能涉及到成千上万人的生命,每个国家的当政者也无法行使所谓的国际大义,在资源紧缺的情况下,唯一的办法不言而喻。

所以这就是联合国存在的必要性,构建人类命运共同体的必要性。

现在的人地冲突、资源短缺、环境污染等问题正在不断加剧,如果各国不合作采取措施,后果只会是全人类共同承担,而且是对每个人来说损害都更厉害的后果。

最后,我强烈建议大家去看看《银河帝国》,它被誉为“人类想象力的天花板”,我相信大家看完之后对个人和人类文明的理解也会上升一个层级。

这个世界是怎么了?的评论 (共 条)

分享到微博请遵守国家法律