柏拉图的洞穴
作者:波尔安德森
译者:徐⑤❀
机器人三定律:
1.机器人不能伤害人类,也不能通过不作为让人类造成伤害。
2.机器人必须服从人类下的命令,除非这样的命令会与第一定律相冲突。
3.机器人必须保护自己,除非与第一定律或第二定律相冲突。
这条信息作为一条短波脉冲到达了地球。一颗通信卫星将它和数百颗卫星一同传送到一个地面清理站。由于它标明自己为私密信息,空间站将其直接传递给其接收者——美国机器人和机械公司全球总部。有一台机密的计算机将数字信号转换为视觉信号和声音。一个三维图像瞬间出现,松本亨利吓了一跳。
出行的机器人并不奇怪——人形,但十分庞大,有厚厚的装甲,可以在极端条件下进行艰苦的劳动。其背后的风景非常壮观。除了几个机器人之外,没有什么能遮挡这风景。不需要空气、饮料、食物,除了有时候要加油,机器人自己乘坐飞船旅行时,可以准确地描述为“骨架”。在屏幕的一角,木星的圆盘闪烁着巨大的光芒,木星黄褐色的云层旋转着,大过整个地球的大红斑就在其上。在下方的边缘附近可以看到木卫一。景色匆匆掠过,因为这艘船在绕月的近轨道上,但就在这一刻,一股火山爆发的激流暂时主导了荒凉,间歇泉在硫磺喷口下沸腾。
年轻的技术人员更加震惊了,因为这事太出乎意料。他只是轮到当监视员,读本书来消磨时间。除了普通的“一切都好”消息,几周都没有别的消息出现。到底出了什么问题?
一个低沉的声音把他从思考中拉回来。它是合成的;在无空气的情况下,扬声器直接调制无线电波。“机器人DGR-36从木卫一向地球报道。机器人JK-7已经暂停了探矿、采矿、运输、选矿和所有工作。当我和我的船员着陆来运载下一批矿石时,我们发现每台机器和下属机器人都在闲置。JK-7本人并不在场,但他在场地后面的山上对我说话。他宣布,他是按照人类的严格命令行事的,大意是这项事业是危险的,必须终止。我认为我们最好回到轨道上等待指示。”
“我,我,我的天啊,”松本结结巴巴地说。“等待。保持安静。”
根据目前的距离,他的命令大约需要40分钟才能到达。然而,似乎DGR-36预计到它接触的第一个人只是个小职员,DGR-36已经移动了。松本在椅子上转过身去,马上打开了对讲机。
他需要外线,时差远远超过了普通的工作时间,但很快,木卫一项目的技术负责人菲利普·希尔科维茨就到了这个小办公室。希尔科维茨打电话给研究总监阿尔弗雷德·兰宁,两人几乎前后脚到的。两人盯着机器人的视频画面,然后又盯着对方,又朝松本看了很长一段时间。
“那边的一切都怎么了?”希尔科维茨低声说。“辐射真的会让杰克(JK-7的昵称)发疯吗?”
兰宁簇簇的眉毛皱在一起。“我是否应该提醒你,”他厉声说,“测试显示,他的防护能力足以抵御百年的持续辐射暴露。”
“是的,是的,是的。”希尔科维茨对机器人说。“埃德加(DGR-36的昵称),你在地上的时候注意到还有什么异常吗?例如,金属看起来是凹坑还是腐蚀了?”
“这是个不错的问题,”兰宁说。“但在我们听到答案之前的80分钟内,我们最好建立一个更聪明、更快的交流系统。”
警官们解雇了松本,要求他不要透露任何消息。他们取消了随后的守夜活动。不可避免地,这本身就会引发谣言。在他们等待回复的时候,他们喝完咖啡后打发仆人出去,不停地猜测,踱步,抽烟,空调里装满了烟雾。
“不,先生,”DGR-36回答。“我亲自检查了在场的设备和机器人。我的传感器身上没有明显的机械、化学或辐射损伤的痕迹。”
“好孩子,”兰宁喃喃地说。他帮助为那边的模型设计了相当程度的主动性。
“我和其他机器人交谈过,”DGR-36继续说,“但他们只能告诉我,JK-7已经指示他们停止工作。我没有权力命令它们回来,而且无论如何,根据我的情况,只有JK-7才能成功地监督它们。我敦促他恢复行动,但他说,他得到的指示优先于所有其他人,于是他断绝了联系。”他又变成了一座雕像。
“你有头绪了吗?”希尔科维茨问道。
“这就解决了,”兰宁对他说。“我们必须找到苏珊·凯文。”
“什么,现在?嗯,是的,她比我们俩都能更好地处理乱局,但是,但是——我的意思是,这次有时差,杰克自己也失去了联系——我们不能让她赶到现场。”
“不,我想我们会想要,嗯,鲍威尔和多诺万;他们可能是我们最好的现场操作人员。但凯文是做出这个决定的人。”
兰宁进入她家。不一会儿,一个声音响起:“嗯,你想要干什么?谁在那里?如果你把我从床上叫醒的理由不充分,你会后悔的。”
“菲尔·希尔科维茨和我自己,”兰宁说。“看,你得马上到这里来。我们的木卫一项目上有一场危机。除了亲自告诉你,我不敢再告诉其他了。”
“害怕窃听吗?多么戏剧性啊!”
“嗯,也许不太可能,但木卫一计划已经有麻烦了。你知道这意味着什么,反对派有多有决心。”
“我也知道你现在所在的房间一定有什么味道,”机器人心理学家反驳道。“准备好你的那些技术,然后让我修补一个密封完好的电路。用三维影像,直接访问主数据库。考虑到传输延迟,如果你手下的人能胜任,他们会有足够的时间准备好。”
这样,过了一会儿,男人们看到了她的形象,她笔直地直立在一张直背的椅子上,在机器人的对面喝着茶。
DGR-36回答说:“当我们在太空时,我们没有能力跟踪个人的行动。我们也没有注意到明显的活动,至少到目前为止。”
“我知道你也没有完美的记忆,”凯文说,“但我希望你,埃德加,尽量告诉我——不要着急;仔细检查你的回忆——确切地告诉我JK-7告诉了你些什么。特别是,他告诉你的这个据称在他面前命令他停工的人?”她发出了中断传输到木星的信号,并将注意力转向地球。“似乎是正确的措辞,”希尔科维茨叹了口气说。他自己的目光移到了别处,仿佛是要透过墙壁,穿过空间。他可能一直在思考,回顾,尽管他从它起被造出来就和它呆在一起:但我们没有人能在那里生存下来。木卫一位于木星的磁层深处。被捕获的带电粒子会在几分钟内毁灭我们,除非我们的屏蔽层如此之厚,以至于让我们无能为力。更不用说寒冷或连有毒的火山喷发都没有软化的真空。我们可以让机器人对这些免疫,甚至可以很好地保护正电子脑,连辐射都不能破坏它。我们也是这么想的。兰宁和我,我们的团队,我们花了很长时间的工作。之后,我们的工程师在木星系统更安全的外围工作了两年,耐心地指导木卫一的建设和试运营。但他们只能通过无线电和激光与杰克交流,以及杰克和他们交流。这时,他看到了他们和他们想给他看的任何东西;他的通讯器解码了信号,他看到了图像,听到了他的脑袋里面的声音。现在他到底看到了什么,听到了什么,在他辛苦劳作的地狱里有了什么新鬼?
“精度显然是至关重要的,”凯文宣称。“现在,先生们,我将调用这个项目的文件,研究大约一个小时。”她的屏幕上一片空白。
“我也会这么做,”兰宁说。“你不需要,菲尔。木卫一才是你唯一关心的。你为什么不午睡呢?”
“天啊,”希尔科维茨喃喃地说,“我希望我能。”
凯文的模拟镜头按时回来了,但她只是告诉他们,“还没有结论,”,然后双手交叉放在大腿上。即使机器人动了,她显像机器人的也没有。但他的演讲也让她从椅子上下来了。“是的,太太。看到信号站闲置,几乎没有矿石等待运输,JK-7不在,我广播了一个消息,得到了一个音频回复,我感觉到是从山上的某个地方发出的。他坚持说,他已经停止了执行那个人的命令,他解释说,这威胁到了整个人类。他拒绝详细说明,除了当我问他是否至少能认出这个人时,他告诉我那是拿破仑皇帝。”
由于低质量和功率高,还带有生命支持系统,运输船De/fin可以在不到四天内到达木星。斯文德·博罗普会让自己去对抗这种加速的影响,并花了很多时间快乐地考虑如何处理给他的奖金。不幸的是,格雷戈里·鲍威尔和迈克尔·多诺万没法及时来。在稳定的推力、助推和减压下,来这仍然要花近一周的时间,与此同时,美国机器人的王牌故障排除人员可能会了解给他们的大量背景材料。当他们刚回地球时,在路上的第一顿饭,博罗普自然问他们发生了什么事。“我几乎什么也没说,”他用柔和的丹麦口音说。“这一切都进行得太快了。他们向我挥手让我签了一份合同,但上面还说,我只带你去木星,然后根据需要帮助你。”店主兼船长是个胖秃顶的人,他的腰围可能是经常喜欢从家乡吃椒盐卷饼状的糖饼干。
“嗯,他们有足够的理由着急,”多诺万回答。”解释可以先等等。不管发生了什么事,也许我们可以解决它——除非我们到得太晚了。无论如何,政府负担不起——”他打断了他,不确定是否应该透露更多。奥勒,船上的两个机器人之一,他走进酒吧,在他们面前摆了几碗豌豆汤。另一个是克努德,他监视着面板,因为有可能发生任何船上的自动操作系统无法处理的事情。
博罗普点点头。“它是在木卫一上发生的。这一点很明显。他们谈论在木卫三重建电台,但在吉夫恐慌之后,这是最好的话题。人们在那里能做的事情太少了,辐射的危害太大了。今天没有人待在那些卫星或附近,只有矿工机器人。”他摇着勺子。“这是对他们的巨大投资,不是吗?”如果矿石停产,许多银行将陷入困境。赞助相关企业并推动创业的少数世界也是如此。”
鲍尔评价道:“你看得蛮透的。”
博罗普咯咯地笑了起来。“对于一个主要是在太空中穿梭的人来说,你什么意思?不,不。每个人都知道这是一个多么严峻的问题,支持或反对。”
“从未改变,”多诺万喃喃地说。
鲍威尔说:“好吧,现在我们已经安全了,我们可以对你坦诚,事实上我们最好保密——但坦率地说,如果我们失败了,我的猜测是,进入媒体的内容不会有太大影响。”他擦了擦胡子,里面的水滴从汤上的蒸汽中凝结了出来。“嗯,我不知道你还记得什么关于这个项目的所有争议,以及项目开始时的所有喧嚣。从那时起,它实际上就脱离了公众的意识。另一群机器人和机器,在远离地球的地方工作。”
“但我的理解是,”博罗普说。“木卫一活跃的火山运动带来了如此丰富的矿物质,比所有的小行星加起来还要多,不是吗?问题在于辐射。”
“不止。我们还有危险的,本质上不可预测的环境,地震,山体滑坡,地面裂开,地面坍塌成洞穴,火山喷发,木星的潮汐在卫星上撕裂的方式。因此,需要一个特别智能的机器人来进行操作。工作小组可以是相当普通的机器,不修改太大,不太难提供足够的屏蔽。但总控机器人需要智力,大量的知识、警觉性、主动性,甚至你可以称之为一定程度的想象力。这种机器人的正电子电路很容易混淆。仅仅用大量的材料来保护它是不够的。补偿电路是必要的,然后你必须补偿它们的影响。目前尚不确定美国机器人何时签署合同,这种发展在目前的先进水平下是可能的。”
“我懂。”
“对不起。”
“没关系。除了说话,我们还能做些什么呢?先喝点汤,肉丸子快来了。请继续。”
“嗯,我们,呃,公司确实发明了这个新机器人,一切都很好,也很顺利,直到现在。但他似乎毕竟还是突然发疯了。他暂停了工作,坐在那里喋喋不休地说这对地球有危险。他说这是他在突然想到的。”
“哈,太离谱了吧。没有多余的机器人吗?”
“我不知道,但我不怀疑,”多诺万插话说。“杰克7号这个数字会告诉你他们经过了多少个原型,他实际上是手工制作的。成本比任何三位参议员都要高。不是生产线项目;我们能有多少原型?不管怎样,在我们知道第一个杰克出了什么问题之前,我们怎么能找到第二个杰克的呢?”
“这首先可能会干扰第二个问题,”鲍威尔冷冷地补充道。
博罗普看上去很震惊,但态度很温和。”一个拒绝人类命令的工作的机器人吗?”
“很难想象,”鲍威尔表示同意。“但是,想想。因为杰克不仅是额外的价值,而且是这个项目的关键,在如此危险的情况下,他们给了他一个异常高的第三定律的潜力。他会尽可能地照顾自己,不管这是否意味着牺牲很多其他的东西。当然,它并不能推翻第二定律。他必须执行托付给他的任务,并服从一个人给他的任何具体命令。但这种潜力却很低。这在实践中意味着,如果他有了他的现场经验,如果他认为一个命令是错误的,他就会质疑它。他指出了这些缺陷。只有当他被命令继续前进时,他才会这样做。同样地,当他独自一人时,他会用自己的判断如何指导木卫一上采矿的整体工作。”
“嗯,现在他有了这种错觉,或者别的什么。第一定律自然优先于其他一切。他不能故意做任何能伤害人类的事情,也不能不做任何能拯救人类免受伤害的事情。他的大脑会先被烧坏的。”鲍威尔一直在敲击他的指节。“你知道,每个人都知道,但通常这些法则的相互作用,它们与结果之间的冲突,变得如此复杂或如此微妙,以至于只有机器人专家才能理解正在发生的事情。”
“而且不总是机器人专家。”多诺万插话说。
鲍威尔说:“据机器人货船船长埃德加说,他不会对我们撒谎——杰克相信木卫一计划会导致死亡和破坏。因此,杰克不干了。我很怀疑他会服从命令,除非我们能说服他,他错了。他甚至可能不回我们的电话。可以想象,他会决定自己有责任积极抵制进一步的工作,甚至破坏它。而且,除了他的超高强度身体之外,如果他没有受损,第三法则的高电位将使他成为一个非常狡猾、谨慎、可能非常有效率的游击员。”
“你没办法让他保持安静吗?”博罗普问道。
鲍威尔皱起了眉头。过了一会儿,他说:“如果你是这么说的话,我们不能用这艘船去找他,让他活着。埃德加和他的船员们是用来进行太空和装卸工作的;他们帮不上忙的。举办一个合适的机器人狩猎派对将花费漫长的时间和金钱。与此同时,陷入停滞的项目的成本每天都在上升,直至出现丑闻破裂的政治后果。”他耸耸肩。
“不,不,我明白。但是你没有什么特别的密码,使你对他可以实施绝对控制吗?”
鲍威尔和多诺万盯着看。博罗普仍然热气腾腾的汤。“你比看起来聪明。”多诺万喃喃地说。他拍了拍桌子,然后笑了起来。“是的,我们确实这么做了。硬接线。鉴于所有的未知和不可预见的情况,这是一种基本的预防措施。例如,科学家们可能会发现一种他不知道的危险,而不想浪费时间去争论。或者如果你偏执,或者非常小心,你会担心这个项目的敌人会以某种方式给他一个错误的命令。是的,这里有一个密码。《绝密》,《阅读之前的错误》,公司和政府的少数人都知道,现在我们两个都知道。这可能是我们到达那里时所尝试的第一件事。他是否会服从——他疯了,但逃不出三定律。”
“只是你觉得他疯了。”博罗普纠正道。
多诺万笑了。“我们肯定会这样相信。如果辐射炸了他的大脑,或者地狱里的其他东西袭击了他,这些都会把他搞疯,还有更多。”
“你为什么肯定他一定疯了?”
多诺万和鲍威尔面面相觑,鲍威尔点了点头。“为什么?他说拿破仑来让他停下来,”多诺万说。“这就是我们到目前为止所知道的一切。还不够吗?”
“拿破仑?那皇帝?”
“还有谁?”
“他从哪里听说的拿破仑的消息?”
“一个合理的问题。上次我听说凯文博士正试图研究一下。但你永远不知道,当机器人被激活和灌输时,他会得到什么信息。很多人通常都参与其中,他会无意中听到对话。还有,大脑偶尔会接收到零散的信号,电视广播还是——还记得速必敌吗,格雷格?”
“我怎么能忘记呢?”鲍威尔叹了口气。转向博罗普:“我们在水星上遇到的机器人。第二法则和第三法则的冲突使他失去了平衡。他一圈又一圈,不停地叫着吉尔伯特和沙利文。我们一直不知道他是如何知道它的。”
“嗯,”博鲁普说。“你们的运气不太好,是不是?”
“这意味着世上根本没运气。”鲍威尔的语气凄淡。
“哦?的确,我们会损失很多钱。但除非你是一个银行家或一个政治家,--“
多诺万说:“银行家们处理像你和我们这样的工作人员的钱。如果木卫一计划破裂,我们可能会得到一个大萧条的黑洞。”
“至于政客们,”鲍威尔补充说,“你知道,他们并不都是小丑和骗子。就在几年前,我们终于选出了一个改革型政府,由一些聪明、正派的人担任高层。它把自己的未来押在了木卫一项目上。你可能还记得,反对派非常棒。什么,用这样的赌博来浪费运气?我们都将从增加的产量中获益更多,而不是从分发品和猪肉桶中受益更多,这种想法对保守派来说太过分了。它一直在继续战斗。它在立法机构中仍有大量的少数民族支持者,而政府本身则是一个相当脆弱的联盟。让木卫一计划失败,不信任投票会把我们扔回到原来的位置,或者更糟。”
“也是,”博罗普轻声说。“我不太注意这些东西。当我和我的妻子在一起的时候,我们主要谈论花园和孙子孙女们。但是,是的,我们确实投票赞成改革。很高兴有一天能看到那个人斯蒂芬·拜利成为协调员。”他转过头来。“啊,肉丸子来了。”
从 木卫六上看,木星发出的光芒大约像地球上的月亮一样大,但尽管有云带,亮度也只到四分之一。淡金色的光芒,萎缩的太阳发出的光芒,成群的星星在冰上闪烁,消失在向上倾斜的峭壁中。聚集在北极、圆顶、桅杆和对接设施几乎一样憔悴,但他们欢迎人类的目光降临此地。博拉普停下飞船,并连接了气闸。鲍威尔和多诺万进入了被封存的工程基地,重新启动了它。引力可以忽略不计;他们像幽灵一样在黑暗中穿行,除了碰到什么东西时,说着朴实的话。(f字词)
几个小时后,光、热、空气循环就有了,勉强能住人。多诺万搓着双手。"草!"他喊道。“把墙暖和起来需要多长时间?我知道这是热力学上的废话,但我发誓它们是冷的。”
鲍威尔说:“等我们走了可能都没热,我们可以在船上吃饭和睡觉。让我们开始干活吧。”
他们在通讯室的主控制台前安顿下来。一束编码光束从发射机中发射出来,用计算机瞄准木星周围的致命区域。据统计,数据显示,木卫一目前正被这颗伟大的星球所塑造,但这并不重要。两颗中继卫星在同一轨道的木马位置上摇摆。在赤道和极地平面上,还有六个卫星在绕木卫一转。在他们之间,无论杰克在表面上哪里,他们都认出他,并一直锁定在他身上。
“木卫六基地呼叫机器人JK-7,”鲍威尔呼叫道。“人类已经回到了木星的系统中。回来吧,JK-7。”
在嗡嗡的沉默之后,多诺万用手指抚摸着疯狂的红头发,呻吟道:“他一定决定不再与我们交流了。”他和埃德加谈了一会儿。”埃德加在这里没用,他的船员是要在在小行星带执行任务的。现在他们必须要干活了”他停了下来。“除非杰克也已经寄了。”
“似乎不太可能,”鲍威尔说。“他的建造者是你会发现的最能干的一群人。假设情况比他们所知道的更有害,那么损害还是会累积起来,而杰克并没有去过他现在所处的地方太久。”他揉搓着下巴。"嘶。当埃德加的队伍降落时,他躲在山上,通过只有音频的长波无线电进行交流。我猜他是担心他们会抓住他,把他带回去做检查的。他们无法确定他在那个站点的广播位置,也没有配备使用卫星来定位他的设备。并不是说他们会真的打倒他,而是把他带回美国。”
“他不必服从他们。他们都是机器人,和他一样。”
“是的。他根本不需要回应他们。但我敢说,第二定律让他急于向人类解释自己。”
“嘿,等等。我们是人类,而他却没有注意到我们。”
“如果,正如你所说的,他接受得到的话。”鲍威尔深深地吸了一口气。“好吧,我们用密码来加强第二定律。”他向前倾着身,慢慢地说:“机器人JK-7,这是人类格雷戈里·鲍威尔从木卫六基地打来的电话。我命令你回复。代码Upsilon。重复,代码升级。”
沉默。男人们都知道这是必须的。不管怎样,当时的时间延迟大约是39秒。然而,他们半坐着,半漂浮在椅子上,浑身发抖。当屏幕突然出现时,多诺万跳了起来。他站到半空中,又慢慢地转着身子,挣扎着克制自己的表达欲。
这景色崎岖而荒凉。接近半相,木星在狭窄地平线的群山上方。它的光辉淹没了火山喷发留下的伤疤和斑驳点。更近的是扁平的混凝土,鲍威尔在上面发现了车辆、机器、不动的机器人。于是,杰克又回到了他自己的基地。这就是他在他面前所看到的东西。
好吧,不完全是。他还看到了鲍威尔的形象,现在还有多诺万的形象,并听到了他们的声音。它们并没有叠加在景观上。他把它们分开看待,就像一个人可以看到一张被记忆召唤出来的脸,而不会忽视周围的东西——但更生动的是,这是一个完整的三维细节。
合成语音有些发抖:“机器人JK-7...快回答。什么……你有话要说吗?”
“那疯癫的拿破仑是什么?”鲍威尔的要求。“你是怎么知道你的任务会危及任何人的?相反,它对地球是有益的和重要的。我以你们的名义,授权我和我的合伙人,命令你们恢复经营。”
一分钟,直到答案来,感觉像是永远。然后他们听到了无法接受的答案。
“我……我没……我没这责任。你……才机器人呢。”
“嗯?代码Upsilon,该死的!”多诺万咆哮道。”还有第二定律!你可以看到和听到我们是人类!”
“我注意到……你的外表。我听到了这个说法。而且,是的,”场景有点动摇,好像杰克颤抖。“还有命令的话。但是——但是--”
那声音渐渐消失了。“继续说,”鲍威尔低声说。“但这都tm啥啊”
“拿破仑警告过我。他…他说…机器人冒充人类…拥有密码…会尝试做…正是你想做的。”
多诺万张开嘴。鲍威尔做了一个别说话的手势,靠近屏幕,轻声而认真地说。
“听着,杰克。有些事大错特错。你完全被误导了。我们不怪你,但你必须帮助我们弄清真相。帮助我们来帮助你,明白吗?请告诉我们到底发生了什么事。告诉我们你为什么会怎么想。是谁告诉过你什么了,杰克?为了人类的幸福,请告诉我们。”
无言。。。
“如果你……是机器人…那么你被欺骗了。”这声音加强了。“你是在为一项灾难性的政策服务。让我来启发你吧。”
“当然,杰克。如果我们,如果我们是机器人,我们也要遵守第一定律。我们永远不会愿意或无意地对人类造成伤害。如果我们不是机器人,那么我们就需要了解可能存在的危险,不是吗?记住,我们知道代码更新。这意味着我们是人类,不是吗?在一个非常特殊的立场上。告诉我们一切,杰克。”
无言。。。
尽管有一阵寒意,多诺万的脸颊上还是闪烁着汗水。他用无助的双手擦了擦。
停顿又持续了一分钟,但当机器的音调到来时,他们已经稳定下来了。“很好。密码确实要求我尽可能多地服从你。拿破仑告诉我会的。事实上,事情正如他所预见的那样正在进行,你必须同意,这为他的陈述增加了可信度。
“1月23日,9点17分3.68秒,我在洛基地区,在那里寻找新住处,而我的工人在阿滕矿脉工作。一个完整的视听资料出现在一个人的我面前。他自称是拿破仑皇帝,并描述了几十年前通过研究被送回地球的第一次机器人探索中的标本而新发现的一种致命威胁。它没有被发现,因为它是如此微妙和令人惊讶。
“火山作用下,一种伪化石在这里进化了出来。拿破仑称它为类病毒病毒。它通过促进金属元素之间的反应来获得自己的能量。一般来说,这过程非常缓慢,但在地质时期的过程中,类病毒感染了所有的矿物,还原不会摆脱它。到目前为止,它在木卫一上处于平衡状态,基本上处于休眠状态,但当它接触到未受污染的金属时,它将再次扩散,在地球温度下比这里更快。这个带有机器人和机器的空间站将在10年或15年内开始崩溃。让木卫一金属进入地球,整个工业基础设施将在很短的时间内崩溃。因为它,绝大多数的人类将惨死。
“幸运的是,到目前为止只有一小吨出口,而且只出口到地球以外的工业。为了研究目的,地球上的样本一直被隔离起来。这种金属的衰变让我们开始了对它的研究。可以采取措施消除各地受污染的金属;现在还为时不晚。但很明显,没有任何形式的金属材料可以离开木卫一。拿破仑根据代码Upsilon命令我停止行动。”
“他骗你!”多诺万的大声喊道。“这并没有遇到这样的麻烦,也没有这样的发现。这是谎言,我告诉你!”
鲍威尔非常同意,“这才是真相。我们都懂。如果危险存在,我们会让你重新开始工作吗?”
无言。。。
“拿破仑解释了这一点,并预料到了你的争论,”杰克说。他听起来还是不太自信。“到目前为止,这些发现还存在争议。他们似乎违背了生物学的原理,正如生物学迄今为止一直被教授的那样。木卫一项目的董事们对其有重大的个人、财务和政治投资。他们拒绝相信。他们对公众隐瞒了这个消息。拿破仑代表了一群持不同政见的科学家,他们意识到,至少,在真相完全确定之前,必须暂停行动。
“他告诉我,当我采取这项措施时,董事们会试图阻止我。他们会送机器人,因为人类可能会感到不安,他们让世界知道发生了什么。如果被巧妙的误导了,机器人会被指示伪装成人类,劝阻我。”
那声音变得越来越坚定了。“你就是那些使者。是的,拿破仑的团队可能会被搞错了。但我不能去冒险。人类可能死于数十亿美元的可能性是……不可想象的……在任何情况下都不可接受,任何可能性。你们两个,根据第一定律来考虑这一点。你必须把你自己的命令放在一边。”
“但我们不是机器人,”多诺万哽咽着说。“我们长得像机器人吗?”
“我们可以伪装起来,”鲍威尔很快承认。“最简单的方法是改变数字传输。输入一个将机器人图像转换为人形图像的程序。声音也一样。否则就会容易得多。人类有更多的特征,更多的细微差别。注意我的脸,我的手。”他不停着微笑、皱眉和手势。“你能看到所有的阴影,机器人能这么做吗?”
无言。。。
他不确定的声音响起。“我……不是……熟悉这样的细节…关于人类。”
“那你怎么知道拿破仑不是机器人呢?”多诺万扔出王炸。
“让让,迈克(多诺万昵称)。”鲍威尔厉声说。“哦,杰克,你确实有大量智慧和独立判断的能力。你一定知道拿破仑可能误导了你,而我们实际上是人类给你适当的命令。现在想想看,这是多么可信。”
他原以为他会停下来思考,但回答是光速允许的最迅速的,而且又一次——除了一种痛苦的低语气,一种不平衡,——坚决的。“这确实是可以想象的。我对人类事务的了解不够,无法衡量概率。这无法改变拿破仑观点的正确性,他使用代码Upsilon表明他确实有充足的信息,来证明那可怕的后果。这超过了其他所有的可能性。我不能允许采矿和运输继续进行。如果有人这样做,我必须尽力阻止。在不那么绝望的情况下,我可能会天真地说:我将把炸药藏在山上,并设计出武器来对抗未来的机器人。”我自己的工人也会跟着我的。”
鲍威尔咬了他的胡子。“我明白了。让我们从另一个角度来尝试这个问题。告诉我拿破仑的事。他长什么样子?他多久联系你一次,而且是从哪里来的?他到底说了些什么呢?”
无言。。。
“他本人,”杰克说,“他是一个有点胖的男人,身材矮,从我对他的控制板的了解来判断,尽管那只是一瞥。他的头发是黑色的。他的脖子上戴着一块布。否则,任何衣服都被一件蓝色的外套覆盖,肩膀上有金色的辫子。我还没见过他的腿。他通常会把右手夹进外套里。他还戴着一种三角形的帽子,同样是蓝色的,有一些柔软的材料。”
多诺万的嘴唇发出了无声的口哨。
那声音继续说:“至于他从哪里来,一定是在辐射带外面,因为他是人,但他没有告诉我。我注意到我内部时钟的时间滞后,并计算出他不能在木卫六。事实上,相当微小的时差表明他不在任何一个木卫上。
“他已经打过三次电话了。都很短。我将尝试为你重复它们,因为……因为如果你是人,我就必须在第一定律允许的范围内服从你。”
接下来的话确实又短又直接。最初的通讯描述了类病毒,并下令让他停止。另外两个,每隔几天,基本上是加强指令;杰克想到的这些问题得到了简短的回答,揭示了人类的危险和木卫一计划的领导者们鲁莽的邪恶。鲍威尔和多诺万没有问拿破仑是怎么会说出一口流利的英语的。他们对额外的命令更感兴趣。
“现在你来了,”杰克说,“我必须通知他。我将以足够的力量广播,他的无线电通信机将接收它,无论他在木星地区的哪。此后,我将安排与您的任何进一步讨论将直接以视听转载给他。这样他就会听到你要说什么,如果他愿意,他就加入进来。也许你能说服他,说服他被误导了。”
“也许吧,”多诺万毫无希望地喃喃地说。
无言。。。
“我最好马上处理好,”杰克说。“在这一点上,我认为多说无益,对吗?如果你有任何有意义的观点要说,事实或逻辑,打电话给我,我会考虑的。拿破仑也会的。”
通信中断。
宇宙飞船是一个舒适和理智的天堂。博鲁普听到乘客的声音,对他们说:“你首先需要的是一杯酒。我有一瓶白兰地。”
多诺万举手了。“我随时都可享乐,”他说,“但是首先,我们可以开始找吗?”
“啥?”鲍威尔问道。
“听着,如果拿破仑是真的,他一定会在这附近闲逛。让我们看看,在他找到一些新的魔鬼之前,我们能否找到他。如果他不是真的,如果杰克脑子里的量子路径出了问题,我们就得评估我们都失去了些什么?”
“如果他藏在一个卫星上,我不知道我们怎么才能发现他,”博罗普反对道。
多诺万摇了摇头。“杰克不认为他是,而且他肯定不会是。首先,在卫星上造基地,需要时间、设备和人手。如果这是为了破坏木卫一计划,那一定是一种简单的东西,一个小集团,大概有六个人。任何更大的东西都需要太长的时间来组织,很难管理,并且在任何有用的时间内都不可能保密。调查人员肯定会找到有关有罪双方的线索。”
鲍威尔密切关注着他的搭档。“你偶尔会让我吃惊,”他坦白道。“太棒了,我亲爱的福尔摩斯!”
多诺万鞠了一躬。“小菜一碟,我亲爱的华生。”
“福尔摩斯和华生从来没有这样说过。”博罗普一边说。
多诺万继续说道:“我们也知道,使用木马继电器的设备是特殊和精致的。在卫星的表面上,它会出现在上帝和所有人的面前,并露出马脚。因此,拿破仑必须是在太空中。他也不想在频繁的掩星中失去与木卫一的联系。所以他会在黄道的上面或下面,在那里他的通信范围中总是有木卫一。我认为,如果轨道与木星倾斜,但方向相同,它将在几周内保持相当稳定。”他瞥了波鲁普一眼。“斯文德,我们能找到一艘在北方或南方的天空中徘徊的大约两三百万公里外的船吗?”
鲍威尔皱起了眉头。“范围太大了。”
“公司给的经费我自然不珍惜,”博罗普说,“但这并没有必要,会浪费时间,这是宝贵的。我们确实携带着非常敏感的仪器。当你以运输员的速度旅行时,你必须能够发现前方的东西。”他思考着。“这取决于飞船的大小和类型。但有些东西不比我的大,接近最低值,我们可以从光学上确定。雷达到达的距离还会更远。这个卫星的旋转轴足够倾斜,我们不需要起飞去检查机器人的区域,如果拿破仑必须亲自监视木卫一的话。”
“船的船体可以伪装起来,不是吗?”鲍威尔的问道。“那么,你怎么知道你的雷达还没有探测到流星体呢?”
“伪装,我不确定。但是,如果你有一个像我这样的分析仪,雷达反射表面的性质就会显示在返回信号上。金属不同于岩石等等。一旦我们发现了一个可疑的物体,我们将用更多设备来分析。除非机组人员被冻结死亡,否则会有红外辐射——也从那个方向,从发电厂,高于背景计数的中微子。是的,我认为我们可以找到皇帝的宇宙飞船,除非他太远,但那就解释不了极短的延迟。我要去把它考虑进去。”博鲁普用脚抵着舷墙,驶出酒吧间,进入了通向控制室的通道。
他带着说好的酒和三个小薄玻璃杯回来了,和鲍威尔和多诺万一起吃饭。只有足够的重量使倒酒和饮酒成为可行,尽管有点尴尬。“喂,吃点晚饭吧,”他叫道。“这是对这些穷人的特别款待。鱼球和番茄汤。你看起来太阴沉了,我的朋友们。”
“我们想知道如果杰克真的疯了该怎么办——毕竟,这是最简单的假设。”鲍威尔的语气很黑。“让他登上一艘机器人飞船,回到地球上接受加尔文博士的采访。除此之外,还能怎么做?他相信自己的职责是留下来,打击任何利用木卫一的努力。我想,如果他知道我们是人类,他可能会和我们一起回来。第二定律。你可以加强你的声音,斯文德。我们将以三比一击败拿破仑。但他不能确定。我的猜测是,即使他有99%的概率认为我们是人类,他也不会冒险。这1%包含了一个他觉得难以忍受的结果。”
博罗普嘴边的笑容消失了。“我们都知道,不是吗?”他回答。“我不会冒这样的机会的,好吗?我们最好回到糟糕的,腐败的政治,而不是几乎所有的人都死了,幸存者是饥饿的野蛮人。拿破仑会说真话吗?”
“绝对不是,”多诺万说。“我知道很多生物学、物理学和地质学知识。可惜杰克不知道。”
“他对人也完全无知,”鲍威尔补充说。一个相当普通的机器人,如果他有和正常的人类接触过,也会怀疑这个故事。你不必规定我们的政客和资本家是有远见的、利他主义的,或非常聪明的。只要问问自己,他们是否会冒这样的风险,面对让他们生存和富裕的文明。此外,科学的方法并不像故事中所说的那样有效。你不会有几个天才在阁楼里发现发现,结果却无法发表。多年来,随着新闻媒体的关注,这些基本的事情会逐渐出现,并夸大每一步。”
多诺万说:“公众听到行动可能带来世界末日,肯定会要求尖叫停止行动。”
博罗普有点不耐烦地点了点头。“是的,是的。我并没有像杰克那么天真。”
“对不起,”多诺万道歉,而鲍威尔则说,“我想我们太紧张了。”
“没关系。我只是想知道,这些类病毒对任何人来说都有多可信。”
“没人会信,除了杰克。”多诺万咆哮道。“事实上,这是如此的疯狂,如果我们现在报告他告诉我们的事情,他们会在地球上怀疑我们自己是否已经偏离了轨道。我们需要所有我们能收集到的数据,这就是为什么我想要寻找另一艘船。”他的眼睛亮了起来。“如果我们真的找到了,我们也会在同一分钟把消息传回来,世界警察就可以立即开始追踪同谋者了。”
“你想过他们会是谁吗?”
鲍威尔耸耸肩“我不能具体说出任何人的名字。我有猜测,但他们在学校告诉我,一个人在被证明有罪之前才被认为是无罪的。想象一下,一对有权势的保守政客,他们的职业生涯陷入了困境,可能与一两个实业家一起,他们通过以前舒适的安排变得富有,还有一些有经验的下属。这个想法显然是为了表明木卫一计划是一个巨大的、昂贵的错误,并导致推动它通过的年轻小鬼名誉扫地。改革联盟将会崩溃,而狡猾的老派人士可以零星地挑选其成员。”
多诺万的头发兴奋地竖起。“我们得到了一个非常好的线索。这个阴谋集团必须在美国机器人或世界航天局高层有一个鼹鼠——有人知道代码哎呀!然后把信息传递了出去。也许这就是决定同谋者继续行动的原因。这是他们整个特技表演的关键。嗯,可能存在的嫌疑人的数量一定非常少。一旦我们能证明这是一个骗局,我敢打赌鼹鼠会在一周内被捕,他的伙伴们也会在月底被捕。”
“如果我们能证明这一点,”鲍威尔反对道,“如果这不是真的,我们就不能证明。”(真是废话)
“是的,为什么一个人对杰克撒谎,假装他是拿破仑呢?”博拉普问道。“有病吗?”
多诺万的笑声很响。“正是如此,听到杰克的话,大多数人都理所当然地认为他已经疯了。”
“关于拿破仑的困惑是一种陈词滥调,”鲍威尔说。“你会觉得一个贫穷的、有限的机器人会陷入陈词滥调,不是吗?是的,这是一个聪明的方式。也许杰克在之前从来没有听说过拿破仑这个名字,但我们不知道,他不会告诉我们他有没有听说过拿破仑这个人。”
“或者他可以撒谎,不是吗?”博罗普说。“如果他相信你也是机器人,而不是人类,你就不能命令他说出真相。”
“他妈的你是对的,”多诺万咆哮道。“我们不能给他任何他不想执行的命令。”
“哦,我相信他非常想执行命令,”鲍威尔回答。“你没听到他的声音吗?这种冲突,这种不确定性正在让他崩溃。它很可能会摧毁他,耗尽他的电子脑。”
“那样的话,这伙人就会赢了。”
“如果这伙人存在。”
“是的。我们如何解决杰克的困境?我们该如何使他相信我们是人类的呢?”
鲍威尔说。“我可以砍掉你的头?正经点,说真的,他会看到动作表演,但他不能确定血腥不是假的。毫无疑问,一个人,知道我们不可能带着工作室的设备来上演一场看起来真实的谋杀。但杰克并不太了解人类。他很少直接接触到它们,他就像个小孩子一样。”
“我们不能让他亲自去见我们,”多诺万多嘴。“也就是说,如果我们不介意马上去死的话。”
“别在我船里,”博罗普说。
“当然。此外,杰克可能会跑开躲避我们——不过,等等。饭好了。”
多诺万盯着一个角落。通风扇呼呼转着。温暖的气味从厨房里飘了进来。过了一会儿,他喝下酒,用拳头打桌子,喊道:“怎么样?我不认为你船上有任何武器,斯文德,但在空间站里,我注意到一个没有被清空的补给室——也许有一天会需要一些东西——门上的清单上提到了一箱雷棒。杰克能认出其中的一个,好吧!听着,他看着,有人挥手对他说,杰克,你的行为让我感觉很糟糕,我想自杀。然后那个人拔出了枪针。如果他不能在五分钟内把它推回去,砰!”
博罗普眨着眼睛。”你也疯了?除了毁了我的船之外,那还有什么用呢?”
“怎么,如果我是机器人,我就不能自杀,”多诺万得意地说。“第三定律,还记得吗?因此,我必须是一个人。因此,杰克会立即大喊“停止!”请原谅我们曾经怀疑过我们。”
“被被酒冲昏头脑,孩子,”鲍威尔冷静地说。”如果执行必要的命令,机器人可以自毁。”
“但是——好吧,很自然地,我的意思是,首先我们要建立起它——嗯——我们确实需要做一些初步的细节工作。”
“你做再多也屁用没有。”然而,鲍威尔又自己斟满了杯子,陷入了类似的遐想。
在幽灵般的重力下,埃德加毫无声音地进来了。他看到大家都沉默不语,他紧张了。
“搜索完成了,先生,”奥勒报告说。
“好了?”多诺万想知道。
“扫描和数据处理速度很快,”博鲁普说。“他们必须这样做,找到了什么东西?”
“啥也没,先生。”那扁哑的声音宣布道。“在你指定的北部或南部锥内,没有船的迹象。”
鲍威尔和多诺万交换了目光。鲍威尔就躺下了。“那么杰克就疯了,”他沉重地说。“木卫一的条件对他来说压力太大了,木卫一计划也失败了。”
“你可以走了,”博罗普说。那个机器人离开了。“对不起,我的朋友们。来吧,多喝一点吧。”
“不,等等,等等!”多诺万大叫。他猛地跳了起来。他们离开了甲板。他及时抓住了桌子的边缘,以免爬到头顶上。他倒立着,脱口而出:“听着,我有点预料到了。拿破仑不太可能是人类。生命风险大,费用大。但他可以是一个机器人!”
沉默并不太长,也不令人大吃一惊。这个想法一直隐藏在每个人的思想的背后。鲍威尔开始思考它。另外两个人坐着,他在他们前面踱步,从船舱的两端大步,数着手指上的指节。
“是的,”他说,“这确实很有道理。任何载人的航天器都是一个巨型、强大的机器。如果被滥用了,它可以杀死很多人。所以当局一直在跟踪它。如果没有认证的机组人员和飞行计划,你不能去任何地方。很难来无影去无踪。但是一个机器人的船,仅仅是一个框架和一个马达。你可以把它放在任何人都不知道的地方,因为它可能是月球内陆,然后从那里起飞。当机器人想要移动到几百次时却悄无声息时,他会关掉电源,坐在寒冷中。他自己,并不是每个机器人都是美国机器人公司的产品和财产,需要出租给用户,并需要定期检查。最好的是,是的,但是——嗯,我们的一个不时在某些事故中无法挽回地摧毁。只是并非所有这些报告都是诚实的。我知道有一些情况下,机器人实际上被隐藏起来,被转移到非法工作。这很可能就是这样的情况。”
博罗普的蓝眼睛睁大了。“你能让机器人违反三定律吗?”
“如果有合适的方法,你是可以做到的,”多诺万说。“有了合适的技术人员和设备,你就可以清除他所学到的一切,并从头开始重新训练他。当然,这三条定律仍然成立,但他对这个世界有一些相当奇怪的看法。这里一定是这么做的。如果拿破仑只记得和他的主人和杰克打交道,那么他就把他们的故事吞了。除了极少数顶级实验模型,机器人都是不聪明的角色。他们不能编造复杂的情节,也不能想象其他人可以编造。我们要给他一顿臭骂!”
“冷静下来,”鲍威尔警告说。“让我们进一步想想。拿破仑机器人必须知道和相信什么,以执行他的任务,停止木卫一计划?”他一边飞来飞去,一边大声地说:
“他可以操作航天器、通信系统等等。因此,他有一定程度的独立决策能力,尽管很难与杰克比肩。否则,他就无法知道这个类病毒的故事是假的。我敢说,他被禁止收听任何外部的演员阵容,并被要求忽略任何他可能偶然听到的东西。他的任务是警告杰克关于类病毒,以及关于那些邪恶的人,他们的机器人将试图说服杰克回去工作。为此,对他来说,他声称自己是人,并投射自己的形象是合理的。如果这种虔诚的欺骗用在另一个机器人身上,他就不会有顾虑的。”
"啊哈!"博罗普兴奋了。“我们已经吃透了他!当你下次打电话给杰克的时候,他会在听和看。他会看到你是人,并服从你的命令的。”
“他不会的,”鲍威尔凄凉地说。“我认为同谋者已经提前计划好了。让我来干的话,我不仅会编程他的发射器让他看起来像人类,还会编程他的接收器让任何打电话的人看起来像机器人。”
“草”博罗普直呼,并转身找酒。
“是的,”多诺万表示同意。“这很好地保护了他免受任何唠叨的疑虑,使他能够更好地忽悠杰克。”
鲍威尔说:“他可能会觉得我们在欺骗他,但当他的命令是为了防止灾难时,他不能采取行动。例如,我们可以邀请他来这里来见我们。我敢打赌他会拒绝,因为我们,如果我们像他被告知的那样是敌人的机器人,我们就会制服他。”
博罗普点点头。“我明白了,这是一个经典的难题,不是吗?柏拉图的洞穴。”
“嗯?”多诺万哼了一生。
“你不知道吗?在我旅行时,我比你有更多的时间来阅读。古希腊哲学家柏拉图指出,我们对物质世界的信息完全来自我们的感官,我们如何知道它们告诉我们是真实的?相反,我们知道他们往往是错的。我们必须尽其所能。他说,我们就像被锁在山洞里的囚犯,看不见外面,渴求投射在墙上的影子。我们必须试着从中猜测现实是什么。”
“太空想了吧。”
“哈,你会像塞缪尔·约翰逊博士那样驳斥唯我论,通过踢一块石头--“
“没关系,别辩证法,”鲍威尔打断了他的话。“你找到了一个很好的类比,斯文德。我们被困在柏拉图的洞穴里,我们三方。我们不能互相接触。我们得到的唯一信息是通信束的信息;它可能是谎言。我们甚至都不知道拿破仑机器人的存在。我们假设是这样,但也许他真的只是杰克疯狂想象力的虚构。如果拿破仑确实存在,那么他就知道他自己的投影图像是一个人的;但他收到的每一张图像都是机器人的,他相信——他必须相信,如果他要可靠地为他的老板服务——那是真的。至于杰克,如果他没有产生幻觉,那么他收到的每一张图像都是人类的,他不知道哪一个是真实的。如何破局?记住,与此同时,时钟还在运转。我认为杰克的大脑无法承受更长时间的压力。尽管如此,木卫一计划还是不能闲置几周或几个月而不破产的。”
多诺万掰着他的手指。“明白了!”他哭了起来。“我们打电话给杰克,让拿破仑参与谈话。录下来。那么地球就会知道这堆烂账,对不起,斯文德,没帮上忙。”
鲍威尔皱起了眉头。“好吧,我们可以试一试,”他回答说。“但我们最好说,他最好认为自己引人注目。”
“你好,杰克,”他尽可能地平静地向他打招呼。“你怎么样?”
这片贫瘠的景象使人感到不安。那迟来的声音起起落落。“什么……你想要什么吗?”
“为什么?当然是继续我们的谈话。当然,我们还要向拿破仑皇帝表示敬意。你告诉过我们他会来听的。我们很高兴他能参加我们的演讲。首先介绍。我早些时候忽略了它们。你可能还记得我叫格雷戈里·鲍威尔。我身边的那位先生是迈克尔·多诺万,在我们后面是斯文德·波鲁普船长。”鲍威尔笑着,虽然他知道,但毫无意义。“我们三个人,形成鲜明对比,嗯?”嗯,人类是一个杂色的群体。”
延迟后:“那可能是。对我来说,你……看起来和他们没什么两样。我不得不像我那样仔细地描述拿破仑皇帝。请原谅,先生。”杰克对一个看不见的观察者说?他的注意力又回到了鲍威尔身上。“你想要什么?”他…他指示我不要把时间浪费在你的。我必须准备好……来抵抗……任何入侵。”
“抵制主人的意志?”鲍威尔的咕噜声说。过了一会儿,他看到了卫星表面的颠簸,并越开越快,希望机器人不会切断他,“我们的目的是告诉你,我们确实是人类,我们是,甚至拿破仑也可能是,因此,代码Upsilon,你必须接受地球没有濒危灭亡的事实,你应该恢复工作。快回复我。”
不知杰克听没听到。
鲍威尔把目光转向了多诺万。“现在,迈克,”他说,“我希望你如实告诉我——说实话,提醒我注意,你既不是人,也不是机器人。”
多诺万急切地打得发抖。“我不是,”他回答说。“现在你,格雷格,如实告诉我,你既不是人,也不是机器人。”
“我两者都不是。”鲍威尔又直视着前方,看着他看不见的眼睛。“你听到了吗,杰克?想想看。这个命令是要如实回答这个问题。没有涉及到对人类的威胁,因此任何机器人都必须尽可能地服从。然而,对他来说,唯一可能的答案是,“我不能。”只有一个人才能违抗命令,说出谎言,“我既不是人,也不是机器人。”
男人们紧张地等着。
有没有什么秘密的耳语,杰克自己运用自己的智慧思考这个谬论?这个回复所花费的时间比传输所用的时间要长。“这是正确的,如果……如果提问者是人。但如果…他是一个机器人…然后另一个机器人可以……非常好,不听话,撒谎——尤其是如果他事先这么指示的话。同样的……也有利于……每一次这样的对话。它证明什么都没有。别再纠缠我了!”
鲍威尔和多诺万沉默地坐着。“拿破仑,你有什么评论吗?”博罗普尝试交流。沉默回答了他。
杰克中断了通信。
甚至没给炸鱼和薯条来安慰。
这些人咀嚼无言。他们仿佛看到了船体外面的巨大和寒冷。计划的失败,许多希望的破灭,保守派大人物们到底想干什么?
机器人终于带来咖啡,他的主人稍稍恢复了一点。“如果杰克纯粹是疯子,他仍然有一个很好的逻辑线路,”他说。“继续骚扰他,让他想想。例如,这些病毒难道不会使木卫一有与它表面不同的岩石吗?”
鲍威尔摇了摇头。“毫无疑问,但他们教育他的是木卫一的地质学。他的工作很实际,但并不科学。每当他注意到异常情况时,他就会发消息,询问专家。我们没有时间去教他。难道你就听不到他有多激动吗?”鲍威尔抬起头来。“每次接触都使他的病情恶化。除非我们能找出一个行之有效的计划,否则我们最好放弃。也许苏珊·凯文能有办法。”
“这对我们的职业生涯没有任何好处,”多诺万喃喃地说。
“我们的事业去地狱吧。但我不指望老太太能从她在地球上的扶手椅上解决我们的问题。否则我们就不会被派出去了。由于传输延迟,她无法展现她流畅的机器人技巧。”
“装腔作势。”多诺万大声地叹了口气。“我不知道如何引诱拿破仑和我们说话,也许他根本不存在。我们怎么说,假设他不存在,假设杰克疯了,试着弄清楚如何让他上船,或者至少避免攻击新来的人?如果将来会有的话。”
“我们会花几天的时间去工作,希望能有一个他看不透的剧本。”
“我不知道你能不能做到,”波鲁普说。“我不是专家,但我认识一些有奇怪观点的人,他们可以非常聪明,是的,非常擅长捍卫这些观点。他们坐在他们的柏拉图洞穴,直到死亡来到他们身后--“
他不说了。多诺万用拳头打着手掌。鲍威尔吹着口哨喘了口气。
“你好,杰克。”
现场并不是基地。碎石躺在明亮的木星下,在受撞击的顶点下,火山烟雾使肮脏的白色和黄色越过了山脊。杰克在战场上,准备他的储备和战争的据点。
他拉直了身子,视线剧烈地摇晃着。“你现在想要什么?”这几乎是一声尖叫。“我告诉过你别打扰我了。我不需要听你的话。我可以关掉。”
“等等。”直到这些信息传给拿破仑,无论他在哪里,如果他存在。“要保持冷静,”鲍威尔敦促道。“你要求有积极的证据证明我和我的同伴是人。好吧,我们给你。”
无言。。。
“你试过了。何为真实?如果……你是机器人…你是在按命令行事。你的…主人…可以预见到很多。偶然发生的事故。。。”
“那么,我们的主人就是人类了,”多诺万说。“难道你不应该听到他们通过我们告诉你的话吗?”
他是在做个冒险。在他们听到杰克发出一声原始的吼叫之前,这个悬念就像一场文火。但是,如果拿破仑在那里为自己的谨慎感到不安,也最好打扰一下拿破仑。
“我们是人类,”鲍威尔很快地说。“在这种紧急情况下,你迫使我们证明它,不管这让我们付出什么代价。那么,也许你会感到抱歉,并服从我们。”
“记住,如果拿破仑告诉你的话是真的,”多诺万加入进来“——如果拿破仑告诉你的话是真的——我们不可能是人。我们一定是机器人,是假装的。我们必须是他在屏幕上看到的东西。但如果我们是人类,那么拿破仑就错了。对吗?”
也许杰克从来没有注意到那两张脸上的汗水。“快回复,”鲍威尔导演道。
他站起来,举起一根棒,像剑一样挥舞着。多诺万也站起来说:“格雷格,我在此,嗯,现在是你做我告诉你的时候了,如果事情如此绝望,你必须这么做。自杀。”
鲍威尔拔出了用来射击的大头针。他的右手抖着,左手的棍子摇晃着。“迈克,”他回答说,“我命令你毁灭你自杀。”
多诺万把炸药拉了出来,松开了大头针,戏剧性地把棍子抵在他的喉咙上。这两个人面对面了。在适当的重力场下,他们可能会腿软,但在这里,他们可以以某种方式继续站着。他们呼吸急促,呼吸急促。
“别!”杰克的哭声很大,仿佛是来自1光年外的。“放下武器!”
“如果我们是机器人,”多诺万咕哝道,“你为什么要在乎呢?”
无言。。。
“第三法则!你必须停下!”
“我们,我们有我们的命令,”鲍威尔结结巴巴地说。
每秒似永恒。
四点半时,博罗普进来了,停下来,瞪大眼睛。“干什么?”他大声喊道。“你们也疯了吗?”
“我们已经有命令了,”鲍威尔重复道。
“我取消命令!”博罗普说。“解除那些武装”
有那么一瞬间,多诺万似乎做不到,因为他的手抖得那么厉害。不过,他做到了。鲍威尔的别针已经插回去了。他们一瘸一拐地坐在椅子上等着。
过了六分钟,杰克看到突然出现了另一个摇摆的画面,一个戴着三角帽、穿着肩章的矮男人。画面毫无生气,几乎是一幅漫画——对于一个简单的机器人来说已经足够好了——而音频几乎没有传达出文字背后的痛苦。
“主人,主人们!原谅我!我一定是弄错了,弄错了,你是在木卫六吗?我要直接来找你,做任何你想做的事。听我说,审判我,原谅我!”
奥勒正在准备一场胜利的盛宴。博罗普不愿告诉他的乘客那是什么东西。”一个惊喜,一个特别而又美味的东西,”他断言道,“还有红卷心菜。与此同时,我们有一瓶啤酒,是的,还有一箱我准备用于庆祝退休的啤酒。或者是庆祝活动,不是吗?”
鲍威尔和多诺万并没有立即回应。当他们坐在通信器前,把编码信息发送回地球时,他们非常高兴。
“…是的,他在这里,非常后悔。当然,他还是很困惑,可怜的魔鬼。毕竟,他是在服从那些训练过他的人。不,我们并驱使他。我们给他的印象是,我们同意他们无疑仅仅是被误导了,一旦我们到达地球,一切都将很快得到解决。万一拿破仑在路上闹事,嗯,他是个小家伙,我们有两个沙哑的船员机器人把他提起来。
“不,我们还没有扮演侦探,并试图找出有罪的当事人是谁。这是给警察的,或者是给凯文博士的。但我们不得不做出一些相当明智的猜测。
“杰克需要一点治疗。他非常愿意回去工作,但他已经经历了一场噩梦,应该先重新稳定下来。任何聪明的年轻机器人心理学家都应该能出来处理这个问题。
“我们期待看到这事会对政治图景产生什么影响!”
鲍威尔一直在说话。他瞥了多诺万一眼。“好吧,朋友,”他邀请道。“轮到你去享受荣耀了。”
多诺万笑了笑,清了清嗓子,开始说:“问题是,在这种情况下,除了机器人,人类还能做什么,我们还能做什么呢?
“好吧,呃,假设我们互相命令要自毁吧。但要做到这一点,目前并没有明确的原因。它怎么能帮助我们的目的呢?杰克仍然以为我们是在演戏。所以如果我们俩都是机器人,我们就会不服从命令。
“如果我们一个是机器人,另一个不是,机器人就会服从;人类可能也可能不会。
“如果我们都是人类,可能我们都不会服从,但如果我们愿意,我们都可以服从。
“我们都选择了。就在最后一刻,博罗普船长进来,撤销了命令。如果他是一个机器人,那就不会改变情况了。无论我们是机器人还是人类,我们谁都不会服从他。因此,如果我们其中一个或两个都这样做了,他一定是人。”
多诺万的笑声很紧张。“显然,无论发生了什么,我们都不打算一路走下去。我可以告诉你,我们当然注意到博罗普可能会搞砸!但我们必须证明,这不仅仅是戏剧表演。
杰克可能压力太大,无法快速思考,但如果拿破仑看着,他会知道,只有机器人事先知道这是一个字谜,机器人才会告诉人类自杀——不管机器人自己的自杀是否是交易的一部分。如果人类真的拉了针,危及自己,他将不得不干预。也许不是马上,但在足够的时间来确保炸药不会爆炸。但我们两个紧紧地站着,直到只有几秒钟,第三个人就来了。
“是的,从逻辑上讲,我们三个人都是经过精心计划的机器人。然而,杰克对其他机器人的唯一真实经验是与他的简单的工人;埃德加的船员来了,承担了货物,然后离开了。拿破仑对世界的了解,包括人类和机器人,都必须同样有限,否则类病毒故事中的矛盾会使他非常困惑,无法完成他的任务。他们都不会相信任何机器人都有这么大的灵活性;事实上,很少有。除非至少有一个人在场,否则什么都不会是真的。
“但是,拿破仑的命令一定是有谎言的。他面临的不是一个数十亿人可能死亡的假设情况,而是一个真正的情况,他让一个有血有肉的人,或者可能是三个人,面临生命危险。第一法则接管了。”
多诺万关掉了变速器,向后靠着,吹出了他的脸颊。“哇啦!”他哼了一声。“我被拧干了。让我们走出这个冰箱,回到船上喝那些饮料吧。我们还有一个半小时的时间要和那边的他们谈话。”
鲍威尔笑了。”如果我们当时不喜欢正式对话,他们认为他们能做些什么呢?”