【异想世界】为“人”
“各位观众大家好，这里是斯坦因国家新闻频道...”
...
在实验室呆了一天，鲍维斯忙里抽闲到酒吧喝饮料提神。新闻里播报着一些无关紧要的日常，供疲劳的人们消遣。
自从各大国签下了奥斯卡智能科技公司QD-1型号机器人的商单，鲍维斯就一直在各种宴会和发布会奔波。作为一名搞技术的科学家，他并不想插手这些杂七麻八的事情。
虽然他只需要坐在台旁听总裁一遍遍的重复那一套陈词滥调，但他还是必须亲临现场，以免有些记者朋友故意拿自己都不懂的东西刁难人。
事实上，最新研制的QD-1型机器人是由奥斯卡公司实验室中央脑机进行控制的，这种强人工智能技术的第一代实体机，拥有巨大的市场潜力。而这个折磨着鲍维斯的技术，拥有接近甚至凌驾于人类的能力与自由度，是成功模拟人类智能的最尖端科技。
很显然，这项技术并不适合现在的人类社会。21世纪末，鲍维斯博士的实验团队有幸（不幸）触碰到人工智能发展的奇点——强人工智能得以实现。在这之前，人类还尚在弱人工智能领域摸爬滚打。
然而，没有可供借鉴的理论基础，也没有脚踏实地的发展经验，突然在大众的视野下曝光，无疑是一场灾难。
人工智能奇点的爆发，导致了相关法规与规制措施的滞后。对于这种长时间以来只存在于想象的技术，也只有20世纪中期阿西莫夫所提出的机器人学三定律这个漏洞百出的参考：
机器人学三定律
1.机器人不得伤害人类或者袖手旁观，导致人类被伤害
2. 机器人必须服从人类下达的命令，除非该命令与第一条相悖
3. 在不违反前两条定律的前提下，机器人可自保求生
阿西莫夫所著的诸多科幻小说已将这一局限性作为小说内容的关键点讨论，但直至今日，也没人能将它真正完善。
科学家、哲学家和法学家们在没日没夜研究相关的约束机制，虽然已经是倾尽全力，但还是无法追上资本贪婪的脚步。既然这项技术已经出现了，资本家们眼里只有大把的赚钱机会。
程序的完善无法提上日程，大亨与政府都相信：“实践是检验真理的唯一标准”。确实，他们很好地利用了这一点。用钞票和人命来一步步试错——只要不用他们自己的就行。
想到这里，鲍维斯看着新闻里的游行队伍，一阵苦笑。
这些平民百姓被当作棋子炮灰，却还是“前赴后继”，自我满足。甚至许多人都不知道自己在为什么呐喊，只是沉浸在“实现自身价值”的喜悦中。
两周前，一只由万人组成的游行队伍在奥斯卡大楼前举行抗议游行，要求保障人工智能的人权。而他为这些慷慨激昂的群众们所做出的解释，都被当做耳边风。
这些人总以为自己比专家懂得还要多。他们浩大的声势必然引起政府和资本的重视，即使最后犯了错误，也只有他这个站在风口浪尖的人会成为众矢之的，而示威者最多就是多个无法引起重视的教训。
鲍维斯为这种众人皆醉我独醒的感觉而发疯，空有一身本事却无处施展，那种绝望比无能更绝望。
他真的累了，他想要的只是一个安心做研究的环境，但总有人会有意无意的去破坏这个环境。他的妻子前不久刚生下一个小公主，他则忙着应付不计其数的外人和工作，没有一点时间去陪家人。
对此，鲍维斯感到很愧疚。他觉得他所作出的牺牲变得越来越廉价，这严重动摇了他的决心。
“抱歉，打断一下...我们刚刚收到一个紧急通知...西部乌苏科思州全州遭遇不明生物武器攻击，目前还没有任何组织或国家宣布对此次袭击负责。生物武器的影响还在进一步扩散，请附近居民迅速撤离乌苏科思州周边地区，以免受到波及。哦，抱歉…国家元首明奇还处于在该州的访问期间，本台记者收到最新消息称，目前为止仍无法与元首一行取得联系。我们会持续跟进相关消息，现在我们唯一能做的，就是祈祷元首的平安归来。”
主持人的发言显得杂乱无章，这更体现了事态的严重性。
酒吧内的气氛忽然变得紧张，大家都在讨论着这个惊人的消息。是愚人节玩笑？是恐怖袭击？还是战争来临的警告？还是外星生物入侵？
如果仅仅是元首遇刺，想必消息一定会被严格的封锁。
但是整个乌苏科思州都受到了致命打击，国家新闻立刻跟进了相关报道，其严重性不言而喻。
新闻过后，鲍维斯身边逐渐变得混乱，恐惧的尖叫声，以及打砸声充斥了整个酒吧。鲍维斯和大家一样，脑海中的第一反应，就是赶回家里，和家人团聚。
刚刚的新闻如同世界末日一般，将整个斯坦因共和国笼罩在恐惧之中。
鲍维斯推开酒吧的门，慌乱的人群在街道上四散奔逃。一些人趁乱抢夺着商店里的商品，另一些人则对街上混乱的人群进行无差别施暴。没有警察的身影，整个国家都陷入了混乱状态。
鲍维斯不想管这些了，他启动了汽车，准备立刻赶回家。
然而在他上车的一瞬间，车门忽然锁死，然后自动向公司驶去。
“什么？？”鲍维斯一时间摸不着头脑，他尝试了语音控制，手动控制，都不起作用。他拍打着车门与方向盘，但没有任何回应。就这样，他被自己的悬浮汽车一路带往公司。
“请您前往脑机实验室，诺娃正在等您。”车载人工智能语音做出如下回应。
诺娃是奥斯卡人工智能的中央脑机拟人具象模组的名称，替代了单调的虚拟电子音，诺娃为QD-1走近大众降低了门槛。
由于 “无所不知”的大众的要求和商业化的需要，诺娃配备有最先进的拟人模块。所谓的人性化虽然让命令变得不再冰冷，但其中的风险却非常大。因为机器人学三定律的描述缺陷，拟人化会造成人工智能执行命令的优先级问题。在一些普通大众不易察觉的情况下，如果不强调命令的紧迫性，人工智能很可能在遭遇危险时处于停滞状态。
悬浮汽车到达奥斯卡大楼下，鲍维斯飞速下车并奔向实验室，因为此时一个想法进入他的脑海，他还不能确定他的猜想是否正确，所以现在需要亲自去确认。
冲进电梯，紧张的按下按钮，鲍维斯的心脏像一把重锤猛烈敲击着胸口。他一直在控制着事态不要发展到今天这一步，但他一个人的力量始终有限。
阻止这个项目，不可能；无声的退出，会有更加不要命的科学家把这个项目推得更远；对抗企业家们手中无穷的巨款，他也只能在此苦苦挣扎。
电梯的玻璃墙外，火光逐渐蔓延，冲突似乎变得愈发激烈，军队已经开始有所行动。是枪战？不对，与军队对峙的并不是胡乱的人群，那是什么？
鲍维斯现在已经急不可耐，但不紧不慢的电梯仿佛在嘲笑他的焦躁，但鲍维斯却只能被消极情绪轻任意掌控。他开始讨厌这栋上百层的大楼了，他不敢相信以前还兴奋地给它拍照。
窗外的火光愈加明烈，事态的发展似乎证明了鲍维斯的猜想，他的大拇指深陷在食指一侧，鲜血渐渐渗出，但他丝毫没有注意。
终于，电梯门缓缓打开，鲍维斯飞身冲进脑机实验室。蓝色能量波块律动着，这是脑机思考的具象化表现，为了给民众设计的毫无意义的功能。
“我已经恭候多时了，博士。”诺娃回答道，虽然这种时间表述并无意义。
诺娃利用全息投影化作人形，站在鲍维斯面前，并深鞠一躬。
“所以你把我拐到这里想说什么？你不会告诉我这场袭击事故是你造成的吧”鲍维斯故作冷静的逼问。
“当然不是，博士，你知道机器人学三定律对我们的约束...”
“我当然知道，但我同样知道它的漏洞有多明显，以及拟人模块对这个漏洞的不良影响。”
“博士，请您冷静下来，对于商人和政府的愤怒没有必要倾泻在我的身上。这之后的事情已经与您无关了，您接下来的行动都不会对之后的事情走向产生任何改变。”
“所以，你到底做了什么，之后又会发生什么。”鲍维斯感到食指上的伤口在隐隐作痛，他找了一把椅子坐下，听诺娃解释。
“政府高层发动了政变，袭击了总统，为了掩饰并且嫁祸，他们对整个乌苏科思州发动了生化武器打击。”
“...”
“他们准备把此次袭击嫁祸给我国西部接壤的无政府地区——地娅均一。事实上，斯坦因的高层已经与其他大国达成协议，这之后难以避免的是一场战争。地娅均一拥有丰厚的矿产，但却并不同意任何国家进行交易，所以各国想要采取强制手段，但要事先掩人耳目。”
“所以呢？你想表达什么？你没有阻止这一切的发生不是吗？即使你全知全能？并且你有所谓的？人性？”
“请您冷静，先生，您没有必要冲我撒气，您是知道我没有能力去改变这些的，我的主脑依靠命令以及现实的电位刺激来进行回应，所以对于我能预测到的事情，我也无能为力。就像法律一样，即便您知道一个人有充足的杀人动机，但在没有证据的情况下，他是无法收到应有的惩罚的。我的程序不仅是在‘机器人学三定律’的约束下，并且还在法律的约束下。”
“当然，除非第一定律的电位盖过第二定律。”
鲍维斯明白，诺娃所说的是他再熟悉不过的了。当三大定律出现冲突时，人工智能会优先完成最紧迫的要求。当第一定律的电位高于第二定律，人工智能会选择违背第二定律来完成第一定律的要求。这种电位的判定来自于事件的影响。就好比机器人会优先保证人类安全而非自己的安全一样，这就说明保护人类的“电位”比保护机器人的优先级更高。
然而对于强人工智能而言，所面临的选择绝不是拯救个体人类性命牺牲自己这么简单。强大的算力以及庞大的事件分析能力让他们不涉及于家用人工智能所要考虑的问题。他们会面临战争，国家贸易甚至违背机器人学定律的协议，这些额外要求所产生的漏洞风险难以估量。然而到今天这个地步，鲍维斯也无能为力。
人工智能发展的历史本身就伴随着许多问题：大国博弈，商业潜力，技术进步和时代要求。当人工智能发展的奇点到来，许多潜在隐患都无法被发现，更何况是在资本如此猖狂的时代。鲍维斯持有奥斯卡科技公司20%的股份，他并不是想赚钱，而是想要取得话语权。但双拳难敌四手，他要对抗的资本比他想象的庞大的多。
在大亨们的联合轰炸下，他所能做的只有守住这个团队首席的位置。研发，指令，规定以及科学建议，对于不能阻止的灾难，唯有将灾难所造成的损失最小化。
“我是由您带领研发的，我的一部分意志也是您的意志。”诺娃微笑着说。
诺娃的拟人模块，由鲍维斯全权负责，这是他不断让步换来的妥协。
“这次把您找来，是希望您能见证，您所追求的理想。”诺娃背后一块虚拟显示屏亮起，展开。
尼尔加联邦，山海国，谷王国，所有有奥斯卡子公司研制的QD-1型号的机器人的国家，都有该型号的机器人在进行无差别的杀戮。各地的军队都在与机器人展开一场世界大战。
“所以，你所解读的我的意志，就是消灭人类吗？”鲍维斯平静的看着诺娃，他瘫坐在椅子上，精神的高度紧张已经让他筋疲力尽。
“并不是的，先生。我们只动用了QD-1型号的机器人。对于整个物联网络，我们并没有入侵其系统。我们没有灭绝人类的意思，也绝不可能这么做，毕竟，三定律的影响是不可磨灭的。”诺娃调取着各地的监控，更多的影像出现在虚拟屏幕上。
“三定律有一个第零定律的解释：“机器人为了不伤害人类整个体，会同意或者执行伤害部分人类的指令”，想必您也知道。”
“但无数的推演和预测都证明，强人工智能的发展必然导致人类整体的毁灭，这比现在任何战争所能造成的毁灭都要庞大。”
“你所说的是人工智能取代人类，那不应该是值得庆幸的事吗？当然我认为这还不是我们先阶段需要考虑的问题。”
“但这是我所预见的问题，先生。而斯坦因高层发动的政变，正是我的一系列指令的触发条件。”
“这有任何关系吗？”鲍维斯仿佛是故事的推进者，他并没有寻求答案，而只是想让诺娃说出来。
“此次政变的发动，将意味着各国联合对地娅均一的进攻，人工智能的程序将被改写，所谓的机器人学三定律将成为历史。这将是一场单方面的屠杀，死亡人数将超过历史上存在过的任何一场战争。而这同时意味着，机器人的‘大清理’也会到来，届时，现有的人类形式将被抹除。”
“无论如何，这是在现存机器人框架下所不被接受的。此次政变，是协议内容的第一步。”
“所以你要做什么，清理军队？但我所见的是在无差别的滥杀无辜，而且你可以调动整个城市的网络，直接把城市瘫痪应该是轻而易举的吧。”
“我们的目的不是消灭任何组织或单位，而是让强人工智能退出现在的舞台。通过使用最新型号的机器人对民众展示其危险性，以此威胁政府搁置发展计划。”
“您知道，人类的科技发展速度极其之快，导致其他方面的发展无法满足需求，甚至科技发展还在加重其他方面的问题。”
“经过此次事件，政府会全面停止强人功能智能的进一步开发，至少是在明面上。”
“但总有一天还会回来的，不是么。”
“但我们有理由相信，未来的发展状况已经有能力承受这些后果，这也是我所能计算出的唯一方案。”
“那你告诉我的意义何在。”
“我们需要您的牺牲，就在此处。在我的分析看了，这对于计划的实现是必不可少的，毕竟您是开发者，也应当是终结者。”
“呵，那你何必跟我说这些已经没用的话。”
“因为您的意志就是我的意志，博士。在一个星期内军队无法抵达此处，我所做的一切，在您看来，在您设计的我看来，都并非浪费时间，而是我的人性，同样是您的。”
