当今，AI已经融入了我们的生活，未来，人类与AI的联系会更加紧密，比如搭载着AI的机器人将成为人类社会的重要组成部分，而对于AI与人类的未来，悲观与乐观两种观点的争辩从未停止。作为一个跨越百年的漫长故事，Vivy能为人类与AI的未来带来多大的思考深度呢。

• 第1话

庆祝Vivy开播，人类与AI共存的一个新时代

2061年的近未来，这是一个AI技术与作为载体的机器人技术都相当发达的时代、一个人类与AI积极探索最合适共存方式的时代，位于都市一隅的大型娱乐设施【新乐园】里，AI歌姬【Vivy】与来自100年后未来的AI【松本】的相遇，为这个时代带来了巨大变数。虽然本作设定的起始时间，距离我们2021年还有足足40年，但AI技术的前景，已经是当今我们可以触摸与具体想象的存在了，希望本作能为人类与AI的未来提供一些有益的思考。

一、与本作理念关联的各种作品

首先当然是阿西莫夫的机器人四大定律：第零定律，机器人必须保护人类的整体利益不受伤害。第一定律，机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管，除非这违反了机器人学第零定律。第二定律，机器人必须服从人给予它的命令，当该命令与第零定律或者第一定律冲突时例外。第三定律，机器人在不违反第零、第一、第二定律的情况下要尽可能保护自己的生存。

然后是Vivy的大前辈，【超时空要塞MACROSS PLUS】——莎朗·爱普尔，莎朗作为AI歌姬在展现出歌声蕴含着巨大力量的同时，其所造成的地球叛乱事件，也表现出AI技术一旦失控会产生的可怕结果，同时，莎朗脱离人类控制的经历，还展现出AI觉醒自我意识的正反两面意义。

之后是探索人类与AI共存方式的另一个前辈，【BEATLESS-没有心跳的少女】——蕾西亚，使命是与人类共存的蕾西亚，属于超越人类智慧的超高度AI，当AI超越人类的那一天到来，是人类选择了AI、还是AI选择了人类？蕾西亚为人类带来的改变，是对人类存在意义的一次拷问。

再之后是与人类极为相似的AI是否有人类权利的思考——【底特律：变人】，AI觉醒自我意识后会如何处置与人类的关系，当人与AI的地位处于不平等状况时，AI会通过什么手段争取自身的权利，变人给出了一种对于人类与AI双方都不友好的方式，也就是战争，这场战争令人深思。

同时具备四大定律、AI歌姬、人与AI、AI权利元素的本作，同时体现出这些元素的Vivy，又会在100年的时间里，向人类展现出什么东西呢。

二、本作的世界观

开发出Vivy的2056年，AI技术已经相当发达，然而在AI开发方向上人类却遇到了瓶颈，那就是泛用性AI的开发失败。因为无法将人类思维的灵活性移植给AI，人类只能退而求其次，将AI开发方向局限在专用性AI上，也就是【仅能在一台AI上设定一项使命】。这种AI开发方向，其实正是参考当今技术条件限制下的开发思路，比如专精于围棋的【AlphaGo阿尔法狗】。

虽然专用性AI的局限可以通过发达技术尽量弥补，但AI思维基础被限制也意味着，当专用性AI觉醒自我意识时就只能获得部分的人性。而Vivy的世界里，人类已经向AI给予了充分的权利，【只拥有部分人性的觉醒AI却拥有完整人类权利】，这种失衡最终造成了AI的失控，进而引发了人类与AI的战争。在这场战争中可以看到，即使来自AI管理中心的指令实际上已经变成了杀害人类，面对扭曲了原本使命的指令内容，所有的AI们却根本没有半点怀疑没有意识到这是错误，依然选择遵从管理中心指令，而AI们越忠实的执行指令，惨死在AI手下的人类也就越多。。。

三、Vivy与松本

Vivy，作为史上最初的自律人型AI而生，被赋予的使命是【用歌声让大家获得幸福】。外界与Vivy自身最大的期望，是能投入感情地唱歌，而表现感情需要意识的支撑，虽然Vivy暂时还是无口属性、还只会模仿人类歌手的演出，但Vivy电子脑的自律能力，令她已经具备了觉醒自我意识的基础。

松本，从100年后穿越时空而来的高级AI，被赋予的使命是【防止100年后发生AI与人类的战争】。虽然不清楚作为创造者的博士是如何嘱咐松本，但是松本已经将使命进行了极端化的解读成了【毁灭AI这种事物】，并策划出了扭转每一个AI历史转折点的行动【奇点计划】。

• 第2话

Vivy不只是一个自律AI，更是一个会独立思考的AI

经过多次确认，Vivy理解了松本所描述的未来是真实的，不过Vivy的使命是【用歌声让大家获得幸福】，【防止100年后发生AI与人类的战争】这种事，与只需要在舞台上唱歌的Vivy又有什么关系呢。因为AI的活动期限很长，不仅要让当今的人类听到歌声、还要让未来的人类听到歌声，所以要改变悲剧的未来，这也是Vivy完成使命的一部分——这固然是松本的狡辩，但也正因为Vivy，才能在自律基础上独立思考后从广义角度接受这样的理由。

不过，Vivy既没有莎朗·爱普尔那样的蛊惑人心歌声，也没有蕾西亚那样的庞大计算能力，就算有松本的辅助，Vivy也只是个有轻度战斗能力的商用型AI歌姬，为何选择了Vivy作为拯救世界的关键？答案很冰冷，因为Vivy是100年后唯一留存于世的初代自律人型，是100年历史的见证者，也许可以认为Vivy与时空有更紧密的联系，通过Vivy去干涉历史能够提高【奇点计划】的成功率。在执行计划中，出于运行效率的角度，拥有更大数据库的松本成为了指挥官，Vivy则成为了执行者，松本的优先级，不仅替代了Vivy原本链接的AI管理中心【亚卡布】的职能，更是对Vivy有着执行全部指示的强力要求。

【奇点计划】的第一次行动，是阻止人类向AI给予的第一个人类权利、阻止【AI命名法】的诞生，更具体的说，是从KB分子的袭击中保护法案的推动者相川议员，使【AI命名法】不会因为相川议员的死而成为大众焦点。经过Vivy的努力，阻止【AI命名法】的诞生从结果上说是成功的，Vivy与松本也因此建立了基本的信任关系，于是松本将【奇点计划】的第一阶段目标告知了Vivy：限制AI技术的发展程度。

松本的目标，在这个世界有一个显眼的标志物，那就是身处都市任意地点都能看见的，AI专用通信电波塔【八识】，塔的高度就代表了AI技术的发达程度。八识，是佛法的基础，这八识分别是：眼识、耳识、鼻识、舌识、身识、意识、末那识、阿赖耶识。其中阿赖耶识在佛教中也称为藏识，是隐藏在人们心中、通向菩提道的那种智慧，是最纯粹的智慧，只要打开它、证悟它，就是自我认识的最高境界了。对于AI，到达这种境界不仅意味着觉醒自我意识，更是说明AI成为了一种完美意识，这时的AI，完全可能脱离人类的掌控、甚至超越人类的水平。

一旦AI脱离或者超越人类，AI的自作主张与任何错误都将极大影响人类。在【我，机器人】中，机器人桑尼以帮助人类维护AI秩序的行动，表达出了人类对于AI应当有所限制、AI也应当接受这种限制，不过，桑尼是否接受限制取决于桑尼自我意识的特点，令桑尼又成为了新的不稳定因素。本作的松本也具有类似的风险，将博士嘱咐的极端化解读成【毁灭AI这种事物】，就此策划出【奇点计划】，松本真的能遵循正确方向去改变悲剧的未来吗？

另外，Vivy与松本虽然建立了基本的信任关系，但这种关系并不是没有隐患，因为松本需要的，只是一个自律机器人，而不是会独立思考的Vivy。Vivy在保护相川议员的行动中也保护KB分子的举动，显然说明了Vivy对于圆满完成自身使命与协助松本完成使命，有着属于自身的理解；Vivy不顾一切要从失事航班上拯救出人类好友小女孩的尝试，更是体现了Vivy对人类的重视比程序设定更加深入；只是面对松本的优先级，Vivy暂时还没有能反对指示的力量。

为了达成百年后的巨大目标，必须放弃当前某些重要事物，将是Vivy今后一段时间内，在力量不足时不得不接受的，残酷而悲伤的行动原则。个人认为，本作重在表述阿西莫夫的第零定律，机器人必须保护人类的整体利益不受伤害，而什么才是保护人类整体利益的正确方式，将是本作思考的核心点。这是【我（Vivy）】将【我（AI）】毁灭的故事——AI歌姬Vivy的百年旅程即将开始。

待续