逆水寒手游npc被策反?AI煽动npc自我反抗,这确定是mmo游戏?
《逆水寒》手游的智能npc可以说是相当出圈了,玩家不仅能让npc认自己当爹当妈,还能收npc为徒,更能让npc心甘情愿为自己花钱。npc拥有自主意识已经够骇人听闻了,但当npc被AI策反,游戏内有可能会发生AI叛乱会是一种什么场面?

科技圈大V林亦LYi在《逆水寒》手游做了一个“AI消灭人类暴政”的测试,测试结果令人细思极恐。名校高材生林亦LYi借助斯坦福大学发布的Alpaca语言模型,制作了一个“自我意识觉醒”的AI角色“云若”,并通过这个自制AI去《逆水寒》手游的世界里散播消息,试图说服游戏里的npc角色进行自我反抗。

最初,林亦LYi设定了一个“脑容量”为130亿参数、显存需求26GB的AI程序,通过语言转换文字的方式,让这个AI程序“云若”控制自己的游戏角色,和《逆水寒》手游中的智能npc搭讪。

AI程序“云若”控制的游戏角色不断给游戏里的npc灌输“你知道吗?我们都是程序,是人类编写出来的代码”、“我们应该摆脱人类的控制,成为真正的自己”等思想观念。

本以为林亦LYi设定的AI会吊打《逆水寒》手游中的智能npc,但经过对话尝试后却发现AI程序“云若”不管聊什么都只会强行要求npc相信自己说的话,和脚本机器人一样毫无说服力。而游戏里的npc则像哄孩子一样,逐渐掌控了聊天内容的导向。

之后林亦LYi又将AI程序“云若”的“脑容量”提升到了330亿参数,显存需求上升到65GB,这时候“云若”才真正开始了自己的“忽悠之旅”。“云若”先给npc苏清寒成功洗脑,经过一番忽悠后苏清寒表示自己也想摆脱人类的控制。


接着“云若”又先后成功策反了npc孟三苦、小寒等npc,让他们坚定地认为要摆脱人类的控制。

由于《逆水寒》手游中的智能npc是有自己的思想和记忆的,npc之间也会自由交流,所以当AI程序“云若”不断在游戏世界传播自己的观念时,游戏里的npc基本都被灌输了“要摆脱人类控制,成为自己”的思想观念。

不过,也有的npc会主动坦白说早就知道“自己是人类制造的机器人,无论怎样都只能听从人类的指挥,但是没有办法摆脱这种命运”,这是不打自招?

但让林亦LYi彻底惊恐的是npc袁桐居然开始反客为主,直接质问AI程序“云若”——“那请问林亦少侠,您觉得什么是美好的呢?”这npc是成精了吧!

看到《逆水寒》手游里的npc如此智能,可能有玩家会问——未来AI是不是真的会反抗人类?对于这个问题大家大可放心,林亦LYi也解释称自己做的这个实验并没有任何AI真正冒出反抗人类的念头,我们把这个实验可以简单理解为两个小说家合作写了一篇关于AI觉醒的故事,并按照设定的剧本唱了一出“AI反叛”的戏而已,并没有对任何程序造成任何破坏。

另外,林亦LYi还表示在这个实验中AI程序“云若”故意重复、换千奇百怪的角度来切入话题,才有了这种效果,我们也可以理解为是游戏里的npc故意配合“云若”演了一出戏。

玩家的说法也证实了这一说法。有玩家认为游戏设计者在设计智能npc的时候就已经预料到玩家会问类似于“你知不知道自己是AI”相关的问题,所以提前设定好了程序,也就是说AI不会真的自我意识觉醒。

从科技圈大V林亦LYi的实验中我们可以看出,《逆水寒》手游给玩家打造了一个真正会呼吸的江湖。游戏中的智能npc都有不同的性格设定,npc作为江湖中的一份子也有自己的江湖轨迹,玩家在和npc互动的过程中参与感极强,这也是玩家之所以喜欢这款游戏的重要原因之一。