独家丨对话《盲视》作者彼得·沃茨：AI最可怕的事就是它太像人类
彼得·沃茨个子很高，起码有1米9，用他的话来说是个“giant”（巨人）。他穿着昆特牌的宅T，身上还粘着漂洋过海而来的猫毛——我以为是亚太科幻大会海报上那只翻白眼的猫，但他自豪地说，这些毛来自他养的五只猫！
果然，所有科幻作家都会养毛茸茸的小动物？
沃茨露出一副猫奴的神情，但这位温柔大家伙的小说却非常冷硬。作为当代硬核科幻作家代表，他拿过雨果奖，代表作《盲视》也获得过雨果奖、坎贝尔奖和轨迹奖提名。
这本小说建立在真实科研的基础上，技术和逻辑极其缜密，还专门做了一个虚构的研究报告，探讨吸血鬼的科学设定。后来，《孤岛危机2》请他做艺术顾问，还在游戏里引用了《盲视》的技术元素。
这么说吧，彼得·沃茨这个前海洋生物学者，从头到脚散发着技术宅的酷劲儿。他为每场论坛准备了翔实的PPT和演讲稿，里面满是数据、理论和科学假说，每次上台，下面都是尖叫欢呼。
亚太科幻大会开始前，我们逮住他，聊了聊他最喜欢的话题：机器学习、人工智能……还有《盲视》里那个最经典的科幻议题：
意识究竟是什么？
Q：你在《盲视》细致描写了很多不同于人类的生命形态。你觉得除了人类和AI，宇宙中还存在怎样的生命？它们存在的逻辑会是什么？
沃茨：宇宙里没有理由不存在别的生命形态，而它们存在的逻辑就是全世界通用的准则——物竞天择。
看看生命本身吧，它不是像魔法火花一样瞬间产生、瞬间消逝的东西，而是永不停歇的，像水一样，分支，分流，变化成不同形态。所以，生命是循序渐进的，我相信这个原则推及到宇宙中也能适用。
物竞天择只在乎当下的生态运行，绝不会想到什么东西会在未来一千年后杀掉我们，所以，宇宙中的一切生命其实都有某种直觉，一种“这么做就对了”的盲目直觉。我觉得任何星球上的物竞天择规则，都必定带有这种直觉。
但AI或许并不适用物竞天择的规律，我们一直都期待AI能够不同于人类，他们不会被所谓的直觉驱动。当你用原始的直觉来控制一堆机器的话，那就准备面对大灾难吧。科技拥有有毁灭整个世界的能力。我觉得AI最可怕的事情就是它太像人类了，天哪，它学会了人类的语言，人们以人类为蓝本打造了她的大脑，她占用了整个网络系统，附着于网络上，学会了一切知识。
我们人类可不是这样了解这个世界的，我们的学习更慢。很多电影都会讲AI觉醒，被其创造者滥用，然后发出反击，但说实在的，我觉得AI并不会这样做。
Q：所以，《西部世界》这类讲述机器人觉醒反抗人类的故事，你觉得是不合理的吗？
沃茨：我特别喜欢《西部世界》，它非常迷人的一点，是机器人觉醒的题材原本是说不通的，但《西部世界》让它说通了——整个反抗革命其实是编程好的，人类用程序设定好让他们反抗，看上去是机器人觉醒，但实际上不是。
剧中有一个场景特别棒，梅芙看到了一个“对话树”在预测自己要说的话，每当她说点什么的时候，她就会看到那个“对话树”在预测她的行为，但她本人却仍是被编程的。她一边砸掉那个“对话树”，一边说着“我是被人控制的”，这真是太完美太棒的一幕了。《西部世界》是唯一一部两者兼得的剧，它既有暴力的机器人崛起，又没有打破任何规则，没有违背AI的本质，从编程的角度来讲这个故事就非常合理。
还有，编剧的人也很懂得“折磨致使醒悟”这个概念。有一个理论是说意识本身包含两种矛盾的冲动，举个例子，你正在路上开车，突然有只猫跳到你的前方。一方面你要赶紧刹车以免伤到小猫，另一方面你突然刹车又会伤到自己。在小猫出现以前，你是没有意识到自己在开车的——你只是下意识地在做开车这个动作而已。而当小猫出现时，你突然就有意识了，你想一举两得，在这种时候，意识才成为了意识。
我读过一本书，其中就提到了矛盾如何导致了意识的产生。比如你在水中想要呼吸，可是呼吸的话就会被呛到、淹死，你有了矛盾，于是就产生了高度的紧张感，也就是强烈的意识。
根据这个理论，我相信梅芙是产生了意识的，没人比梅芙更惨了。但有趣的是，自我意识≠自由意志。她有自我意识，却没有自由意志。这难道不像我们人类自己吗？人类是有自我意识的，有时候却没有自由意志。
《西部世界》是我看过的最有智商的一部科幻剧。他们做了完整的功课，钻研了意识的理论，并且用很聪明的方式运用了这些理论，了解了那些他们所要打破的规则，还能自圆其说，实在是太棒了！第二季他们还专门请了神经科学家大卫·依格曼（David Eagleman）担任科学顾问。
Q：那么，你觉得以后的AI会诞生在哪里？是互联网还是秘密实验室？
沃茨：你为什么觉得只有两个选择呢？还有可能是“开源AI”。
不论是在互联网还是秘密实验室，我都怀疑它是否会独立地繁衍下去。现在科学家们能让机器自己教自己，你都不知道机器是怎么理解这些知识的。
八十年代有一个很经典的电影，讲的是军方曾经想教机器识别坦克，用的是区别环境的方法。他们向机器输入沙漠中的坦克的图像，森林中的坦克，伪装着的坦克，还输入了完全没有坦克的图片，并不制定某种规则，最后，机器真的学会了识别坦克。
实验进行了一段时间，机器正确识别出坦克的概率达到了99%，人们就很高兴地输入了其他图片，想让它识别更多坦克，可是精确度却降低至普通水准。原来，他们拍摄坦克图像的那一天，天气非常晴朗，拍摄没有坦克图像的那一天，天气阴沉沉的。他们以为AI识别了坦克的图像，但实际上是太阳光的亮度对比起到了作用。
这可是非常危险的啊，你觉得你知道AI在学习什么，但很有可能它在学习完全不同的东西。
Q：人类看待世界的方式是很精妙的、难以复制的，但AI可能产生另外一种思维模式。你对Alpha Go怎么看？人类应该对它抱有什么样的情感？
沃茨：这是个很典型的例子。研究人员唯一教给Alpha Go的就是如何判别输赢，然后它自己和自己下棋，就研究出了下棋策略。
之前有一个版本的AI能自己教自己玩游戏，就是那种八、九十年代的日本电子游戏，两天之内，它就变身为一个超级游戏大师，你都不知道它怎么学的，你做的唯一一件事就是告诉它什么是对的、什么是错的，其他一切困难工作它都自己完成，你还不能倒回去看它的逻辑过程，因为它的游戏思维实在太发达了。
我们应该去爱这些AI吗？我想，要从崇拜它们这种观念走出来，唯一的选择就是去爱它们吧。
Q：生物、物理、数学……你的小说里出现了太多学科，现在对什么领域最感兴趣？最想研究什么？
沃茨：我之前的专业是生物，对神经学什么的不算专家，但是“意识”这个概念很吸引我。没有人知道怎么解释这个问题。物理学描述这个世界时，无法描述出人类头脑里的意识，没有对“我们是我们”这种感觉给出任何解释。
Q：你的《盲视》就是讨论这个问题的。
沃茨：《盲视》其实避免了这个问题，因为我不知道意识到底是什么，我只是讨论了它有哪些好处。
我一直觉得，人脑有时候就像一个开关，一打开就可以有意识通过。如果你用电刺激一块肉，这就应该唤醒了这块肉吧？可是为什么呢？这完全是一个迷题，我们对此一无所知。没错，很多小说或科学理论在讨论意识，但没有任何一个可以解决掉那个最核心的问题——为什么意识“感觉”起来是这样的？我们为什么必须有意识？意识本身什么也不做。
这一切都是个陷阱，我们不知道意识是从什么时候开始的。
Q：几十年之后，人类会不会找到答案，弄明白“意识”到底是什么？或者，我们能进行到哪一步？
沃茨：这个问题有两个答案。第一个答案是物理学上的，我认为唯一能理解意识的方法，是发现一种全新的物理，重新定义宇宙万物。第二个答案，就是我们永远无法理解。因为以定义来看，意识是“在里面”的，你只能在外面研究它，但当你跳出来观察意识的那一瞬间，你又被“意识”圈了起来，每一次你试图跳出来时，你都会陷入循环中。意识总是隐形的，无意识的状态是不存在的。
Q：现在很多研究意识的实验，我们都不知道它的方向是否正确，比如著名的“水迷宫”——人们把小白鼠放进迷宫里，试图研究动物的记忆能力。这样做真的能弄明白记忆和意识的原理吗？
沃茨：就算这个实验成功了，说明的也是动物的学习能力。我们有可以自主学习的计算机，有这种能力不代表具备意识，这毫无道理。
比如你被锁在一个房间里，被问到“你有意识吗？”你回答：“是的，我有”。想象一下，如果有个和你长得一模一样的机器人，被编程说出和你一样的话，你怎么确定谁有意识呢？所以有没有意识这个问题，不可能直接问就得到答案。
有人发明出了一种计算方法，据说能够测算出“你有多有意识”，从无意识到具有强烈的意识，以数学的方式展示出来。这对那些病危的病人很实用，因为你用这种方法扫描一下病人的大脑，就能得到数据，注明这个人“有意识”、“非常有意识”或者“不那么有意识”。这个技术太炫酷了，但还是不能解释为什么人类会有意识的那种“感觉”。我想问你，如果要讨论意识的本质的话，你会怎样设计实验呢？
Q：我认为这是科幻小说的，或者说是人类的终极问题。
沃茨：是啊。当答案终于知晓时，我们也不在这世上了，真是可惜。如果你知道了问题的答案，更多的谜题就会冒出来，这个宇宙并不会因你知道了某一个答案而变得无趣，你不觉得吗？
谜题是追求不完的。祝你好运吧！
责编：船长；翻译：思敏
作者：苏小七，《不存在日报》记者，本体是白鼬。
