“理性:AI到僵尸”：(或“序列”)是Eliezer Yudkowsky关于认知科学中人类理性和非理性的一系列博客文章。这是2006年至2009年间发表在Less Wrong和Overcoming Bias上的文章的编辑和重组版本。这本书是对Less Wrong、机器智能研究所、应用理性中心和有效利他主义社区的重要组成部分背后的形成思想的长篇介绍。每本书还附有罗伯·本辛格的介绍和尤德科夫斯基的补充文章。

这是“理性:AI到僵尸”(也被称为“序列”)的第一本书，从认知偏见开始。本书的其余部分不会只讨论这个话题;坏习惯和坏想法很重要，即使它们来自我们的思想内容，而不是我们的思想结构。然而，正是认知偏差提供了最清晰、最直接的一瞥，让我们得以窥见我们的心理，了解我们的启发式和我们局限性的逻辑。我们将带着偏见开始。

本篇文章翻自Less Wrong社区，本文将会翻译前言，原文地址如下：

https://www.lesswrong.com

前言

by Eliezer Yudkowsky

现在在你手中的是一份两年日常博客的汇编。再回想，当我会看这个项目，然后发现我所做的这一切都是完全错误的。即使这样，我仍然感觉很棒。回顾过去却不去看我所做错的事情意味着自2009年以来我的写作能力和理解能力都没有得到提高。当我们提升信念，改变观念的时候，Oops（这里指的是出了一点小差错时候的语气词）是我们经常会听到的词；因此，回顾过去却不去看做错的事情意味着，自那时起你没有学到任何东西或者转变你的观念。

如果两年以来我不带着帮助别人在他们的日常生活中做得更好的目的去写这些博客，那么这可能是个美丽的误会。我就是带着帮助别人解决更大更难更重要的问题的目的去写这些东西的，我会选择那些让我印象、那些抽象的问题来举例子。

回想过来，在我的这一项项目中，有两个尤其大的错误。我提出的第一个大的问题在我的写作中，我没有意识到学习这些有价值的思考方式的亟待解决的是指出我们应该如何去实践它，而不是仅仅知道这些理论。我没有意识到这个部分是极其重要的；一想到这，我就会发出“咝咝”声。

是这样的，有的时候我们遇到了一些非常紧急而重大的事情，但是这并不改变这个基本的事实——掌握你所需要的技能是需要相当多的练习。同时，在需要漫长努力的事情是实践更是难上加难。（现如今应用理性的重点是去以一些更为更为系统性的方式去协整我之前的一些错误。）

第三个我做的比较大的错误，我过于聚焦在理性的信念上面，忽视了理性的行为。

第四个重大的问题是我应该更好地按照顺序组织自己展现的内容。尤其地，我应该创建一个类似维基百科的东西，使得读者更容易按照顺序去读我的这些博客。

这些问题至少都是可以被修正的。在当前的工作过程当中，Rob Bensinger已经记录了这些博文，同时重新组织了它们，他尽可能地没有再做修改。

我的第五个问题是，就像我看到的，我非常直白地说出那些在我看来很愚蠢想法的愚蠢之处。我尝试去避免一些常见的类似于布佛氏论证（Bulverism）的逻辑谬误，类似于公开地讨论某群人信仰某些东西实在是相当愚蠢；我已经提前给这件事情做了一个论断，然后最后只是说“这件事情实在是太愚蠢了！”然而在2009年，有一个悬而未决的问题一直萦绕在我的脑海，那就是身边有一些对顺势疗法表示蔑视的人是否很重要。我过去认为，现在仍然认为，存在一个不幸的问题，即礼貌地对待想法在某种程度上被许多人视为“如果我说我相信这个，不会有什么坏事发生在我身上;如果我说我相信顺势疗法，我不会失去地位”，喜剧演员的嘲笑可以帮助人们从梦中醒来。

现如今，我可能会写得更加礼貌一些。之前那些冒犯的行为主要是为了一个目的，我认为有许多人通过阅读它们得到帮助。但我现在更严肃地看待建立这样一个社区的风险:公开的嘲笑和蔑视是对地位低下的局外人的正常和预期的反应。

尽管有这些那些的问题，但是我仍然是很高兴去说我的读者们没有使用我的一些浮夸的词汇去霸凌或者轻视他人，这真的是相当棒的！（在这里我尤其想要说Scott Alexander先生，他是个比我要棒的人，也是一位在这个话题上相当令人惊叹的作者，他非常值得在促进Less Wrong社区健康文化方面记上一笔。）

回溯过往说出自己的失败也意味着你是有目标的。因此什么是我需要尝试做的？

在今天，有一些相当有价值的思考方式却没有在学校中传授。这些思考方式更没有被系统性传授。它仅仅被那些成长过程中读《你在开玩笑吧，费曼先生》或者拥有一个非凡的好老师的学生理解或者学会。

当然，最著名的是，这种特定的思维方式与科学和实验方法有关。这是科学的一部分，你走出去观察宇宙，而不仅仅是编造东西。当实验不支持一个糟糕的理论时，你会说“哎呀”，

然而，这种思考方式远远不止这些。这要比你到了两只鹅进实验室然后你一走这两只额就飞了更加广泛而深厚。虽然这很微不足道或者更加困难，但是它确实也应用在我们的生活中。但是如果你没有惊叹一声或者当你看到这一切好像行不通就放弃的时候，你没有选择只能脚踏实地，继续前进。你必须为你的枪提前准备子弹，然后你必须上膛搬好扳机。你知道这样的人。如果有某种思维方式可以帮助我们停止这样做，那就太好了。

不管过去我的错误有多大，过去两年我发出的博客帮助了相当令人惊叹数量的人群。虽然它也不是一直有效，但是它仍然有用。

在现代社会，很少有教我们理性思考和做决策的技能，很少有人教授他们背后的数学与科学......事实证明阅读大量充满提问的哲学和科学文本是真的对你有意想不到的好处。从多个角度去看这些有的时候可以让我们一瞥中心。

因为所有的这些最后到最后都是一件事情。我谈论很多宏大的问题反而忽视了当下的生命，当时管理它们的理论并没有什么实际的不同。我所关注的领域有着相当大的跨越，然后我会汇总所有出错的例子；然而到最后它们都是同一件事情。我很自豪去回看这些然后说，即使我确实出了些差错，其他时候我仍然会说“哇哦”！

即使在五年之后，对我而言，它仍然比没写要好。

——Eliezer Yudkowsky写于2015年2月