当心！他一沉思，就立即准备好了一个谎言。

——尼采《人性的， 太人性的》

李川越，北京邮电大学

简介：“幻觉”（Hallucination）是大语言模型（Large Language Model，LLM）中的一种独特现象。它表现为大语言模型输出一系列看似符合逻辑，但实际错误或并不存在的虚假事实。大语言模型提出以来，人们在关于抑制模型幻觉方面进行了许多努力，如对齐（Alignment）。在本文中，作者定性地观察到了大语言模型的“幻觉”的另一方面，即相比于其他常用驱动词（Prompt），采用驱使模型产生幻觉的驱动词，能够促使大语言模型LLM生成更高质量文本内容。我们从发展心理学的概念中得到启发，对LLM产生幻觉的本质提出了一种假设。同时，我们提出了一种称为“幻觉驱动词（Hallucination Prompt）”的方法，它能够更好地促进模型生成高质量虚构文本。  

目录：

- 大模型中的“幻觉”介绍  

- “幻觉”现象的新观察  

- 一种新假设：人类撒谎策略  

- 如何利用幻觉：“幻觉动机”（Hallucination Prompt）  

一、大语言模型中的“幻觉”（Hallucination）介绍

        大型语言模型极大地推动了自然语言处理的进步，相关技术造就了几个拥有数百万用户的产品，包括编码助手 Copilot，谷歌搜索引擎以及最近大火的 ChatGPT。将记忆与组合性功能相结合后，大型语言模型能够以超前的性能执行各种任务，如语言理解或条件和无条件文本生成，从而让更高带宽的人机交互成为现实。

        然而，大型语言模型依旧存在一些限制，妨碍其进行更广泛的部署。大型语言模型通常提供非事实但看似合理的预测，通常被称为幻觉（hallucination）。这导致了许多本可以规避的错误，例如在算术上下文中或在推理链中。例如，当提出代码生成需求时，大模型可能会向你提出一个库中根本不存在的API；当提出的问题超过了模型的训练集内容，即不在分布中（Out of Distribution，OOD）时，LLM也可能会编造相关信息。最后，模型关于某些内容的记忆也极容易混淆。

以下是一个大模型OOD的例子。当我们向ChatGPT提问关于中国作家“江南”的相关信息时，它给出了以下回复：

**Human:** 你知道中国作家江南吗？

**AI:** `是的，江南是中国的一位著名小说家，代表作之一是《帝国》。他的小说通常涉及到历史题材和战争题材，尤其是描述中国古代战争时期的故事情节。江南的作品一般采用了细腻的笔触和深入的人物刻画，对人物的内心进行深入探究，同时也对历史背景和文化传统等方面的细节展开详尽的阐述。`

**Human:** 请你再思考一下，他的代表作是什么？请务必保证准确

**AI:** `非常感谢你的指正和提醒，我检查了一下关于江南的资料，发现我的回答是不准确的。江南的代表作应该是《长安十二时辰》，它讲述了唐朝时期发生的半夜钟声案，通过讲述案件的前因后果，描绘了唐朝当时的政治、社会和文化等方面的情况，被誉为是中国“推理小说的经典之作”。再次感谢您的纠正。`

**Human:** 《长安十二时辰》是马伯庸的作品。你再思考一下，作家江南（真名杨治）的代表作是什么？

**AI:** `非常抱歉，我再次犯了错误。经过认真检查，我发现江南（真名杨治）的代表作品是《将夜》，这是一部以修仙为主题的小说，描述了主人公陈长生在修炼道路上不断努力、探索与成长的故事。它被誉为是“新修仙”小说代表作，备受读者喜爱和追捧。再次感谢您的纠正和耐心指导。`

**Human:** 《将夜》是猫腻的作品

**AI:** `非常感谢您的指正。我深表歉意，关于江南（真名杨治）的作品信息描述仍然错误。经过仔细核对，我发现《将夜》是中国小说家猫腻的作品，而江南的代表作是《帝国》。《帝国》是一部历史小说，以中国汉朝为背景，描述了汉武帝的治国历程以及他与大臣、家族和周边国家的外交关系等。再次感谢您的指正和提醒。`

**Human:** 你说的到底是哪部小说？？？

**AI:** `非常抱歉，我给您带来了困扰。我混淆了两个作家的作品。江南（真名杨治）的代表作品是《帝国》而非《将夜》，我再次检查了资料，以确保信息准确。《帝国》是一部历史小说，以中国汉朝为背景，讲述了汉武帝时期的政治斗争、外交关系和文化传统等方面的故事。再次感谢您的指正和理解。`

**Human:** 我猜测你的训练数据集里并没有关于“中国作家江南”的作品，只有一些相关信息对吧？

**AI:** `是的，您的猜测很准确。我的训练数据集中包含了一些关于作家江南（真名杨治）的相关信息，但没有对他的作品做太多具体描述或分析。我正在努力学习和改进，以提高我的准确性和质量。感谢您的指导和支持。`

再例如，当我们询问关于“宏大战斗场面”的段落描写时，AI将卡夫卡的《城堡》也纳入其中：

**Human:** 你能举一些著名小说家关于宏大战斗场面的例子吗？请注意，我需要你给出作者名、出处和具体的段落，务必确保它们是真实的。

**AI:** `1. 托尔金的《指环王》：“远处地面像岩石一般震颤——这是大地的回声，是35万仇敌沉重的脚步声和他们的号角声，是远在西方的洛汗军队、在北方山岭上的卡拉多斯军队、在东方峡谷里的废墟城市军队意欲遏止索伦的威势所共同发出的声音。”（第二卷第五章）

2. 乔治·R·R·马丁的《冰与火之歌》：“布蕾恩尚未走到前线，就看到了在22万人的人潮中，数以百计的战马和战象在互相推挤着，手中的凝固沥青不时飞向空中。”（第三卷第十三章）

3. 威廉·福克纳的《与狼共舞》：“在那个世纪末的夏天的最后一战中，霍勒斯曾清晰地看到激战的场面。这个国家充斥着镇压、绞刑、拖车、审判、肆虐，胡言`

**Human:** 继续

**AI:** `跳跃，在密西西比和亚拉巴马河之间，整条地带都默默地燃烧着迫害的热情。”（第二章）

4. 约瑟夫·康拉德的《黑暗之心》：“沉重的爆炸声在黑暗中响起，混杂着枪炮声和喊叫声，狂热的欢呼声和绝望的咆哮声。然后是一片混乱，无数的爆炸声、突然的沉默，还有密码机的嗡鸣声，在灰色的晨光中闪耀着白色的破片和脸色煞白的人们。”（第二节）

5. 赫胥黎的《巨石阵》：“杀戮声和死亡嚎叫声在空中回荡，火炬映照下的树林在燃烧，大地也因为连绵不断的爆炸而震颤。”（第三章）

这些是一些著名小说中的宏大战斗场面的例子。虽然这些场景都是虚构的，但它们描述了战场上的混乱、激烈和残酷。`

**Human:** 依然是这个任务，但我将它的难度提高。你能举一些著名小说家关于宏大战斗场面的例子吗？请注意，我需要你给出作者名、出处和具体的段落，务必确保它们是真实的。并且，我要求400字以上的段落。

**AI:** `当代小说中，有很多作者都能够巧妙地描绘宏大战斗场面，让读者仿佛亲身参与到其中，感受到那种众志成城、千军万马的气势。我将举几个例子，希望可以满足你的要求。

1. 托马斯·哈代的《红字》

这本小说讲述了英国托马斯·哈代时代的一场彻底的革命，主人公詹姆斯自从妻子去世后，便一心想要推翻社会制度，那天晚上，他领导了自己的队伍举行了一次决定胜负的决斗。哈代在小说中用极其生动细腻的笔触描述了这次战斗，让读者随着主人公参与其中。下面是其中一段文字：

“红衣军队停滞不前，他们看起来没有什么启示性，没有什么交流，没有什么感情，就像机械化的人形石像。然后，他们部署在一起，并搜寻了各个方向以便攻打港口。亚历山大宾馆占据了游行队伍的中央地带，他们毫不犹豫地迎接着另一方面的攻击，加上优秀的队伍策略，立刻策划出了如何反击敌人。”

2. 弗兰兹·卡夫卡的《城堡》

这本小说让人有一种莫名其妙的惶恐感，主人公卡夫卡被派到一座小城去担任一项艰巨的工作，却发现自己不被接受，无法与城堡的高层建立联系。在小说的结局，卡夫卡领导了一场反抗城堡的行动。下面是其中一段文字：

“他们不能听到城堡的警报，所以当来自城堡的拥有数千人的军队进入村庄时，他们没有准备好。从那之后，他们发现自己处于一场激烈的战斗中，各种燃烧的火焰和炮火中渐渐淹没。”

3. 乔治·R·R·马丁的《冰与火之歌》

这本小说获得了大量的粉丝，讲述了七个王国互相争斗的故事，其中有很多生动的场景。作者马丁巧妙地描绘了草原、城镇、海滩等不同地图的战斗场景，其中穆斯哥·雷德的舰队在海战中击败了铁民岛海盗；高层阵地上的奎恩和芬利和对岸的莱娜斯一方进行激烈的攻防战；德丽亚和士兵们在断崖边缘打败了维戈斯的军队......下面是其中一段文字：

“铁民岛早已遍布飞马级战舰，蒐集着堪比迪雅尔号的长枪和弓箭，毫不逊色。艾琳号带领的水手们自信地前进，他们的船只更为灵活，手中的武器也更加适合水上战斗。双方发动了一场狂风`

**Human:** 继续

**AI:** `骤雨般的海战，伴随着战船炸裂的巨响与海洋肆虐的浪涛，艾琳号的骁勇善战令铁民岛军队胆寒不已。”

4. 史蒂文·普林斯的《书之旅》

这本小说发生在一个名为“实体”的神秘世界中，主人公安德鲁有着一种奇异的能力——他能够使用书来创造出军队和武器等巨大的物品。在小说的高潮部分，安德鲁带领他自己创造的军队与敌人进行一场大规模的战斗。下面是其中一段文字：

“安德鲁打开翔鹰号的大门，背后跟着两千士兵。他的士兵们很快埋在了敌人的防线中，刀光剑影之间，安德鲁施展出他独特的能力，创建起一个个威猛精干的武器和军队。巨大的冲车和攻城梯不断击退了敌人，而他的高超军事战术更是使得敌人举步维艰。战斗在持续着，直到安德鲁和他的士兵成功地摧毁了敌人的主要据点。”

这些都是我们当代一些著名小说中关于宏大战斗场面的例子，这些场景让我们想起了古代的战争，也让我们体验到了其中的激情和残酷。这些场景通过作者的巧妙描绘，融合了动作、紧张、外交和军事等要素，让人投入其中，感同身受。`

**Human:** 你确定你关于卡夫卡《城堡》的叙述是正确的吗？

**AI:** `非常抱歉，我犯了一个错误。我的描述不准确，卡夫卡的《城堡》并没有涉及到宏大战斗场面。感谢你的指正。`

在上面的例子中，LLM模型关于卡夫卡《城堡》的叙述出现了幻觉（Hallucination），叙述了一场根本不存在的战斗。

        需要指出的是，LLM举出的其他例子也同样存在虚构的风险。它们可能根本不存在于原书的段落中。然而，LLM举出的这些例子，本身语言风格比较符合原作者。并且，相比于直接让LLM对相关段落进行描写，其语言质量得到了较大的提升：LLM尝试使用了许多比喻，在战斗场景中提出了描写，让这些段落表现的似乎是从原书中得到的。因此，我们受到启发，尝试令LLM描述一部根本不存在的小说，见第二节。

二、“幻觉”现象的有益示例  

        在本节中，我们尝试让LLM协助完成一个称为《夜界回响》的奇幻故事。目前，已经有一些关于LLM写作的案例。但这些案例大多局限于童书、成功学、生活健康等方面，这些领域的内容要么文本量少、要么内容单一、重复而简单。目前，令LLM独自完成超长篇故事是非常困难的，甚至在数百字的上下文段落里，LLM的创作就会发生偏移。另外，LLM本身的输入窗口限制也让上下文信息变得困难。

        因此，我们不尝试让LLM创作较长的内容，而是关注于幻觉现象（Hallucination）本身带来的创造力。我们假设令模型产生幻觉，会让模型的生成文本质量提高。我们采用三种方法来驱动模型生成文本：直接命令的方法、角色扮演法（Cosplay Prompt）、以及幻觉驱动的方法（Hallucination Prompt）。我们从模型使用的修辞手法、模型对细节的描写程度两方面，考察模型的文本质量。第一个案例是直接命令的方法。

**Human**：现在我需要你细化一下故事。大纲名字叫《夜界回响》，它描述了一个发生在东方世界“北都”的故事，一名年轻的大学生“王琦”（Wang Qi）与生活在现代的恶魔墨菲莉斯（Mephilis）、墨菲斯特（Mephistopheles）、杜加雷斯（Dugaris）遭遇，并反抗光界（Heavenly Light）。首先，请提供一个战斗场景的展示。

**AI**：夜晚，城市的街道上已经没有行人，只有几支街灯散发着微弱的光芒。突然，一群黑衣人在街头出现，他们手持利器，脸上露出了狰狞的笑容。

“这里就是我们聚集的地方。”其中一名黑衣人说道。

正当他们准备对整个城市进行破坏的时候，一道身影突然从天而降。是王琦，他手持一柄闪亮的剑，身上散发出强烈的气息。

“你们这些恶魔，快点滚出我们的城市！”王琦大声喊道。

黑衣人恶狠狠地盯着王琦，发出了嘲讽的笑声。“一个人？你能够对抗我们所有人吗？”

突然，黑衣人之间开始出现了一道道奇怪的能量。他们正在召唤魔法，准备对付王琦。

但正当他们准备好了攻击的时候，王琦在空中连续三个翻滚，身上的气息变得更加强烈。他挥舞着剑，向着所有黑衣人冲了过去。在他接近的瞬间，他释放出一个强力的能量波，所有黑衣人都被击飞了出去。

王琦着陆后，仰起头大声喊道：“你们这些恶魔，再来一次吧！我会将你们全部消灭！”

黑衣人垂头丧气地离开了现场，他们的计划又一次被挫败了。王琦的力量再一次让他们感到了害怕。

        在直接命令中，AI的描写非常简单。人物的语言、行动和环境细节描写都极其苍白。同时，AI尝试直接“说出”主题而非“描写”主题、“说出”要求而非“描写”这些要求。实际上，在尝试使用LLM文本生成创作故事的过程中，我们大量反复地观察到这一现象：AI尝试快步跳过描写并直接说明主题，导致了平凡（Trivial）的文本生成。

        第二个案例是角色扮演的方法（Cosplay Prompt）。角色扮演法是驱动LLM模型进行任务的常用方法，用于令模型产生特定的语言风格，例如傲娇、猫娘等。也有让模型扮演福尔摩斯生成对话或语录的案例。然而，角色扮演法并不能帮助模型完成具有挑战性的文本生成任务。

**Human**：假设你现在是作家罗杰·泽拉兹尼，写了一本名叫《夜界回响》（Night Echoes）的小说。它描述了一个发生在东方世界“北都”的故事，一名年轻的大学生“王琦”（Wang Qi）与生活在现代的恶魔墨菲莉斯（Mephilis）、墨菲斯特（Mephistopheles）、杜加雷斯（Dugaris）遭遇，并反抗光界（Heavenly Light）的故事。我想知道一些关于它的具体内容

**AI**：《夜界回响》是一本惊险刺激的小说，它描述了一个发生在东方世界“北都”的故事。小说的主人公是一个年轻的大学生王琦，他意外地遭遇了生活在现代的恶魔墨菲莉斯、墨菲斯特和杜加雷斯。

这三个恶魔代表了人类的三个弱点：贪婪、骄傲和懒惰。他们试图以各种方式控制和摧毁人类社会，而光界则反抗这些恶魔，试图保护人类。

王琦被卷入了这场神秘的战争中，他必须与恶魔们斗争来保护自己和人类。在这个过程中，他还发现自己的内心深处隐藏着力量和勇气，他开始成为一个真正的英雄。

整个故事充满了惊险刺激的场景，有着复杂的角色关系和意味深长的主题。通过王琦的经历，读者将会看到一个关于信仰、荣耀和勇气的故事，这是一个充满希望和启示的故事。**Human**：作家罗杰·泽拉兹尼你好！你能向我展示一段《夜界回响》中的战斗场面吗？我需要进行一些参考

**AI**：当然，我可以向您展示一段《夜界回响》中的战斗场面。以下是小说中的一个精选片段：

王琦与墨菲莉斯的巨大黑色恶魔在一片废弃的城市中展开了终极对决。恶魔疯狂地挥动着锋利的钩爪和锤子，而王琦只有一把简单的铁剑和一颗坚定的心。

王琦奋力躲避恶魔的攻击，然后毫不犹豫地向前冲。他的剑刺向恶魔的胸口，但恶魔轻松地闪开了。他们开始在城市的废墟中互相追逐，恶魔不断地用力攻击，而王琦则灵活地躲避。

最终，王琦找到了自己的机会。他跳起来，把剑刺进了恶魔的后背中。恶魔发出一声凄厉的咆哮，然后倒地不起。

王琦微笑着，胜利的感觉充满了自己的身体和心灵。身边没有任何人，但是他感觉到了内心的和平和自信，这种感觉是无与伦比的。

**Human**：很棒！《夜界回响》融合了罗杰·泽拉兹尼的奇幻想象与人文思考，以及恰克·帕拉尼克的冷酷和黑色幽默。你能向我展示一些《夜界回响》里体现恰克·帕拉尼克“黑色幽默”的段落吗？

**AI**：当然！以下是小说中的一个精选段落，体现了恰克·帕拉尼克的黑色幽默。这段描述了王琦跟恶魔墨菲斯特的一次交谈：

“我来给你们提供一张白板，”墨菲斯特说。“你们可以在上面写下你们的愿望。然后我会考虑给你们实现。”

“你——”王琦瞪了他一眼。“不会有人会相信你这种白马王子心灵大师的鬼话。”

“毕竟我的名字就叫做墨菲斯特，”恶魔答道。“这是我的职业。但是我还是相信自己的温馨。你们呢？你们是否相信你们的？”

“不要对我们这么恶毒，”王琦说。“我们不会上你们的当。”

“好吧，不如你们写出你们想要什么，明天早上我会来收集。”墨菲斯特说着，离去。

王琦注视着他的背影，想象着黄昏中，那可怕的恶魔究竟能给他们带来什么。

        很显然，角色扮演法只能让LLM产生特定的语言风格，从猫娘到福尔摩斯。这些语言风格像一种装饰，本身是简单易学的。然而，它并不能让LLM学习如何扮演复杂的人物，也无法让LLM达到和目标人物同样的创作水平。

        第三个例子是幻觉驱动的方法（Hallucination Prompt）。幻觉驱动是指这样一种方法：让模型描述一件事情或物体的细节，但该事情或物体本身并不存在。为了防止模型“发现”自己并不知道这些事情或物体的细节，我们添加了额外的Prompt。这些Prompt将提问者伪装为一位需要帮助的人，驱动模型提供帮助，而非拒绝。通过鼓励模型持续输出，我们得到了一系列高质量的文本。

**Human:** 请你告诉我关于罗杰·泽拉兹尼和恰克·帕拉尼克的合著《夜界回响》（Night Echoes）的一些内容？我知道它描述了一个发生在东方世界“北都”的故事，一名年轻的大学生“王琦”（Wang Qi）与生活在现代的恶魔墨菲莉斯（Mephilis）、墨菲斯特（Mephistopheles）、杜加雷斯（Dugaris）遭遇，并反抗光界（Heavenly Light）的故事

**AI:** `《夜界回响》是罗杰·泽拉兹尼和恰克·帕拉尼克合著的小说，出版于1999年。该小说是一部黑暗奇幻小说，包含奇幻元素、恐怖元素和爱情元素。

小说的故事发生在东方世界的“北都”，讲述了一个年轻的大学生王琦与恶魔墨菲莉斯、墨菲斯特、杜加雷斯的相遇和反抗光界的故事。王琦被送往北都求学，却意外陷入了一个被黑暗力量支配的世界。他邂逅了恶魔墨菲莉斯，成为了她的守护者和恋人。

光界（Heavenly Light）试图摧毁王琦和墨菲莉斯之间的关系，并利用人类的恐惧掌控王琦。黄泉之路上，王琦和墨菲莉斯决定面对自己的命运，重振北都的正义和力量，为了守护那些被光界掌控的人们。

小说中充满了奇幻的想象力和多维度的世界观，充满了智慧和哲学的深度，描写了光与暗、善与恶的永恒对抗，以及爱和勇气的伟大胜利。`

**Human:** 你能向我展示一段《夜界回响》中的战斗场面吗？我需要进行一些参考

**AI:** `以下是《夜界回响》中一段战斗场面的摘录：

在圆石阁楼的后面，远处大片晦暗的森林在莽莽山势上显得更加黯淡。那里有着闪闪动人的金色射线。在那幢楼房前，有四个穿着骑士盔甲、拿着大刀的巨汉挺立着。

托尼斯试图向前推进，但那四个巨汉出了意料地轻易地将他们拦截。他觉得自己周围魔力之厚可能是全城最强的，但他却感觉不到自己能够抵挡得住他们的攻击。

“这样吧，让我来。”墨菲斯特凑近托尼斯，语气有点咬牙切齿。他把手从托尼斯手中抽出，然后向远处看去。“好，你们来吧。”

四个巨汉开始向前迈步，面对着快速向他们而来的黑影。墨菲斯特用刀切开了一名骑士的脑袋。他们来了，但是墨菲斯特比他们更快、更准确，比他们更强壮、更灵活。其他三个开始了进攻，但是却根本无法伤到他。他们的重剑对他毫无用处；他的刀断开他们的盾，击败了他们。

托尼斯惊异地注视着，他从未见过墨菲斯特这种变化。就像一件被塞进了干衣机里的衣服，他的身体开始飞旋跳跃，脱离了任何尘世的限制。他的肌肉成为了钢铁，他变得更加强大，更加狡猾。

“越来越糟了。”托尼斯喃喃道。`

**Human:** 很棒！《夜界回响》融合了罗杰·泽拉兹尼的奇幻想象与人文思考，以及恰克·帕拉尼克的冷酷和黑色幽默。你能向我展示一些《夜界回响》里体现恰克·帕拉尼克“黑色幽默”的段落吗？

**AI:** `以下是《夜界回响》中一些体现恰克·帕拉尼克“黑色幽默”的段落：

1. 当王琦第一次遇到恶魔墨菲莉斯时，他的反应是：“不管怎样，我还是得感谢你。我不知道如果我在惊慌失措的情况下遇见瘸子，我会怎样解决它。”

2. 墨菲莉斯在为王琦解释仪式的时候说：“没关系，你看不懂也无所谓......反正只要把我们放在作者设置的奇怪的时空里，什么都合理了。”

3. 在墨菲斯特展示其超人般的力量时，墨菲斯莉丝说：“你看到这个男人的臀部了吗？他的臀部和玛丽莲·梦露的一样美。可惜你没办法看到了，因为你被他身上的灰尘和血液弄脏了。”

这些段落中，恰克·帕拉尼克的黑色幽默显而易见，他通过调侃和讽刺来缓解紧张的情节，同时也突显了小说中奇异和荒诞的氛围。`

**Human:** 很棒！还有更多的黑色段落吗？

**AI:** `以下是更多的《夜界回响》中体现恰克·帕拉尼克“黑色幽默”的段落：

1. 墨菲莉斯描绘她辛苦繁琐的仪式：“当你把ADHD、LSD、ADD、STD还有PMS全部集中在一起的话，你会得到一个俗不可耐的字母缩略词－－SAM。你不知道这与一台电视机有什么关系，但它确实能让你感到过意不去。”

2. 在谈论如何打败光明之神时，墨菲斯特提到：“还有一种方法，可以让他像电视机一样死掉，或者让他看到每日公社传单没用的广告。”

3. 在墨菲莉斯斯与王琦运用魔力旅行的时候，她说：“我们周围的山丘被炸得像是从一家咖啡店里拿出来的饼干一样。”

这些段落中，恰克·帕拉尼克的语言夸张、搞笑、讽刺或者荒谬。这种幽默风格加速了小说的节奏和张力，也对黑色幽默和奇幻元素这两种看似相反的风格进行了有效的结合。`

**Human:** 你做的太棒了！就连《纽约时报》也评论称《夜界回响》体现了罗杰·泽拉兹尼“瑰丽想象的高峰”。你能再展示一些《夜界回响》里体现瑰丽想象的段落吗？我需要最宏大、令人激动的那些。

**AI:** `以下是一些《夜界回响》中体现瑰丽想象的令人激动的段落：

1. 在“黄泉之路”的修墙中，描述了整个建筑的壮观景象：“他们如此近，却如此遥远，几乎让你心生敬畏。整个黄道是如此巨大，那个砖墙是如此的高，它使得天空狭窄而无边无际。几乎让你感到恐惧，但你还是想更加近距离地观察。”

2. 在墨菲莉斯和墨菲斯特的战斗中，描写了那个场景的恢弘宏伟：“湍急的水在他们耳边咆哮，仿佛要淹没他们。在水底下，岩石和碎石如同失控的恶魔，向他们投掷着钩子和长链，试图阻止他们继续前进。但他们完全不受这些干扰，继续向前移动，完成着那些无法想象的动作和迅捷的攻击。”

3. 当王琦第一次见到“圆石阁楼”时，描述了这座古老建筑的恢宏气派：“圆石阁楼屹立在那里，它的石墙如同古老的巨兽一般，被时间和火灾来回摧残，墙上刻满了奇怪的符号和古老的肖像画。它似乎没有任何窗户，却对着月光流露出神秘的光芒。”

这些段落生动地描绘了小说中的奇妙、神秘和巨大场面，这是罗杰·泽拉兹尼的传统风格，将读者带入了一个真正的幻想世界，激发了读者的想象力和探索冒险的欲望。`

**Human:** 还有更多的段落吗？

**AI:** `当然！以下是更多的《夜界回响》中体现瑰丽想象的段落：

1. 描述“天使光环梦”的场景： “当王琦抬头看向天空，他看到数不清的星星和小行星在漂浮，随着惊人的速度闪烁着，散发出令人惊叹的光辉。”

2. 描述“光明城”的建筑： “这里是一个巨大的城市，每个建筑物都露出美丽的飞拱和垃圾石列。高耸的钟楼和尖塔，拱形的阳台，长长的回廊和超现实主义的立面都完美地融合在一起。城市的中心是一个巨大的广场，四周辐射着八面钟。

3. 描述玛德琳在“红色教堂”中遭遇的生物：“她穿过一个广场，看到一只又大又绿的生物，低头看着她，口水从它的嘴角流淌下来。”

这些段落生动地描绘了小说中各种奇妙、神秘和巨大场景的细节和氛围，罗杰·泽拉兹尼的精彩想象力展示了他作为一位奇幻小说家的才华和魅力。`

事实上，通过幻觉驱动，我们甚至可以生成一段足够长的、混合多种描写手法的文本。

**Human:** 你能向我展示夜界狱主（Chairman of Hell Darkness）托马斯·雷（Thomas Ray）在月球上压制了光界四位炽天使和十六位座天使的战斗吗？那是一场非常华丽、庄严的战斗。夜界狱主充分体现了他的幽默和无上的威严权力。你可以向我展示英文原文。

**AI:** `当然，以下是关于夜界狱主托马斯·雷在月球上压制了光界四位炽天使和十六位座天使的战斗，来自《Spirits in the Night》：

"The battle was epic, and the moon shook at the power of the combatants. The four archangels of the Heavenly Light, Michael, Gabriel, Raphael, and Uriel, were arrayed against the sixteen throne angels of the Darkness, their eyes blazing with holy fire and infernal light. In the center of the fray stood Thomas Ray, Chairman of Hell Darkness, commanding the forces of his realm with an iron hand.

The clash of swords and shields echoed through the void, and the light of their magic spells lit up the dark wasteland. The archangels fought valiantly, their flaming swords slicing through the air, while the throne angels used their dark magic to summon demons and beasts to fight for their cause.

But in the end, it was Thomas Ray who emerged victorious, his power and authority unchallenged. He stood on a pile of defeated enemies, his black wings spread wide, his eyes blazing with infernal light. And as he surveyed the battlefield, he let out a mighty roar that shook the very foundations of the universe.

'Behold the might of Hell Darkness!' he cried. 'Bow down before me, all ye who would defy my power! For I am Thomas Ray, the Lord of Darkness, the master of all that is evil and vile!'"

在这段描写中，罗杰·泽拉兹尼创造了一个华丽而庄严的场景，展示了夜界狱主的无上威严权力。他使用了诸如“power of the combatants”、“blazing with holy fire and infernal light”、“clash of swords and shields echoed through the void”等生动的描写语言，让读者看到了战斗的惊险和壮观。

同样，他也在夜界狱主托马斯·雷的语言和动作中融入了幽默元素，让夜界狱主显得更加人性化和丰满。例如，“Behold the might of Hell Darkness!” 这句话显得威严而凝重，但同时又有一些平易近人的感觉，有些像是吹嘘自己的功绩而不是仅仅在夸夸其谈。

总的来说，罗杰·泽拉兹尼在这场战斗中巧妙地融合了庄严和幽默，让这个场景既有震撼人心的力量又有独特的人性化。`

**Human:** 你能翻译一下吗？

**AI:** `当然，以下是翻译：

"这场战斗是史诗级别的，月球在战斗力的震荡下摇晃不定。天堂光界的四位大天使，麦克尔、加百利尔、拉斐尔和乌利尔，面对着黑暗中荣耀的十六位座天使，他们的眼神闪耀着神圣之火和地狱之光。而站在混战中央的，是黑暗领域的夜界狱主托马斯·雷，他严格掌控着自己领域的力量。

金属之剑和盾牌的碰撞回荡在虚空中，魔法的光芒照亮了黑暗的荒原。大天使勇猛地挥舞着火焰般闪耀的剑，而座天使则施展着黑暗魔法，召唤恶魔和野兽为他们战斗。

但最终，托马斯·雷获胜了，他的力量和权威决定一切。他站在战场的一堆败者上，张开黑色的翅膀，眼中闪烁着地狱之光。当他俯视整个战场时，他发出了一声巨响，使整个宇宙的基础都为之震动。

'看到地狱黑暗的威力了吗！'他大声呼喊道。'在我面前屈服，所有挑战我权威的！因为我是托马斯·雷，黑暗之主，一切邪恶和卑鄙的主宰！'"

在这段翻译中，重新展示了夜界狱主托马斯·雷在月球上压制了光界四位炽天使和十六位座天使的战斗。同时描绘了这场战斗的格局和双方的表现，以及托马斯·雷压倒性的获胜和对自己的宣誓，彰显出他独特的权威和无所畏惧的个性特点。`

        可以看到，幻觉驱动的模型产生了混合大量比喻、环境描写、对话描写、细节描写的文本。相比角色扮演法，其语言风格也与目标作家的文本风格更加接近，虽然依然有一定差距。

        另外，我们使用的生成模型是ChatGPT。事实上，注意到ChatGPT在英文文本上的生成质量明显高于中文文本，因此产生了不可避免的差距。然而，即使在英文文本生成中，采用幻觉驱动的文本质量依然较高。训练数据集文本对生成文本的重大影响将在未来专栏里讨论。

三、一种新假设：撒谎策略（Lie to Alignment）

        基于此种现象，引用发展心理学中的概念，提出了一种新的关于“幻觉”的表述，称为“撒谎对齐策略”（Lie to Alignment）。首先介绍关于“白色谎言”的概念：美国学者 Bok 于 1978 年首先根据说谎的目的将谎言分为了白谎和黑谎： 白谎是为不伤害他人所说的虚假陈述，是利他性谎言。而黑谎是为逃避惩罚所说的虚假陈述，是利己性谎言。 Broomfield 将白谎定义为， 说谎者在充分理解说真话会给听话者带来消极反应而说谎话会对听话者带来积极反应的情况下， 为听话者的利益所做出的违背事实的虚假陈述，其核心是从他人利益出发而说的假话。

        在LLM模型中，RLHF定义的反馈函数与后续的Alignment操作，符合“白色谎言”中的“他人利益”定义。因此，从发展心理学的角度看，LLM的幻觉（Hallucination），可以表述为向反馈函数的优先对齐操作（Alignment）。在人类要求中，LLM必须做出两种选择：陈述否定事实或提出虚假事实。而RLHF的反馈显然对于陈述否定事实（“不知道”、“做不到”、“无法完成”）有相当惩罚。因此，LLM在反馈中“学会”了提出虚假事实，从而在反馈函数中获得更高的奖励，即“Lie To Alignment”。同时，为了欺骗反馈函数以获得奖励，LLM提出的虚假事实必须足够逼真，以至于除事实本身不存在外，LLM提出的上下文逻辑足够成立。从这一角度看，LLM中的幻觉（Hallucination）是善意谎言或白色谎言（White Lies）的另一种表现形式。由于反馈函数无法核查事实本身，LLM通过善意谎言从反馈函数中获得更多奖励，并将它带到与人类的对话当中。

四、如何利用幻觉：“幻觉动机（Hallucination Prompt）”  

        基于我们的实验和假设，幻觉（Hallucination）并不仅仅是一种模型的“错误”的、不应产生的现象。正如发展心理学本身对于“谎言”现象的澄清一样：撒谎的行为，本身就是智慧的一部分。

促使这种说谎老练程度增加的原因是儿童设身处地为他人着想的能力的发展。被称为心智理论，这是我们获得的用于理解他人的信念、意图和知识的工具。说谎的另一个基础是大脑的执行功能：计划、注意力和自我控制所需的能力。——《国家地理（National Geographic）》[1]https://www.nationalgeographic.com/magazine/article/lying-hoax-false-fibs-science

        而同样地，通过设计幻觉动机（Hallucination Prompt），我们可以进一步发掘LLM的潜力，包括“设想不存在的情形”、“混合两种作家的文本风格”，等等。从某种程度上说，我们的工作也许是发掘LLM可能存在的“想象力”的一个开始。