产生“有意义的人类语言”需要什么？

过去，我们可能认为人类大脑必不可少。但现在我们知道，ChatGPT 的神经网络也可以做得非常出色。这或许就是我们所能达到的极限，没有比这更简单（或更易于人类理解）的方法可以使用了。

不过，我强烈怀疑ChatGPT的成功暗示了一个重要的“科学”事实：

有意义的人类语言实际上比我们所知道的更加结构化、更加简单，最终可能以相当简单的规则来描述如何组织这样的语言。

正如上面提到的，句法语法为如何组织人类语言中属于不同词性的词提供了规则。但是为了处理意义，我们需要更进一步。一种方法是不仅考虑语言的句法语法，还要考虑语义语法。

当我们开始谈论“语义语法”时，很快就会问：它的底层是什么？它假设了什么样的“世界模型”？句法语法实际上只是关于由词构建语言的。但是语义语法必然涉及某种“世界模型”—类似于“骨架”，由实际的词构成的语言可以基于它分层。

直到不久之前，我们可能还是认为（人类）语言将是描述“世界模型”的唯一通用方式。几个世纪前，人们就已经开始针对特定种类的事物进行形式化，特别是基于数学。但是现在有了一种更通用的形式化方法：计算语言。

这一切都与语义语法的思想有关——目标是拥有一个对各种概念通用的符号“构造工具包”，用于对什么可以与什么组合在一起给出规则，从而对可以转化为人类语言的“流”给出规则。

假设我们有这种“符号话语语言”，我们会用它做什么呢？首先可以生成“局部有意义的文本”。但最终，我们可能想要更有“全局意义”的结果——这意味着“计算”更多实际存在或发生于世界（或某个与现实一致的虚构世界）中的事情。

人类语言是不精确的，这主要是因为它没有与特定的计算实现相“结合”，其意义基本上只由其使用者之间的“社会契约”定义。但是，计算语言在本质上具有一定的精确性，因为它指定的内容最终总是可以“在计算机上毫无歧义地执行”。人类语言有一定的模糊性通常无伤大雅。（当我们说“行星”时，是否包括外行星呢？等等。）但在计算语言中，我们必须对所做的所有区别进行精确和清晰的说明。

所有这些在ChatGPT 中意味着什么呢？在训练中，ChatGPT 有效地“拼凑出”了一定数量（相当惊人）的相当于语义语法的东西。它的成功让我们有理由认为，构建在计算语言形式上更完整的东西是可行的。与我们迄今为止对ChatGPT 内部的理解不同的是，我们可以期望对计算语言进行设计，使其易于被人类理解。

我们可以将计算语言——和语义语法——的构建看作一种在表示事物方面的终极压缩。因为它使我们不必（比如）处理存在于普通人类语言中的所有“措辞”，就能够谈论可能性的本质。可以认为 ChatGPT 的巨大优势与之类似：因为它也在某种意义上“钻研”到了，不必考虑可能的不同措辞，就能“以语义上有意义的方式组织语言”的地步。

*本文有删减，内容节选自《这就是ChatGPT》

编辑推荐

• 国内首部由世界顶级AI学者、科学和技术领域重要的革新者、“第一个真正实用的人工智能”搜索引擎WolframAlpha发明人斯蒂芬·沃尔弗拉姆的ChatGPT诚意之作

• 当今活着的最聪明的人之一、比肩康德，最硬核的思考者，对ChatGPT 最本质的原理（神经网络）的解构

• OpenAI CEO，ChatGPT之父山姆·阿尔特曼、世界顶级的AI学者，机器人界的巨擘，MIT教授，多家知名机器人公司创始人，美国工程院院士罗德尼·布鲁克斯、量子位联合创始人，总编辑李根、科学作家，“得到”APP《精英日课》专栏作者万维钢联袂推荐

Wolfram是当今活着的最聪明的几个人之一，也是最硬核的思考者之一，因为他解读世界的视角是数学和物理学的。他关于计算不可约性的思想，给此后无论如何发展的世界中的AI和人类的角色设定了互不毁灭的定律。Wolfram的历史地位将有可能比肩康德。

这本书拨云见日，讲出了ChatGPT最底层的原理以及谜团。没有人真正理解为什么语言模型这么厉害，但这本书能告诉你它们的底线在哪里。

——万维钢，科学作家，“得到”App《精英日课》专栏作者

内容简介

ChatGPT是OpenAI开发的人工智能聊天机器人程序，于2022年11月推出，能够自动生成一些表面上看起来像人类写出的文字的东西，是一件很厉害且出乎大家意料的事。

那么，它是如何做到的呢？又是为何能做到的呢？本书会大致介绍ChatGPT的内部机理，然后探讨一下为什么它能很好地生成我们认为是有意义的文本。

本书适合想了解ChatGPT的所有人阅读。

电子书地址：https://www.ituring.com.cn/book/3237