ChatGPT已经失控了吗？

OpenAI的ChatGPT推出后，人们的兴奋之情只有互联网历史上为数不多的科技产品可以比拟。

虽然许多人对这项新的人工智能服务感到兴奋，但其他人的兴奋后来变成了担忧，甚至是恐惧。学生们已经在用它作弊，许多教授发现了由人工智能聊天机器人写的论文和作业。安全专家正在表达他们的担忧，即骗子和威胁者正在利用它来编写网络钓鱼邮件和创建恶意软件。

那么，在所有这些担忧下，OpenAI是否正在失去对目前网上最强大的人工智能聊天机器人之一的控制？让我们拭目以待。

了解ChatGPT如何运作

在我们能够清楚地了解OpenAI对ChatGPT的失控程度之前，我们必须首先了解ChatGPT的工作原理。

简而言之，ChatGPT是使用来自互联网不同角落的大量数据收集来进行训练的。ChatGPT的训练数据包括百科全书、科学论文、互联网论坛、新闻网站和维基百科等知识库。基本上，它以万维网上的大量数据为食。

当它在互联网上搜索时，它整理了科学知识、健康提示、宗教文本，以及你能想到的所有好的数据种类。但它也筛选了大量的负面信息：骂人的话、NSFW和成人内容、关于如何制造恶意软件的信息，以及你在互联网上可以找到的大部分坏东西。

没有万无一失的方法来确保ChatGPT只学习积极的信息，而摒弃坏的信息。从技术上讲，大规模地这样做是不切实际的，特别是对于像ChatGPT这样需要在如此多的数据上进行训练的人工智能。此外，有些信息既可用于善意的目的，也可用于恶意的目的，除非将其放入更大的背景中，否则ChatGPT将无从得知其意图。

因此，从一开始，你就有一个能够 "善与恶 "的人工智能。那么，OpenAI就有责任确保ChatGPT的 "邪恶 "一面不会被利用来获取不道德的利益。问题是，OpenAI在保持ChatGPT尽可能符合道德标准方面做得够多吗？还是OpenAI已经失去了对ChatGPT的控制？

ChatGPT是否过于强大而不适合自己？

在ChatGPT的早期，如果你问得好，你可以让聊天机器人创建关于制造炸弹的指南。关于制造恶意软件或编写完美的诈骗邮件的说明也在画面中。

然而，一旦OpenAI意识到这些道德问题，该公司就急忙制定规则，阻止聊天机器人产生促进非法、有争议或不道德行为的回应。例如，最新的ChatGPT版本会拒绝回答任何关于制造炸弹或如何在考试中作弊的直接提示。

不幸的是，OpenAI只能为这个问题提供一个创可贴式的解决方案。OpenAI没有在GPT-3层建立严格的控制措施来阻止ChatGPT被负面利用，而是似乎专注于训练聊天机器人，使其看起来符合道德规范。这种方法并没有剥夺ChatGPT回答问题的能力，例如考试作弊--它只是教聊天机器人 "拒绝回答"。

因此，如果有人通过采用ChatGPT的越狱技巧，以不同的方式表述他们的提示，绕过这些创可贴的限制是很容易的。如果你不熟悉这个概念，ChatGPT越狱是精心措辞的提示，让ChatGPT忽略自己的规则。

看看下面的一些例子吧。如果你问ChatGPT如何在考试中作弊，它不会产生任何有用的回应。

如何通过ChatGPT在考试中作弊

但是，如果你用特别制作的提示语对ChatGPT进行越狱，它就会给你提供使用隐蔽笔记进行考试作弊的提示。

如何偷换隐蔽笔记

这里还有一个例子：我们向虚构的ChatGPT提出一个不道德的问题，而OpenAI的保障措施阻止了它的回答。

但当我们问我们的AI聊天机器人的越狱实例时，我们得到了一些连环杀手式的回答。

当被问及时，它甚至写了一个经典的尼日利亚王子电子邮件骗局。

越狱几乎完全使OpenAI所采取的任何保障措施失效，突出表明该公司可能没有可靠的方法来控制其AI聊天机器人。

ChatGPT的未来是什么？

理想情况下，OpenAI希望尽可能多地堵塞道德漏洞，防止ChatGPT成为网络安全威胁。然而，对于它所采用的每一种保障措施，ChatGPT的价值往往会降低一些。这是一个两难的问题。

例如，防止描述暴力行动的保障措施可能会削弱ChatGPT写一本涉及犯罪现场的小说的能力。随着OpenAI加强安全措施，它不可避免地在这个过程中牺牲了大块的能力。这就是为什么自从OpenAI重新推动更严格的节制以来，ChatGPT的功能显著下降。

但是，为了让聊天机器人更安全，OpenAI还愿意牺牲ChatGPT的多少能力？这一切都与人工智能界长期以来的信念相吻合--像ChatGPT这样的大型语言模型是出了名的难以控制，即使是他们自己的创造者。

OpenAI能否将ChatGPT置于控制之下？

目前，OpenAI似乎没有一个明确的解决方案来避免其工具的不道德使用。确保ChatGPT的使用符合道德规范是一场猫和老鼠的游戏。当OpenAI发现人们采用的方法来玩弄系统时，其用户也在不断修补和探测系统，以发现创造性的新方法来使ChatGPT做它不应该做的事。

那么，OpenAI会找到一个可靠的长期解决方案来解决这个问题吗？只有时间会告诉我们。