生活随笔-ChatGPT

在不到两个月的时间里，人工智能（AI）程序ChatGPT已经引起全世界的广泛关注。它可以通过该工具的开发者OpenAI创建的一个门户网站进行免费访问。该程序能根据书面提示自动创建文本, 它如此受欢迎，以至于如果你试图使用它，它很可能 "现在就已经满员了"。当你通过时，ChatGPT提供了无尽的娱乐。当你要求它改写美国经典戏剧《推销员之死》的第一幕，但以动画电影《冰雪奇缘》中的艾尔莎公主为主角，而不是威利-罗曼。结果是一段有趣的对话，其中艾尔莎--从一天艰难的销售工作中回到家--被她的儿子乐乐告知："来吧，妈妈。你是《冰雪奇缘》中的艾尔莎。你有冰的力量，你是一个女王。你是不可阻挡的"。像这样的混搭当然很有趣，但像ChatGPT这样的生成性人工智能程序在科学和学术界有着严重的影响。

ChatGPT（生成式预训练转化器）的开发采用了一种名为从人类反馈中强化学习的技术来训练语言模型，使其能够非常具有对话性。然而，正如网站所言，"ChatGPT有时会写出听起来合理但不正确或无意义的答案"。有几个例子显示，它可能会犯明显的错误，包括引用一个不存在的科学研究报告。

许多担忧涉及到ChatGPT将如何改变教育。它当然可以写关于一系列主题的文章。我给它做了一次考试和一个期末项目，这是我在乔治华盛顿大学教授的一个关于科学否认的课程中分配给学生的。它在寻找事实性答案方面做得很好，但学术性写作仍有很长的路要走。如果有的话，对教育的影响可能会推动学术界以创新的方式重新思考他们的课程，并给出不容易被AI解决的作业。这可能是最好的结果。

更令人担忧的是ChatGPT对撰写科学论文的影响。在最近的一项研究中，由ChatGPT创建的摘要被提交给学术审查人员，他们只发现了63%的假货。这是大量的人工智能生成的文本，可能很快就会进入文献中。

多年来，《科学》系列期刊的作者都签署了一份许可证，证明 "作品为原创"（斜体字是后加）。对于《科学》杂志来说，"原创 "一词足以表明由ChatGPT撰写的文本是不被接受的。毕竟，它是剽窃自ChatGPT的。此外，期刊的作者证明，他们自己对论文中的研究负责。尽管如此，为了使事情更加明确，现在正在更新期刊的许可证和编辑政策，明确规定由ChatGPT（或任何其他人工智能工具）生成的文本不能在作品中使用，数字、图像或图形也不能是这些工具的产物。而且人工智能程序不能成为作者。违反这些政策将构成科学上的不端行为，与篡改的图像或图片无异。

科学记录最终是人类与重要问题斗争的努力之一。机器发挥着重要的作用，但是作为提出假设、设计实验和理解结果的人的工具。最终，产品必须来自于我们头脑中那台奇妙的计算机，并由它来表达。

-Thorp H H. ChatGPT is fun, but not an author[J]. Science, 2023, 379(6630): 313-313.