每日观察!ChatGPT is fun, but not an author ChatGPT利与弊分析

(相关资料图)

作者：Edison_G

在不到两个月的时间里，人工智能（AI）项目ChatGPT已经成为一种文化轰动。它可以通过工具开发者OpenAI创建的门户网站自由访问。

基于书面提示自动创建文本的程序非常流行，如果你尝试使用它，它很可能会“现在无法使用”。当你成功完成后，ChatGPT会提供无尽的娱乐。我要求它重写经典美剧《推销员之死》的第一幕，但以动画电影《冰雪奇缘》中的埃尔莎公主为主角，而不是威利·洛曼。结果是一场有趣的对话，在这场对话中，儿子Happy告诉结束了艰难的一天销售回家的艾尔莎：“来吧，妈妈。你是来自《冰雪奇缘》的艾尔莎。你有冰的力量，你是女王。你势不可挡。”，但是对于像ChatGPT这样的人工智能项目在科学界和学术界有着严重的影响。

Machinesplayanimportantrole,butastoolsforthepeopleposingthehypotheses...andmakingsenseoftheresult

ChatGPT（Generative Pre-trained Transformer）是用一种称为“从人类反馈中强化学习”的技术开发出来的，用于训练语言模型，使其能够非常对话。正如该网站所言，“ChatGPT有时会写出看似合理但不正确或荒谬的答案。”几个例子表明，它可能会犯下明显的错误，包括引用一项不存在的科学研究。许多担忧与ChatGPT将如何改变教育有关。它当然可以写一系列主题的文章。我给了它一次考试和一个期末项目，我在乔治·华盛顿大学教的一门关于科学的课上给了学生。它确实找到了事实的答案， 但学术写作还有很长的路要走 。如果有的话， 这对教育的影响可能会促使学者们以创新的方式重新思考他们的课程，并给出人工智能不容易解决的作业。

更令人担忧的是ChatGPT对撰写科学论文的影响。在最近的一项研究中，ChatGPT创建的摘要被提交给学术评审员，他们只发现了63%的造假。这是大量人工智能生成的文本，可能很快就会进入文献。多年来，《科学》系列期刊的作者签署了一份许可证，证明“作品是原创的”。对于《科学》杂志来说，“原创”一词足以表明ChatGPT撰写的文本是不可接受的：毕竟，它是从ChatGPT剽窃的。此外，我们的作者证明他们自己对论文中的研究负责。尽管如此，为了明确起见，我们现在正在更新我们的许可证和编辑政策，以规定ChatGPT（或任何其他人工智能工具）生成的文本不能用于工作，数字、图像或图形也不能作为此类工具的产品。人工智能程序不能是作者。违反这些政策将构成科学不端行为，与修改图像或剽窃现有作品无异。当然，有许多合法的数据集（不是论文的文本）是人工智能在研究论文中故意生成的，而这些数据集并没有被这种变化所涵盖。

《科学期刊》处理的大多数科学不端行为都是因为人类注意力不足。快捷方式是通过使用Photoshop等图像处理程序或从其他来源复制文本来实现的。更改的图像和复制的文本可能会被忽略，因为它们没有受到每位作者的仔细检查。在我们这一方面，当编辑和审稿人不听从他们内心的怀疑者的话，或者当我们没有把注意力集中在细节上时，就会出现错误。在人们对科学的信任正在减弱的时候，科学家们必须重新致力于对细节的细致关注。科学记录最终是人类努力解决重要问题的一部分。机器扮演着重要的角色，但它是人们提出假设、设计实验和理解结果的工具。 最终，产品必须来自我们头脑中的奇妙计算机并由其表达。

转载请联系本公众号获得授权

关键词： 人工智能 冰雪奇缘