ChatGPT写论文的利与弊

科研人员利用ChatGPT完成论文，这一创新性的尝试引发了人们对于生成式AI在科研领域的应用的讨论。虽然这一工具能够快速生成流畅、有见地的论文，但是其存在一些缺陷和障碍需要克服。

为了解决这些问题，研究人员设计了一个自动化的“从数据到论文”系统，该系统能够向ChatGPT发送提示，并基于ChatGPT的回复修改论文。这个系统引导ChatGPT完成一个类似于做科研的“分步式”过程，从最初的数据探索，到撰写数据分析代码和解读结果，再到写作和润色手稿。

虽然这一工具能够加速科研进度，但是其存在一些缺陷和障碍需要克服。生成式AI的一个问题是它们会通过胡编乱造来填补空白，这个现象也被称为幻觉（hallucination）。为了防止它乱编参考文献，团队让ChatGPT接入了文献搜索引擎，以便它能给出正确的引用渠道。

此外，研究人员还担心，这类工具会让研究人员更容易出现科研不端的行为，比如P值操纵（P-hacking），也就是科研人员会用一个数据集检验多个假说，但最后只报道有显著结果的那个。如果生成式AI工具让写论文变得很容易，期刊可能会面对大量低质量投稿。

因此，研究人员需要讨论如何在发挥其优势的同时避免其劣势。AI工具在科研论文中的使用需要更高的可见度，以便评估研究结果的正确性。虽然这类工具能够执行简单直接但很费时的任务，但是研究人员需要警惕其幻觉和偏见，不能完全依赖这类工具。在可见的未来，将整篇论文交给AI工具写作还不是一个好主意。