对教育界和学术界造成了重大的冲击。人工智能不仅能够通过大学和专业资格考试,还能撰写专业性极高的学术论文,这些由人工智能生成的论文甚至连专业研究者也无法轻易分辨出来。当期刊编辑、研究人员和出版商仍在争论在文献发表中的恰当位置时,已经在学术文献中正式亮相。据《自然》杂志网站报道,至少有4份已发表和预印本上的论文使用了作为论文的“合著者”。
目前,多家学术期刊发表声明,完全禁止或严格限制使用等人工智能机器人撰写学术论文。《自然》日前发表文章,明确了学术论文中使用人工智能写作工具的规定,其中列出两项原则:第一、任何大型语言模型工具(比如)都不能成为论文作者;第二、如在论文创作中用过相关工具,作者应在“方法”或“致谢”或适当的部分明确说明。
《科学》杂志不接受使用生成的投稿论文,同时不允许作为论文合著者。《细胞》和《柳叶刀》则表示论文作者不能使用人工智能工具取代自己完成关键性任务,作者还必须在论文中详细解释他们是如何使用这些人工智能工具的。
学术工作者普遍认为,等人工智能工具很有趣,但它们距离真正的学术写作和科学研究还很远。《科学》杂志网站近日发表的社论文章称,正如工具开发者所述,“ 有时会写出看似合理但不正确或荒谬的答案”。比如,引用一项不存在的科学研究导致最后的结论发生偏差,这对于追求准确性的科学研究来说是致命性的。此外,论文作者在发表作品时,都必须声明自己的作品是“原创”的,这就意味着使用编写和生成文本是完全不可接受的,这种行为其实剽窃了其他人的知识成果。
人工智能生成的内容还会引发一个更严重的问题:谁来对这些内容负责?通常而言,论文作者应对文章的观点和内容负责,但人工智能显然无法承担论文过程中出现谬误甚至造假承担责任。这也是目前大多数学术期刊和出版商“封杀”的主要理由之一。
也有一些观察人士指出,等人工智能工具的出现,一定程度上能够倒逼学术界和教育界对传统的运作模式进行变革。《自然》杂志网站先前发表的一篇文章提到,如果学生们开始使用,这不仅是“外包”了他们的论文写作,还会“外包”他们的思维。的出现可能会让教师减少让学生回答一些普通的问答题,更注重于培养学生的批判性思维。在论文写作上,学术工作者应该减少无意义的内容堆砌,生产真正有价值的学术研究成果。
全澳首例!大学生用写论文导致挂科!
(原文链接:
)
的特别之处除了回答简单的问题之外,还可以精准地根据问题创作。这款软件的发布甚至引得亿万富豪马斯克在推特上发文说:“再见了,家庭作业。”
这种提供快速和可信的学术写作功能、又具有能规避反抄袭软件的能力让不少学校产生了深深的担忧。
为此澳洲八大名校联盟(Group of Eight)连夜修改了今年的评估方式。一些大学火速增加了新的规则,把用人工智能考试或写论文视为作弊行为,并考虑恢复纸笔考试方式。
该校的计算机系教授Toby Walsh透露,有一个学生因为被发现用写论文而当做作弊处理,最后挂科了。
他表示,“特别是英语不是母语的人,如果他们的写作水平突然大幅提高,老师会对此进行询问。”据悉,这名学生已经承认用人工智能写了论文。
Walsh教授认为,唯一的办法可能是恢复手写论文。要完全杜绝学生使用只能让他们待在一个没有网络的屋子里,只给他们纸笔。“我们不能再给学生布置可以带回家做的作业了。”
教授警告说,学生应该知道,人工智能只追求数量而非质量,它会从维基百科、和社交媒体上抓取内容,但并不理解这些内容。“它会自己编内容,而且会让这些内容显得可信,这可能会导致学生把人工智能虚构的东西当成知识来学习。”
开发的承认,确实不能核查事实,只是根据自己的内部知识和逻辑来做出反应。
澳洲教育领域目前在研究怎么防止学生用作弊。新州、昆州和塔州公立中学已经禁止在学校网络上访问 ,以试图防止学生在评估和考试论文中偷工减料。而为众多大学提供反在线论文抄袭的检测服务软件供应商也宣布,将和成千上万的大学、中学合作,帮助教师识别这种抄袭行为。
四. 对于学术的“正面”影响
杀入学术界写论文,有人开始围堵,有人悄悄地打开大门
(原文链接:)
人机结合,让学术研究锦上添花
在传统的论文撰写过程中,通常会有四个阶段:理论研究、文献综述、数据收集以及测试评估。研究人员于是基于此,对 编写程序进行改造:
第一阶段,理论研究时, 指定的一些宽泛主题撰写初稿;
第二阶段,研究人员在编写程序中添加了不到 200 份与所给话题相关的现有研究摘要,要求 在撰稿时参考这些文献;
第三阶段,收集数据时,研究人员会添加「领域专业知识」,让论文信源更加可靠;
第四阶段,研究人员阅读计算机程序生成的内容,再给出改进建议。
之后进入测试评估环节,人机结合的文章会由 32 名专业的评审人员进行审核,判断其内容的准确性和新颖性,以及是否达到学术期刊发表标准。
最后,专家评审员普遍认为最后的研究成果都是可以被学界所认同的。这无疑是个重磅消息:使用 能够产生高质量的学术研究。
撰写的论文有优劣之分
当然,人机结合的文章并非完美无瑕。
《金融研究快报》刊登的这项研究结果也反映出 存在一些潜在的缺陷。专家评审对 作品研究的四个阶段给出了不同的评分。
理论研究和数据收集这两个阶段往往广受好评,而文献综述和测试评估则评分较低,但仍在学术可接受的范围之内。
对此,研究人员猜测,这是由于 更擅长直接识别和采集外部文本的信息。当编写程序任务更复杂时,它对信息的处理就不会像真人思维那么灵活,而文献综述和测试评估往往属于这一类。
所以加入人工对专业领域的知识输出,能够帮助 机器人更进一步。换句话说,人类可结合 的优势,让论文的产出更高效和便捷。
学术伦理仍旧是个大问题
是一种工具,即使不需要学者输出专业的知识,它也能产生看似合理的内容。而人机结合,则能生成一篇专业性更高的文章。
但问题又回到了起点,人机结合的文献就能完全保证所有信源的可靠性吗?
学术诚信问题在业内已经是一个热门且紧迫的问题,业界一家知名的学术打假网站 Watch 就报道了许多学术造假的负面事例。
而 智能软件的出现和应用会让科研诚信变得更糟吗?
答案是有可能的。
但也不能一概而论,或许在专业研究人员的监管下这项技术可以变得更好。
AI 产物发展迅猛,但同时也会带来新的问题,对于创造力的概念界定和创造性想法所产生的知识产权界定会变得更加模糊,这个问题目前也还没有专家能给出确切的答案。
的出现,对于那些缺乏传统人力研究援助资金的研究人员群体来说,比如新兴经济研究人员、研究生和早期职业研究人员等,也许是雪中送炭。
有关 等新兴 AI 产物的伦理界定,也会随着科学技术的发展不断完善。
阅读推荐: