
新智元报道
新智元报道
【新智元导读】近日,爱思唯尔上的几篇论文被发现开篇就暴露了「ChatGPT风格」,插图也是用Midjourney画的。学术圈被AI渗透已经不是一天两天了,搞科研的用AI写论文,学生用AI写作业,老师也用AI批作业,整个过程都没有真人了。








写论文的确可以使用LLM
在爱思唯尔的官方规定中,的确允许作者在写论文时使用AI。 当然,也有一定的原则,那就是AI的作用是提高作品的可读性和语言性,但不能取代关键的写作任务,比如给出科学结论、提供临床建议。 另外,如果是使用了AI,作者就必须声明这一点。
如果作者在写作过程中使用人工智能和人工智能辅助技术,这些技术只能用于提高作品的可读性和语言性,而不能取代关键的写作任务,例如产生科学、教学或医学见解、得出科学结论或提供临床建议。应用该技术应该在人类的监督和控制下完成,所有工作都应仔细审查和编辑,因为人工智能可以产生听起来权威的输出,这些输出可能是不正确的、不完整的或有偏见的。作者对作品内容负有最终责任和义务。 作者应在其手稿中披露人工智能和人工智能辅助技术的使用,并在已发表的作品中出现声明。声明使用这些技术有助于作者、读者、审稿人、编辑和贡献者之间的透明度和信任,并有助于遵守相关工具或技术的使用条款。



网友:作者自己读过文章吗?

「嘿,ChatGPT,你能帮我同行评审这篇论文吗?」
ChatGPT:「是的,看起来不错,你可以发布」


插图都是用AI画的
更好笑的是,如今AI不仅荣升论文作者,甚至还在很多论文中充当起插画师了! 前一阵,这篇名为「Cellular functions of spermatogonial stem cells in relation to JAK/STAT signaling pathway」 论文中的一幅插图,让网友们笑翻了。 
仔细看这幅图,可谓是槽点满满。 首先大鼠的坐姿就很奇怪,仿佛一只松鼠。 图中讲的是从大鼠睾丸中分离、纯化和培养精原干细胞的过程,然而大鼠的睾丸竟然有4对,硕大的阴茎比身体还大,培养皿中甚至还有一把汤匙? 
网友们纷纷表示吓住了,然而还有惊喜! 有人发现,这张信号通路图也亮了。 
这个不明意义的protemns,应该是把protein(蛋白质)拼错了。 
这个结构被拼成了prom(舞会)。 
这里还出现了乱码。 
还没完,Figure 3依然有惊喜。 
对于这些细胞图,网友直接给出神评论:「仿佛披萨上撒着香肠和蓝色西红柿……」 当然,至少作者承认了插图是由Midjourney生成的。 
因为引起了如此轩然大波,论文发表三天后,已经被期刊迅速撤回了。 期刊表示:文章不符合本刊的编辑和科学严谨标准。 
AI能检测AI论文吗?









AI能检测AI论文吗?
但是,如果用了LLM却不提前声明,除了等着论文作者犯低级错误「自爆」之外,有没有什么办法能检测出论文的「含模量」? 
不少有经验的论文审稿人提供了一个可以参考的经验,直接查论文的引用,如果随机抽10个论文引用,有超过一个论文引用是不准确的,那么他就会怀疑论文至少某些部分是用LLM生成的。 因为LLM生成论文最大的问题就是会瞎编引用。而网上很多通用的LLM检测工具,基本上都不靠谱。 所以如果审稿人或者教授只是简单的依赖通用AI检测工具来判断的话,大概率是会冤枉好人的。 但是,虽然通用的AI检测器不好使,如果针对某个专业领域的论文进行AI检测,可能是一条走得通的路。 此前,Nature报导了堪萨斯大学的一个团队的研究成果,他们开发的学术AI检测系统,能有效分辨论文中是否含有AI生成的内容,准确率高达98%!


学生、老师纷纷用上AI神器,用魔法打败魔法
AI泛滥的,可不止是学术圈。在学校里,各种AI工具的出现,也是把局面搅得一团糟。 现在,学生用AI写作业,老师用AI打分,就问这个过程中还有真人吗? 

学生:ChatGPT帮我写作业



老师:ChatGPT帮我批作业





内容中包含的图片若涉及版权问题,请及时与我们联系删除
评论
沙发等你来抢