近日,国内部分C刊发表有关人工智能辅助论文写作的相关规定。
暨南学报哲学社会科学版官方公众号发布《关于使用人工智能写作工具的说明》译文。
《说明》中提到,暂不接受任何大型语言模型工具(例如:ChatGPT)单独或联合署名的文章。在论文创作中使用过相关工具,需单独提出,并在文章中详细解释如何使用以及论证作者自身的创作性。如有隐瞒使用情况,将对文章直接退稿或撤稿处理。对于引用人工智能写作工具的文章作为参考文献的,需请作者提供详细的引用论证。
Nature一周连发两文探讨ChatGPT:学术圈使用已不可避免,是时候明确使用规范了
生成式AI及背后的技术发展如此之快,每个月都有创新出现。研究人员如何使用它们,将决定着技术和学界的未来。
ChatGPT改变学术圈规则
在《ChatGPT:五大优先研究问题》一文中,研究人员提出:
无法阻止ChatGPT杀入学术圈,当务之急应该是研究探讨它会带来哪些潜在影响。
如果后续ChatGPT被拿来设计实验、进行同行审议、辅助出版、帮编辑决定是否要接收文章……这些应用应该注意哪些问题?现在人类需要明确哪些边界?
研究人员认为,有5个方面需要优先考虑,并解释了原因。
◆ 坚持人类审查
ChatGPT等对话式AI的一大特点,就是回答内容的准确性无法保证。而且编出来的瞎话都还很自然,容易对人产生误导。
比如,研究人员让ChatGPT对一篇关于认知行为疗法(CBT)治疗焦虑等症状是否有效的论文进行总结概述。
ChatGPT给出的回答中,存在很多事实性错误。如它说这项评估是基于46项研究,但实际上是69项,而且夸大了CBT的有效性。
◆ 制定问责规则
论文作者应该明确标注哪些工作是AI承担的,期刊如果使用AI审稿,也应该公开说明。
尤其是目前生成式AI已经引发了关于专利问题的讨论,AI生成的图像版权究竟该怎么算?
那么对于AI生成的问题,著作权应该属于为AI提供训练数据的人?AI背后的制作公司?还是用AI写文章的学者?作者身份的问题,也需要严谨定义。
◆ 投资真正开放的LLM
◆ 拥抱AI的优点
虽然有很多方面需要设限,但不可否认,AI确实能提升学术圈的效率。
比如一些审查工作,AI可以快速搞定,而学者们就能更加专注于实验本身了,成果也能更快发表,从而推动整个学术圈的脚步走得更快。
甚至在一些创造性工作上,研究人员认为AI也能有用武之地。
1991年的一篇开创性论文提出,人和AI之间形成的“智能伙伴关系”,可以胜过单独人类的智力和能力。 这种关系能够将创新加速到无法想象的水平。但问题是,这种自动化能走多远?应该走多远?
因此,研究人员也呼吁,包括伦理学家在内的学者,必须就当今AI在知识内容生成方面的界限展开讨论,人类的创造力和原创性可能仍旧是进行创新研究必不可缺的因素。
◆ 展开大辩论
Nature:
ChatGPT和AIGC对科学意味着什么
兴奋又担忧,大概是许多研究人员对于ChatGPT的感受。
发展到现在,ChatGPT已经成为了许多学者的数字助手。
计算生物学家Casey Greene等人,用ChatGPT来修改论文。5分钟,AI就能审查完一份手稿,甚至连参考文献部分的问题也能发现。
来自冰岛的学者Hafsteinn Einarsson,几乎每天都在用ChatGPT来帮他做PPT、检查学生作业。
还有神经生物学家 Almira Osmanovic Thunström觉得,语言大模型可以被用来帮学者们写经费申请,科学家们能节省更多时间出来。
不过,Nature对ChatGPT输出内容做出了精辟总结:
流畅但不准确。
而这才只是开始。
评论
沙发等你来抢