科学家越来越多地借助AI撰写论文——利弊并存

Mitch Leslie

Engineering ›› 2025, Vol. 51 ›› Issue (8) : 12 -14.

PDF (1342KB)
Engineering ›› 2025, Vol. 51 ›› Issue (8) : 12 -14. DOI: 10.1016/j.eng.2025.06.010
新闻热点

科学家越来越多地借助AI撰写论文——利弊并存

作者信息 +

Scientists Increasingly Using AI to Help Write Papers—For Better or Worse

Author information +
文章历史 +
PDF (1373K)

引用本文

引用格式 ▾
Mitch Leslie. 科学家越来越多地借助AI撰写论文——利弊并存[J]. 工程（英文）, 2025, 51(8): 12-14 DOI:10.1016/j.eng.2025.06.010

登录浏览全文

4963

注册一个新账户 忘记密码

2022年12月，《肿瘤科学》（Oncoscience）期刊刊登了一篇论文，该文对雷帕霉素治疗的利弊进行了常规探讨[1]。但这篇文章由人工智能（AI）辅助撰写，并将AI聊天机器人ChatGPT列为第一作者。此时距OpenAI（美国加利福尼亚州旧金山）开发的大型语言模型（LLM）首次亮相引发全球轰动尚不足一个月[2]，该论文成为首批将AI列为作者的科学出版物之一[3]。
论文发表后不久，多数科学出版机构随即宣布禁止将ChatGPT或类似LLM列为合著者[4]。不过，《科学》《自然》等顶级期刊目前允许科研人员使用LLM辅助论文写作，前提是必须明确标注AI贡献[5‒6]。越来越多的研究者正开始运用这项技术。最新研究显示，2023年发表的科学论文中至少有1%包含了经AI润色的文本[7‒8]。
部分专家认为，科研写作日益依赖AI可能带来积极影响——既能提升研究者的工作效率，还可带来诸多其他助益[9‒11]。但大量科学家将写作任务交由AI完成的现象亦引发学界广泛担忧。由于此类模型存在出错风险，研究者担心可能在科学文献中制造或延续谬误。英国牛津大学技术与监管学教授Sandra Wachter坦言：“我常将ChatGPT比作一个粗心且不可靠的研究助理。”此外，学者们还忧虑AI可能生成带有偏见的文本、剽窃他人成果，并加剧论文工厂（即那些肆无忌惮、不负责任地大量发表虚假或粗制滥造文章的无良出版商）的泛滥问题[12‒13]。
然而，科研人员面临着巨大的发表压力，不太可能停止使用AI作为写作助手。“我们需要制定必要的规则和制度。”蒙纳士大学（Monash University，位于澳大利亚墨尔本）生物伦理学讲师Julian Koplin表示，“只要加以审慎控制和管理，这类工具就能更好地发挥其作用。”
已有数款AI模型在科学界崭露头角，如曾助力其开发者获得2024年诺贝尔化学奖的蛋白质结构预测模型AlphaFold [14‒15]。ChatGPT（图1）及其相关LLM [如谷歌公司（美国加利福尼亚州山景城）的Gemini和AI公司Anthropic（美国加利福尼亚州旧金山）的Claude]为研究者提供了另一种功能：快速生成大段看似连贯的文本[2]。这些模型通过分析训练数据中的统计规律，推测最可能的词汇序列来组织语句[2]。AI模型的输出质量取决于其训练数据，而这类数据正越来越多地收录了科学文献。包括Wiley（美国新泽西州霍博肯）和Taylor & Francis（英国牛津郡米尔顿公园）在内的多家主流科学出版商，已开始授权将其出版的期刊论文纳入AI训练数据集[16]。
早在ChatGPT问世前，能够生成科学文本的AI模型就已存在，但ChatGPT的易用性远超其之前的同类产品[17]。学界普遍认同，ChatGPT发布后AI写作辅助使用量激增，但具体有多少研究者依赖此项技术仍不明确。《自然》期刊2025年的调查显示，57%的科学家承认过去两年曾借助AI进行写作，72%表示未来两年希望使用该技术辅助写作[18]。不过，该调查未能确定实际使用过AI撰写论文的研究者比例。
由于LLM生成的文本难以被辨识出来，因此要准确衡量科学家在科研写作中对AI的使用程度颇具挑战。AI公司不断优化模型，以使其输出的内容更接近人类表达。斯坦福大学（美国加利福尼亚州帕洛阿尔托）团队开发出一套方法，用来评估包含AI修改内容的科学文本的出现频率[19‒20]。他们让ChatGPT撰写样本段落，并将其与人类撰写的同主题段落进行比对发现，“值得称赞的”（commendable）“创新的”（innovative）“细致的”（meticulous）“复杂的”（intricate）等词汇在AI生成文本中出现得更为频繁。通过量化这些语言标记的出现频次，研究人员得以估算出有多少文本是由AI修改的。2024年两项预印本研究显示，该比例之高超出预期而且还在持续增长。例如，研究人员分析了ChatGPT发布前后AI会议的同行评审意见发现，ChatGPT发布后会议中6.5%~16.9%的评审意见存在“实质性AI修改”痕迹，这意味着AI修改已远超拼写校正或轻微文体修饰范畴[19]。此外，2023年至2024年年初，显示AI使用迹象的计算机科学论文摘要数量激增17.5% [20]。
伦敦大学学院（英国伦敦）文献计量学支持专员Andrew Gray将这一方法进一步拓展，用于评估AI修改论文在各学科领域的普遍程度[8]。他在谈及2024年的研究时表示：“我得到了清晰得令人震惊的结果。”与斯坦福团队类似，Gray发现ChatGPT推出后，AI偏好的词汇使用频率急剧上升。例如，“复杂的”（intricate）一词在2023年的使用量较往年增长超一倍[8]。根据他的测算，2023年发表的论文中，至少有1%是借助AI的帮助完成撰写的[8]。
Gray指出，越来越多科学家向AI寻求帮助是合乎逻辑的，“研究人员需要进行大量写作，他们希望提高效率”。但他仍将研究结果描述为“相当令人担忧”。他表示，目前尚不清楚AI对已发表文本的具体贡献程度。科学家可能仅用LLM进行润色，也可能任由AI生成整篇论文。“人们不会公开说明他们使用这些模型的具体用途。”
尽管Gray心存疑虑，但总部位于英国伦敦的《经济学人》杂志却对其研究结果及类似发现表示欢迎，这些研究揭示了AI在科学出版领域日益增长的影响力[9]。该杂志指出，通过将论文写作中诸多耗时步骤实现自动化，AI能让科学家腾出更多时间专注研究工作[9]。部分学者还列举了该技术的其他潜在优势：AI不仅能翻译论文，还可帮助非英语母语研究者（英语是国际科学通用语言）打磨出更优质的稿件[10]；同时有望加速科学出版的评审流程[11]。
然而许多研究者仍持谨慎态度，主要源于AI众所周知的不可靠性。Koplin强调，“我们亟须解决的核心问题是学术记录中可能出现的错误。”ChatGPT及其同类模型因编造结果（即幻觉现象）而声名狼藉[2,15,21]。这种虚构答案的倾向意味着任何AI生成文本都可能存在严重谬误。Wachter指出，幻觉现象的积极面在于其内容通常荒诞离奇，易于识别；但聊天机器人同样会犯下难以察觉的细微错误，即使专业人士也可能疏漏。她解释道，这些错误本质源于聊天机器人的运作机制：AI“能给人一种它能理解人类并能反馈深思熟虑答案的错觉”，但它实则是基于统计概率模型的，输出的未必是正确答案，而只是最可能的答案。“擅长预测序列中下一个词汇的模型，其优势在于概率计算，而非确保真实性。”
2023年，美国印第安纳大学医学院（美国印第安纳州印第安纳波利斯）骨外科教授Melissa Kacena与同事进行的一项实验，揭示了AI撰写科学文本的利弊得失。研究人员要求ChatGPT生成三篇关于骨骼健康的综述论文，需要该LLM完成领域文献分析、框架构建及全文撰写。Kacena团队随后将AI独立生成的论文与人类撰写的版本及AI协同撰写的综述（针对第三组论文，研究团队为聊天机器人提供了参考文献和写作提纲[22]）进行比较。使用AI显著缩短了准备与写作时间：在神经调控骨折愈合的综述撰写中，AI独立完成初稿耗时仅为人类作者的约四分之一[23]。Kacena指出，聊天机器人生成的文本条理清晰、结构严谨。同行评审显示，仅有两篇论文需要重组结构——一篇由人类撰写，另一篇为AI协同创作[22]。Kacena评价，“有时AI比我们更聪慧。”
然而，纯由AI撰写的论文在参考文献方面漏洞百出。例如，在关于神经调控骨折愈合的AI独立撰写的综述中，列出的55篇参考文献里竟有6篇根本不存在，另有43篇与主题毫不相干——这意味着仅剩6篇引文准确无误[23]。即使研究人员为ChatGPT提供了指定参考文献，它仍会出现引用错误[23]。Kacena团队发现，聊天机器人的这种失误倾向反而增加了研究人员的工作量：研究人员需要额外耗费27 h核查那篇AI独立撰写的神经调控骨折愈合综述；另一篇关于阿尔茨海默病对骨骼影响的AI独立撰写的综述虽无需如此严苛的审查，但仍需耗费8 h进行人工校对[24]。Kacena最终总结道，聊天机器人“并不完美，还需要大量的人工监督”。
科学界与出版机构仍在探讨AI使用的合理边界。“承认其广泛普及是重要的第一步。”Gray指出。但他强调，是否在科研写作中使用AI以及是否公开说明自己写作时使用了AI，最终取决于研究者个人选择。学界对AI应用的接受度存在分歧。Wachter认为，AI仅适用于作者提供准确信息让其加工的场景，如基于已知准确文本生成摘要[25]。而Koplin对此技术持更开放态度。“我认为任何用途都不应受到限制。”他说道。但他补充道，使用者必须时刻警惕AI可能输出错误信息，“在每个使用环节，你都应像对待酒后在酒吧高谈阔论的朋友那样保持审慎态度。”

参考文献

原文顺序 | 出版日期 | 本文引用
[1]

ChatGPT generative pre-trained transformer; Zhavoronkov A. Rapamycin in the context of Pascal’s Wager: generative pre-trained transformer perspective. Oncoscience 2022;9:82‒4. . 10.18632/oncoscience.571
[2]

Mackenzie D. Surprising advances in generative artificial intelligence prompt amazement—and worries. Engineering 2023;25:9‒11. . 10.1016/j.eng.2023.04.004
[3]

Stokel-Walker C. ChatGPT listed as author on research papers [Internet]. London: Nature; 2023 Jan 26 [cited 2025 Apr 1]. Available from: 10.1038/d41586-023-00107-z
[4]

Sample I. Science journals ban listing of ChatGPT as co-author on papers [Internet]. London: The Guardian; 2023 Jan 26 [cited 2025 Apr 1]. Available from:

[5]

Thorp HH, Vinson V. Change to policy on use of generative AI and large language models [Internet]. Washington, DC: Science; 2023 Nov 16 [cited 2025 Apr 1]. Available from: 10.1007/979-8-8688-1001-5_1
[6]

Artificial intelligence (AI) [Internet]. London: Nature Portfolio; [cited 2025 Apr 1]. Available from: 10.4324/9781315802251
[7]

Stokel-Walker C. AI chatbots have thoroughly infiltrated scientific publishing [Internet]. New York City: Scientific American; 2024 May 1 [cited 2025 Apr 1]. Available from: 10.1016/s0262-4079(24)00486-x
[8]

Gray A. ChatGPT “contamination”: estimating the prevalence of LLMs in the scholarly literature. 2024. arXiv:
[9]

Economist The. LLMs now write lots of science good [Internet]. London: The Economist; 2024 Jun 27 [cited 2025 Apr 1]. Available from:

[10]

Gruda D. Three ways ChatGPT helps me in my academic writing [Internet]. London: Nature; 2024 Apr 8 [cited 2025 Apr 1]. Available from: 10.1038/d41586-024-01042-3
[11]

Gruda D. Three AI-powered steps to faster, smarter peer review [Internet]. London: Nature; 2025 Mar 4 [cited 2025 Apr 1]. Available from: 10.1038/d41586-025-00526-0
[12]

DeGeurin M. AI-generated nonsense is leaking into scientific journals [Internet]. New York City: Popular Science; 2024 Mar 19 [cited 2025 Apr 1]. Available from:

[13]

Koplin J. AI-assisted writing is quietly booming in academic journals. Here’s why that’s OK [Internet]. Melbourne: The Conversation; 2024 May 12 [cited 2025 Apr 1]. Available from:

[14]

Palmer C. AlphaFold wins Nobel Prize, gains functionality, drops open access. Engineering 2025;45:6‒8. . 10.1016/j.eng.2024.12.003
[15]

Leslie M. Artificial intelligence could revolutionize science—if we can trust it. Engineering 2024;35:4‒6. . 10.1016/j.eng.2024.03.002
[16]

Kwon D. Publishers make millions selling papers to train AI [Internet]. London: Nature; 2024 Dec 19 [cited 2025 Apr 1]. Available from: 10.1038/d41586-024-04018-5
[17]

Prillaman M. Is ChatGPT making scientists hyper-productive? The highs and lows of using AI [Internet]. London: Nature; 2024 Mar 7 [cited 2025 Apr 1]. Available from: 10.1038/d41586-024-00592-w
[18]

Naddaf M. How are researchers using AI? Survey reveals pros and cons for science [Internet]. London: Nature; 2025 Feb 4 [cited 2025 Apr 1]. Available from: 10.1038/d41586-025-00343-5
[19]

Liang W, Izzo Z, Zhang Y, Lepp H, Cao H, Zhao X, et al. Monitoring AI-modified content at scale: a case study on the impact of ChatGPT on AI conference peer reviews. 2024. arXiv:
[20]

Liang W, Zhang Y, Wu Z, Lepp H, Ji W, Zhao X, et al. Mapping the increasing use of LLMs in scientific papers. 2024. arXiv:10.1038/s41562-025-02273-8
[21]

Amer P. Is your AI hallucinating? New approach can tell when chatbots make things up [Internet]. Washington, DC: Science; 2024 Jun 19 [cited 2025 Apr 1]. Available from: https://www.science.org/content/article/is-your-ai-hallucinating-new-approach-can-tell-when-chatbots-make-things-up\. . 10.1126/science.ztwjyu1
[22]

Kacena MA, Plotkin LI, Fehrenbacher JC. The use of artificial intelligence in writing scientific review articles. Curr Osteoporos Rep 2024;22(1):115‒21. . 10.1007/s11914-023-00852-0
[23]

Nazzal MK, Morris AJ, Parker RS, White FA, Natoli RM, Fehrenbacher JC, et al. Using AI to write a review article examining the role of the nervous system on skeletal homeostasis and fracture healing. Curr Osteoporos Rep 2024;22(1):217‒21. . 10.1007/s11914-023-00854-y
[24]

Margetts TJ, Karnik SJ, Wang HS, Plotkin LI, Oblak AL, Fehrenbacher JC, et al. Use of AI language engine ChatGPT 4.0 to write a scientific review article examining the intersection of Alzheimer’s disease and bone. Curr Osteoporos Rep 2024;22(1):177‒81. . 10.1007/s11914-023-00853-z
[25]

Mittelstadt B, Wachter S, Russell C. To protect science, we must use LLMs as zero-shot translators. Nat Hum Behav 2023;7(11):1830‒2. . 10.1038/s41562-023-01744-0

AI Summary AI Mindmap
PDF (1342KB)

18276

访问

0

被引

详细
导航
相关文章

AI思维导图

/

〈 〉