读端丨生成式人工智能在学术界引发诚信争议 周国辉：科技向善是在博弈中前进的

【编者按】
从新闻到见解，字里行间读懂社会万象。
有观点有思想，智慧碰撞把握时代脉搏。
让我们一起《读端》，一起“潮”。
本期嘉宾是十二届浙江省政协副主席周国辉。

（Δ视频由AI共同创作）

生成式人工智能工具能够根据相关提示生成文本，虽然提高了写作效率，但也模糊了学术不端行为的界限。英国《自然》杂志日前发表的一篇文章说，随着ChatGPT等生成式人工智能工具的快速普及，学术界正面临一场关于诚信的新挑战。

根据《自然》杂志去年对全球1600名研究人员的调查，68%的受访者认为生成式人工智能工具将使抄袭变得更容易且更难检测。

详情点击>>

生成式人工智能在学术界引发诚信争议

十二届浙江省政协副主席周国辉：

随着ChatGPT等生成式人工智能工具的大量涌现和快速普及，确实面临着一场新的前所未有的科技诚信挑战。

首先，我们应当庆幸，科学技术的每一个重大突破，都给人类带来了解放和进步。尤其是生成式、开源式的人工智能的出现，大大方便科研人员和公众全面了解相关知识，减少重复、简单、低效的智力劳动，可以从更高层面上开展创造性研究，极大地提高科研和创新的效率。同时有利于公众普及科技知识，掌握最新科技工具，提高生活和工作效率，这是普惠性的科技惠民现象。

事物总是具有两重性，科技也一样。科技应当向善，但它只是工具，主要看为谁掌握、为谁服务。从历史来看，科技的诚信和伦理挑战主要来自两个方面。一是来自极端主义和反人类的行为，导致危及人类生命健康甚至毁灭地球和人类，在这个侵犯和损害全人类的问题上，社会容易形成共识和一致行动。二是来自少数科学家的一己私利，以虚假的行为和所谓的成果，欺世盗名，蛊惑人心。这种侵犯他人科研和知识产权的行为，历来都有，各国和国际社会已经形成了一系列鉴别、研判和惩处的办法。尽管如此，总还有人时而犯之。生成式人工智能工具的兴起，可以通过深度学习海量数据，帮助人们生成高度流畅且看似原创的文本、视频，确实模糊了传统意义上的“抄袭”与“原创”的界限。这类工具生成的内容如未经恰当引用或注明来源，很容易误导读者，甚至可能被误认为是作者的个人贡献。这不仅损害了学术诚信和创新生态，也直接侵犯了原创作者的知识产权。此种情形正在发生。《自然》杂志揭示的问题，许多研究人员对于生成式人工智能工具可能助长抄袭行为的担忧，并非杞人忧天或空穴来风。这种争议很有必要。

这个问题确实需要引起重视，抓紧研究防范措施。但道高一丈、魔高一尺，魔高一丈、道高一尺，科技向善就是在这样一次又一次的真假、善恶、美丑的博弈中前进的，需要的是时间、实践和办法。这一次也一样，要相信人的智慧和人心的力量。

因使用生成式语言和视觉大模型而带来的抄袭问题，如何鉴别是否构成抄袭，这是个关键。一方面，如果机器生成的内容本质上是对已有信息的重新组合，且未体现使用者的独特见解或创新，那么它在某种程度上与抄袭行为有相似之处，都涉及对他人劳动成果的不当使用。另一方面，机器生成内容的独特性和创新性评估标准尚不清晰，这增加了界定此类行为性质的难度。这种非传统抄袭，在一定程度上反映了这类行为的特殊性，但也可能成为某些不端行为的避风港。因此，明确区分不同行为类型，并制定相应的规范和处罚措施，显得十分重要。面对生成式人工智能工具在学术领域的广泛应用趋势，许多专家呼吁制定明确的政策和指导以规范其使用，确实十分迫切，包括明确界定机器生成内容的版权归属、建立有效的内容溯源机制、加强学术诚信教育和监督等。只有这样，才能在享受科技便利的同时，维护学术界和社会的纯洁与尊严。

凡人为的东西，必然有别于天然，原创与模仿也是可以识别的，关键要找到入口和路径。鉴别是否涉嫌抄袭虽然很复杂，需要进行综合考虑，但办法总比困难多。

合适的方式，首先还是要从生成式AI工具的工作原理入手，这是破题的源头。这些工具通常基于大语言模型，通过学习大量已发表的文本数据来生成新内容。理解其工作原理有助于我们更准确地评估其生成内容的原创性。

其次，自我鉴别和预防。还是要相信绝大多数科学家的良知，许多人可能并不是故意为之。通过提倡注明出处、引文，可以大大降低可能出现的抄袭现象。科技奖励和知识产权等查新实践证明，预防是解决涉众性现象的最好办法。

再是，总结实践经验，抓紧研究制定相关规范以及鉴别和惩处办法，希望这虽然具有普适性，但针对的却是极少数人。

应运而生的可能是著作权等知识产权查新、研判、咨询的科技服务业的发展和繁荣。科学发现、技术发明和科技创新的结果就是这样，一些职业和岗位被替代，新的职业和岗位将诞生和发展。这是趋势，也是规律。