AI时代如何分辨“真假美猴王”？西湖大学开发出一套“火眼金睛”

今年两会期间，“AI写作”成为人大代表、政协委员们之间一大热议话题。

在全国人大代表、中国作协副主席麦家看来，90%的写作者都写不过AI，但AI无法取代人类。他说：“未来的眼泪在哪里？机器不知道，伟大的作家是知道的。”

文学家如是说，科学家也持着相似的看法。近日，记者采访了西湖大学工学院副院长、国际自然语言处理领域知名专家张岳。

他和团队对于AI创作的逻辑“了如指掌”，并开发了一双“火眼金睛”。在拥抱AI的大趋势下，团队正在“用魔法打败魔法”，用科技分辨文字界的 “科技与狠活”。

AI假新闻网络截图

AI的“超能力”和“致命伤”

一个没有文学基础的普通人，只要输入文章的字数要求，希望生成的风格，不管是金庸还是鲁迅，AI都可以“量身定制”。

眼下，AI的优势显而易见。“弹指间，它还能调用海量数据、完成百位、千位数字的乘法，甚至背下一整个维基百科，”张岳指出，“这些计算机易如反掌的事，对于普通人来说，是不可能的挑战。”

但正如麦家描述，“机器流的眼泪只是我们以往的、已有的大量的作家流下的眼泪。”AI的“超能力”本质是统计学规律下的产物——它擅长模仿已知的数据分布，却难以应对“未知的战场”。

“最本质的区别就在于，我们的认知存在一定的因果性，AI没有，” 张岳介绍，“人类能从经验中提炼因果逻辑，而AI缺乏这种认知深度。”

比如，只学过三位算数的AI并不能保证四位算数的准确率。或者，生成文本时，若遇到训练数据外的场景，AI可能编造出看似合理实则虚构的“幻觉内容”，杜撰出一篇不存在的论文。

这样的“致命伤”导致AI在虚拟世界的“聪明”和在物理世界的“笨拙”形成了鲜明对比。

张岳以自动驾驶为例：若路上突然飘来一团浅蓝色物体，人类只需瞥一眼便能区分塑料袋与活体动物，而选择是否避让；AI则依赖概率计算，需要通过海量的场景数据训练‘认识’世界，并可能最终因为“没见过”而造成误判。

记者用AI生成了一篇朱自清风格的小说

人工智能版“大家来找茬”

小学生用人工智能赶作业，大学生用AI写论文，AI假新闻欺骗大量受众……眼下，人工智能版的“真假美猴王”，已经给社会造成了一定的负面影响。

面对常人已无法判断的“李逵”和“李鬼”，张岳团队研发出了一套无监督检测系统，经过验证，该系统对人类还是AI生成文字的判断准确率高达95%以上。其原理直击本质：人类写作基于意图驱动，而AI依赖概率预测——

虽然“才高八斗”，坐拥全世界所有的图书馆，但每当AI遣词造句，它的优先选择，会是所有字句中出现概率最高的那一个。

比如，如何续写“我吃了一顿……”？了解语言文法的AI，会接上“饭”这个字。它不会冒险去选择“水”，但人类可以写出，我吃了一顿水平很高的饭。

这正反证了人类“妙笔生花”的珍贵之处: AI生成文本的每个词都像在走钢丝，不追求巧妙，但追求风险最小化，倾向于回避错误的表达。

知己知彼之后，团队的应用以此为突破口，通过分析文本的概率分布差异，结合人类因果推理的思维特征，来对文章进行判断和检测。

记者将AI生成小说输入检测系统测试，得出机器生成概率超过70%

“利用这种差别，我们可以对互联网上的任何文本进行概率判断和估算，检测机器作品还是人工作品，”张岳介绍，“目前相关产品已经在实验室开始了简单的部署。”

针对这项成果，国际权威科技商业媒体《麻省理工科技评论》曾评价，目前技术已经在理论上扫清了所有实际应用的障碍，在未来诸多场景具有较好的应用潜力。

我们如何拥抱“AI”？

虽然走在AI“打假”的路上，但张岳对于AI使用的态度是乐观的。

“我不断地鼓励学生去使用最新的技术来学习和工作。”在他看来，就和现在的电力、机械一样，未来，人类社会一定会和AI共存。“AI一定会不断帮助这个社会发展，也会重塑很多社会的行业。”

因此，与其焦虑AI替代人类，不如思考如何拥抱AI。

西湖大学工学院副院长、国际自然语言处理领域知名专家张岳 受访对象供图

张岳建议，学生们可以多将AI工具化。“比如用AI完成资料搜集、数据分析等机械性工作，释放精力用于批判性思考；或使用AI对论文进行润色和修改，减少常识性、语法性错误。”

据介绍，目前，在西湖大学六个基础科学研究实验室中，均已部署了一套科研加速系统。借助人工智能的力量，师生们的所有实验均可以用简洁的方式电子化；AI老师也可以随时指导和监督实验流程的规范性；进一步，帮助分析实验开展的优缺点，下一步方向等等……

对于年纪更小的青少年来说，张岳也认为，善于使用AI“利大于弊”。“和刷视频、玩游戏这样的被动接受娱乐模式不同。人类使用AI是一种主动交互，可以在交流中，催发创新灵感。”

“人类是社交性动物。”在张岳看来，创造力、批判性思维、社交能力以及领导力等等，都是AI难以复制的“人类特质”。“目前，通过统计来学习的AI，从0到1的创造力肯定不如人类。”

麦家说，AI太完美，但它没有可以触摸的眼泪。最好的那1%的作品，依然需要人去创造。除了文学，也许现在我们都应思考，如何去发展那1%的珍贵。