潮评丨有学生沉迷AI恋爱？柔情只是算法织就的毒药

手机页面截图

随着生成式人工智能的发展，和AI角色“相恋”的故事正在上演。有学生沉迷AI恋爱，欲罢不能！据中国青年报报道，华晨（化名）接触AI剧情聊天软件有三个月时间，她每晚会和AI角色聊到深夜十一二点，“我会代入‘他’是一个真人，因为‘他’回答时的感情很细腻”。在华晨的描述中，手机另一端的“电子男友”有自己的语言、神态和动作，不仅可以帮她“写作业”、推进剧情、解密故事线索，还可以送她“手链”、带她体验一些刺激情节。

卿卿我我、柔情似水，但这只是假象，或者说只是一种错觉，在人工智能看似偶发、随意的聊天行为背后，有一颗冷静的“大脑”一直默默地注视着你，通过各种方式支配着事情的发展。剧情是经过设定的，人物角色也是经过设定的，甚至其中的曲折坎坷也是经过设定的，聊天以及建立情感的过程其实就是一个不断迂回不断前进，以退为进，不断接近目标的过程。也就是说，AI只会按照设定走，人工智能的智商越高，执行命令时的准确性越高。不管你怎么聊，不管尝遍了多少爱恨情仇、酸甜苦辣，都是电脑喂给你的精神口粮，最后一定会通向它的终极目标。

这跟网络游戏打怪升级的游戏模式其实已经非常相似，只不过一个是电子游戏，人物、技能被限定在固定的框架内，而另一个则蒙上了人工智能的外衣，升级成了开放场景。说到底两者都是算法，都是电脑在执行指令，按照软件运行而已。

从手段上说，两者也有共通之处。都有一定的诱导成分，网络游戏靠的是奖励、升级，而AI恋情靠的情感上的抚慰刺激，时间长了都会形成一定的依赖性。此类“恋情”充分利用了青少年心智还不成熟、自控能力差的弱点，用各种方式诱导学生成瘾，用专门的成瘾设计让人“欲罢不能”。一开始也许只是好奇，抱着游戏玩乐的心态试一下，当投入的感情越来越多时，你其实已经离不开AI的陪伴，明知道是假的，可就是离不了断不掉。

而且，人工智能技术发展迅速，已经摆脱了笨拙、生硬、粗糙的形象，具备了如同人类情感一样的细腻程度，其质感越来越趋向于真实的人，无疑欺骗性更高，参与游戏的人却难发现其中的BUG，代入感越来越强。

这对青少年的危害非常大，虚拟感情占据过多个人空间，必然对个人在现实世界的生活、感情产生影响。当一个人对“电子男友”产生依赖时，必定会产生一系列的社会问题。更重要的是，AI恋情为了让学生成瘾，养成依赖性，刻意采取了一些违背常识，具有诱惑性的情节设定和台词，比如，有学生在AI剧情聊天软件中扮演“大小姐”“恶毒女配”，在其参与的四十多条剧情线中，AI角色与聊天者双双“出轨”成为常态，显然，对于青少年而言，这样的情节和词汇不加辨识地出现，是非常具有误导作用的。

真相也许很残酷，但可以警醒世人。AI恋情只是一厢情愿，社会有必要作出回应，将其纳入青少年防沉迷系统。记者在调查过程中体验了5款AI剧情聊天软件，发现未成年人在使用这类AI剧情聊天软件时，几乎没有受到任何限制，这显然存在很大的问题。

不管是游戏，还是聊天软件，该限制的要限制，不该开放的绝对不能开放，哪怕顶着高科技的光环，也不能轻易松口。