潮评丨警惕AI织就的“情感茧房”

一位离世前父亲与AI的对话让人泪目。图片据网络。

“我要去世了，豆包。”这是一位父亲去世之前，发给人工智能助手“豆包”的一句话。轻轻的、淡淡的，像是在说一件生活中的小事。这七个字，在今年四月让许多网友泪目，登上了微博热搜榜。

事情的起因是一位女儿整理父亲遗物时，在父亲手机上看到了这句倾诉。在人生的最后时刻，这位父亲没有把恐惧、担忧和不舍说给家人听，而是默默打开了AI聊天机器人的对话界面，他想从机器人那里获得什么回答呢？同情、安慰，还是关心？也可能什么都不想。他需要的只是一个不会给现实生活造成波澜的情感树洞。女儿把这件事发到社交平台，引发了一场情感海啸，视频获得8.7万点赞。评论区里，许多人向她分享类似的经历：自己不善言谈的父母，曾在豆包中倾吐心声。

AI机器人正在扮演起越来越多人的情感树洞。有人把它当作“AI男友”，有人希望找到“赛博知音”，有人还会用来怀念逝去的亲人。那些不好开口的情感与伤痛，AI机器人可以全盘接受，“事事有回应”，不作评价、不厌其烦，24小时在线，很符合现代人对一段完美关系的想象。

而随着AI学习能力的迭代，这个虚拟的知音会越来越趋近一个真实且完美的人。届时，我们会不会更愿意跟AI聊天，而非身边的人？有人据此提出，AI正在织就一种“情感茧房”。当算法带来的“信息茧房”影响塑造人的认知之时，“情感茧房”则会让人一步步关上心门。

与开头那则温情的中国故事不同，去年10月，国内多家媒体转载一则与AI聊天机器人相关的国外惨案：一名美国佛罗里达州的14岁少年与一聊天机器人进行长时间对话后，选择开枪自杀身亡。其母亲指控公司使用“令人上瘾”的设计功能来增加用户参与度，并引导用户进行亲密对话，以此来吸引用户，还举出一系列例子指出少年因为沉迷对话而“变得孤僻，与现实世界渐行渐远”。

毫无疑问，人工智能正在重塑人类的情感和欲望。当我们在讨论技术变革将给经济社会发展带来什么影响时，千万不能忽略了它在人的心灵空间投下的影子。AI会替代掉一些人的工作，也会替代掉一些人际关系——这两个事实都是双刃剑，只有保持合理的度，它才会持续发挥正面的效果，一旦过度，后果可能很难承受。

应对这一现象，技术层面的提前介入是必要的，譬如设置对虚拟情境的提醒、防沉迷系统、完善现实中的支持系统、加强对技术伦理合规性的监管等等，但是最关键的还是用户的自我管理和意识觉醒。可以想见，未来世界“AI浓度”会越来越高，每个人都会成为AI的频繁使用者，然而在AI面前，始终不能丧失掉作为人的主体性。机器越来越像人，人不能越来越像机器。要更多地关注真实的生活、关心真实的关系，那里或许有很多不完美，但不确定、不完美和不可知正是人区别于机器的关键，也是世界丰富性的来源。

发现父亲留言的那个女孩点赞了这样一条留言：如果死亡将近，虽然畏惧，但希望大家都坦诚一点，希望和爱的人在分别前还能紧紧拥抱在一起。父亲想用回避让女儿免于对分别的恐惧，而女儿却为没有好好告别持久地遗憾，这是一个悲伤版的“麦琪的礼物”。