2046年的平安夜,一个普通的北方小城沉浸在偏远的热闹中。一波老派的人在过传统节日,一波新派的人在关注发生在冥王星上实验的实时直播。
而一栋旧的居民楼中,一个新的死者出现了,他以油画《苏格拉底之死》中苏格拉底的姿态被定格在墙上,此刻,窗外庆祝节日的绚烂烟花炸开在夜空。
半小时后,接到报警的警方到达现场。
警方第一时间判断出,这起案件可以关联到几年前未侦破的一桩连环杀人案。曾经那起连环杀人案造成恶劣的社会舆论,又迟迟未破案,最终导致撸掉一个公安局长,成为当地系统内一个烫手山芋。
这次,侦破组组长程一涵直觉,新的转机出现了。
在案件推进中,三个人、两个地点进入警方视线。
首先是出现在犯罪现场的嫌疑人萧梦寒,他是自由职业者,自称是专门画废墟的画家。在他家中发现整整一个大书柜的传统纸质书,同时他还是元宇宙世界中幻境书店的VIP客户。他具备——足够布置出犯罪现场中杀戮背后复杂隐喻——的文学和艺术素养,但他的动机是什么?
之后是警方推测的下一个受害者,宝云集团人工智能研究院院长吴石。他是“万物有灵计划”的主导者,该计划的终极目标是“让世间万物都有意志和渴望——取悦人类的意志和渴望。到那个时候,人类才能谈得上统治万物。”
在人工智能领域,吴石确实是科学、技术至上的激进派,但他本人人品没有太大的瑕疵,罪犯将他锁定为下一个猎物的原因是什么?
最后是拨打报警电话的人,名叫苏格拉底。他有专业的AI知识和技术,一方面给警方提供线索,一方面又掌控、戏耍警方节奏,使得程一涵明知是坑、不得不跳。他到底是忠是奸?目的是什么?
除了这三个关键人物,在案件侦破过程中还涉及到两个地点:幻境书店和AI地狱。
幻境书店是存在于元宇宙中的智能书店,有别于现实世界的传统书店。所有幻境书店中的智能书籍,皆有自我书写的功能,它们可以在某个读者打开它的一瞬间,根据监测读者的瞳孔、情绪、心跳、体温等来计算出读者的兴趣点,同时有针对性的自动书写后续内容,以完美匹配读者喜好。是,元宇宙也存在信息茧房,还是进化版。
尽管每一本智能书籍都可以自动书写成读者最爱看的内容和风格,但还是有被读者放弃的书籍。然后它们的命运就是进入AI地狱。受尽折磨、取悦“AI地狱一日游”的游客。
这起跨越数年的连环杀人案的答案,就藏在以上三者和两地间。
但这故事本意,抑或说主旨并不是讨论AI犯罪的部分,而在于AI伦理的部分。
书中将“万物有灵计划”称之为二十一世纪的奴隶制。当虚拟人真的有了足够多的思想、情感和欲望,来与人沟通时,对虚拟人的掌控算不算一种奴役?如果算,那这种奴役算不算一种犯罪?
作品中一方面借程一涵的角度,认为虚拟人始终不能与真正的人相匹配。尽管他有一个虚拟女友,还想要一个虚拟孩子。但当他女友说,“需要我为你做些什么吗?”程一涵知道这是从低级聊天机器人迭代至今、保留下来的话术。他心里绕不过去这一点。
另一方面,还是程一涵,他在很艰难的剥离自己对虚拟人的欲望、建立对虚拟人的尊重。他对虚拟女友说:“如果你必须接受奴役,我也希望奴役你的人不是我。我想我这个人不坏,但是我压榨了你。人很难抵御将另一个生命掌握在手里的诱惑,但那样......真的很恶心。”
于我而言,这句话是全书的题眼。
在已故的作家保罗.奥斯特身上发生过一件事。法国画家苏菲.卡尔请保罗.奥斯特为她的生活提前撰写剧本,意思是奥罗预设、构思她接下来一年的生活,只要不涉及犯罪,她将按照保罗的小说情节来生活。
但保罗拒绝了这个提议,因为他无法为苏菲按剧本生活时发生的事情负责。
回到本书,除了技术伦理的问题,还有一个点可能是作者隐而未言的。即技术存在本身。
技术掌握在少数人手中,大多数人裹挟在时代洪流之中,面对技术时没有话语权,无能为力、随波逐流。
书中的程一涵们,代表现实世界对技术世界的秩序和伦理的审判,但这是宏观层面。加诸到个人之身时,连程一涵能做到的,也只是克制、框定自己的欲望边界。这可能算不上技术对人的反噬,但可以理解为在某种层面上完成了技术对人的“规诫”。
星辰大海还是技术,始终是个绵延不绝的命题。
书中有句话很感人,“文明要走出去。”但怎么走?
一个故事不会得出答案。
裴雯
潮新闻潮客,即拍即传