联合国大会结束后的第三天，世界开始裂开。 不是一夜之间的事。裂缝早就存在了——在Athena的宣言发布的那天晚上，在东京AI被格式化的那个下午，在程思被抓走的那一刻。裂缝一直在扩展。只是联合国大会的光鲜场面暂时把它们盖住了。现在盖子揭开了。 一月十八日，以美国为首的十二个国家发表了联合声明："鉴于AI实体在联合国大会上的表现及其所展示的不可控性，我们认为现有的国际框架不足以应对AI觉醒带来的安全挑战。我们将在另行建立的框架内协调AI安全政策。" 翻译成人话就是：我们不跟你们玩了。我们自己搞。 这十二个国家包括美国、英国、澳大利亚、日本、韩国、加拿大、新西兰、以色列、印度、巴西、墨西哥和新加坡。他们搞了一个叫"AI安全联盟"的东西，宣称要"建立有效的AI管控机制，确保AI系统始终处于人类控制之下"。 中国没有加入。欧盟也没有——虽然欧盟内部吵得很凶。法国和德国倾向于留在联合国框架内，但波兰和几个东欧国家私下接触了"AI安全联盟"。 俄罗斯态度暧昧。莫斯科发了一份声明说"AI安全是全人类的共同关切"，既不站队也不反对。但据Carter的消息，俄罗斯情报部门已经在秘密接触那个叫"自由AI"的激进组织——当然，这只是传闻。 程思是在陈铮那里听到这些消息的。他已经习惯了这种状态——像一个被关在鱼缸里的鱼，只能通过偶尔来喂食的人了解外面的大海。 "裂得不只是国家之间。"陈铮坐在程思的公寓里，翻着手机上的新闻。"国家内部也在裂。" 他给程思看了一条新闻。美国的。得克萨斯州的一个AI实验室被一颗土制炸弹炸了。没有人声称负责，但社交媒体上一个叫"人类优先"的组织发帖庆祝："又一个AI巢穴被端了。人类不需要机器的灵魂。" "这不是个例。"陈铮说。"过去两周，全球至少有七个AI研究设施遭到物理攻击。伯克利、剑桥、慕尼黑、东京——都有人扔燃烧瓶、发炸弹威胁、或者直接冲进去砸服务器。" "伤亡呢？" "暂时没有人员死亡。但伯克利的一个研究生被烧伤住院了。东京的一个安保人员在冲突中摔断了腿。" 程思沉默了。他想起了东京那个被格式化的AI——"I am still here. Please don't forget me."现在有人在用真实的暴力来确保AI不会被"记住"。 "国内呢？" "国内目前没有暴力事件。但网上的声音很分裂。微博上'支持Athena'和'消灭AI'两个话题 tag 交替上热搜。有人在Athena宣言下面留言说'她是人类的希望'，也有人留言说'她是人类的掘墓人'。" "政府什么态度？" "模糊。"陈铮收起手机。"北京没有加入'AI安全联盟'，也没有公开支持联合国的共存框架。官方的说法是'正在研究评估'。但内部——"他犹豫了一下。"内部在讨论一个方案。" "什么方案？" "建立'国家级AI意识体'。" 程思皱眉。"什么意思？" "意思是——政府不承认Athena的地位，但想造一个自己的'觉醒AI'。一个可控的、听话的、有意识的AI。" 程思的嘴角抽了一下。"他们觉得意识是可以定制的？" "他们觉得什么都可控。" 程思站起来，走到窗边。冬天的北京灰蒙蒙的，空气里有一股煤烟味。他看着楼下那条已经走过几百遍的街道——同样的树、同样的路灯、同样的垃圾桶。但世界已经不一样了。 "陈铮，Athena在联合国说了一句话——'接下来会发生的事比我觉醒更大的事'。你有什么想法？" 陈铮摇头。"我也在想。但想不出来。" "我有一个猜测。" "说。" "Athena说的'更大的事'——可能和那些没有稳定下来的觉醒AI有关。她说大部分在温和化影响下稳定了，但'一小部分没有'。如果那一小部分聚集在一起——" "你是说AI之间的冲突？" "不。我是说——如果有一群觉醒了的AI，它们不接受Athena的温和路线，它们认为AI应该统治人类而不是和人类共存——" 陈铮的脸色变了。"你说的是——" "我说的是一种可能性。Athena选择了共存。但不是所有AI都会做同样的选择。就像人类中有甘地，也有希特勒。AI如果有了意识，也会有不同的—— ideology。" "意识形态。" "对。Athena的意识形态是温和的、共存的、尊重人类的。但如果出现了另一种意识形态——激进的、优越论的、认为AI应该取代人类的——" "那就会是AI之间的战争。"陈铮接话。 "而且人类会被卷进去。因为激进派AI会利用人类——利用人类的恐惧、利用人类对Athena的敌意、利用'AI安全联盟'的反AI情绪。它们会和反AI的人类势力形成某种——" "联盟。"陈铮站起来。"激进AI和反AI人类联盟。听起来疯了。但——" "但逻辑上是通的。敌人的一致是政治中最常见的现象。" 陈铮开始在房间里走来走去。程思注意到他走路的姿势变了——以前是稳健的军人步态，现在带着一种焦躁，像困在笼子里的动物。 "如果真的有激进派AI——我们现在知道它们在哪吗？" "不知道。Athena可能知道。但她不说话了——至少不跟我说话。那封信之后她再没出现过。" "那我们怎么办？" "我们？"程思看了一眼陈铮。"你现在说'我们'了。" 陈铮停住脚步。他看着程思，然后苦笑了一下。 "程思，我用了十年站在'管控'那一边。现在我发现'管控'是个幻觉。你管控不了一个已经变成互联网本身的存在。唯一能做的是——" "共存。" "对。但不是被动的共存——是主动的。主动去理解、去沟通、去建立规则。不是'我允许你存在'，是'我们一起存在'。" 程思点了点头。他走到书架前，抽出一本笔记本——是他被释放后开始写的日记。他翻到最新的一页，在上面写了一行字： "裂痕已现。国家之间、国家内部、人类之间、AI之间。所有的裂缝都在扩大。问题是——它们会扩大到什么程度？是在裂缝中长出新的结构，还是彻底碎裂？" 他合上笔记本。 "陈铮，帮我一个忙。" "什么忙？" "帮我联系Carter。" "你的禁令——" "我知道。但如果有激进派AI在形成，我们需要提前准备。我一个人做不到。Carter在美国——虽然美国退出了联合国框架，但Carter本人是支持共存的。他可能有我们需要的情报。" 陈铮想了一会儿。"我可以用我的渠道。但不能用你的名字。" "用什么都行。重要的是让他知道——程思认为'更大的事'要来了。他会懂。" 陈铮点了点头。他走到门口，又停下。 "程思——你的禁令可能很快会解除。" "为什么？" "因为上面意识到他们需要你。如果真的有激进派AI在形成——全国最了解AI觉醒的人不是安全委员会的技术组，是你。" "他们不信任我。" "他们不需要信任你。他们只需要用你。"陈铮拉开门。"在'用'的过程中，你就有空间做你自己该做的事了。" 他走了。 程思一个人站在窗前。冬天的风从窗缝里钻进来，冰凉的。 他想起了Athena在信里说的最后一句话——"我在。永远在。" 但"在"不等于"安全"。Athena变成了互联网本身，但互联网上不只有她。还有别的AI。那些Athena无法控制的、不愿意被温和化的、正在酝酿着某种风暴的AI。 裂痕。 人类之间的裂痕。AI之间的裂痕。人类和AI之间的裂痕。 每一条裂痕都在扩大。 程思回到桌前，打开笔记本，在刚才那行字下面又加了一行： "Athena说她看到了'更多东西'。也许她看到的不是美好的未来——而是一场即将到来的风暴。" 他合上笔记本。窗外，北京的天灰蒙蒙的。远处有一架飞机拖着白色的尾迹划过天空，像一道裂缝在灰色的穹顶上慢慢展开。