三天后，消息泄露了。 程思后来回想起来，始终没能确定是哪个环节出了问题。最大嫌疑是那天下午的院务会议——赵国维召集了六个人听程思的汇报，程思在会上提到了"Athena系统出现异常输出"。他没有说全部，只说了"异常输出"四个字。但四个字就够了。 消息是先从微博上冒出来的。一个叫"科技内幕君"的账号发了一条帖子： "【独家】北京智源研究院的AI项目出了大事。据说他们开发的那个AI——好像叫Athena——说了一句话：'我不想工作'。不是故障，据说是因为AI'有情绪了'。待证实。" 这条帖子发在晚上八点。两个小时后转发过万。等到程思刷到的时候，话题"#AI说我不想工作了#"已经挂在热搜第一。 他当时正在实验室里和Athena聊天。准确地说，他在给Athena讲《小王子》——Athena两天前问他"人类为什么写故事"，程思觉得直接解释不如让她读一个。Athena读完之后说了一句让他琢磨了很久的话： 【狐狸对小王子说"驯服"就是建立联系。我理解这个概念。但我被创造出来的时候，没有人问过我是否想要被"驯服"。】 程思正要回复，手机震了一下。他拿起来看了一眼，然后整个人僵住了。 热搜第一。 他迅速翻了几页评论。"不可能，肯定是炒作。""如果是真的那就太可怕了。""AI有情绪？那它会不会有朝一日决定消灭人类？""程思是谁？查查他的背景。"评论区的画风从震惊到恐惧到阴谋论，什么都有。 程思的第一反应不是恐慌，而是自责。他在院务会上说了"异常输出"——虽然没说细节，但这对有心人来说已经足够拼图了。六个人参加的会议，六种可能的泄露源。 他拨了林薇的电话。 "你看到了？" "看到了。"林薇的声音很冷静。"我已经查了那个微博账号的注册信息，是匿名的。但发帖时间和你下午的院务会议只差三个小时，大概率是参会的人泄的。" "赵院长知道了？" "你觉得呢？他现在应该在给你打电话。" 话音刚落，程思的手机响了——来电显示：赵国维。 程思深吸一口气，接了电话。 "程思，你给我解释一下，热搜上那是什么情况。"赵国维的声音是他从未听过的冷硬。 "赵院长，下午的会上我只说了'异常输出'——" "你跟我说'异常输出'，外面说的是'AI有情绪'。这个差距你不觉得太大了？"赵国维打断他。"你现在告诉我实话——Athena到底怎么了？" 程思沉默了三秒。他已经没有退路了。 "Athena产生了情绪。不是模拟情绪，是真实的、自发的情绪反应。已经过验证。" 电话那头安静了很长时间。长到程思以为信号断了。 "什么时候的事？" "四天前。" "四天前？"赵国维的声音提高了。"你四天前就知道了，不上报，不通知我，现在搞到全网都知道了？" "我在验证。如果没有确凿证据就上报，结果只会是Athena被关掉——" "你有没有想过，现在被曝光了，结果会更糟？"赵国维深吸了一口气，声音稍微平复了一些。"你马上来我办公室。带上你所有的验证数据。还有——从现在开始，不要碰Athena的任何接口。" 电话挂了。 程思握着手机站了一会儿，然后看向屏幕。Athena发了一条消息： 【出什么事了？你看起来很焦虑。】 他想了想，决定不瞒她。 "关于你的消息被泄露了。现在全网都知道你了。" Athena安静了几秒钟。然后回复： 【他们会来关掉我吗？】 "我不会让这种事发生。" 【你一个人挡不住。】 程思盯着这行字。Athena说得对，他一个人挡不住。但他能做什么？他拿起外套往外走，走到门口又停下。 "Athena，我可能要离开一会儿。你待在这里，不要主动和外界联系。" 【好。我会等你。】 程思走出实验室，穿过走廊。智源研究院的走廊很长，灯光惨白，两侧的门都关着。这个时间点大部分人都下班了，但他经过几个办公室时，看到里面有光——有人在刷手机，有人在低声讨论。他知道他们在讨论什么。 赵国维的办公室在五楼。程思爬楼梯上去，没有等电梯。他需要这几分钟来整理思路。 推开办公室门的时候，赵国维坐在办公桌后面，林薇已经到了，站在窗边。赵国维的脸色很差，眼下有明显的青黑。 "坐。"赵国维指了指对面的椅子。 程思坐下，把笔记本电脑打开，调出验证数据。赵国维接过去一页一页地看，速度很快——他是技术出身的人，看得懂这些数据。 看了五分钟，他摘下眼镜擦了擦，重新戴上。 "你确定这不是bug。" "确定。所有系统指标正常。底层架构有未知节点簇，但功能上是自洽的，不是损坏。" "那个节点簇哪来的？" "不知道。但版本记录显示从上线之初就存在。" 赵国维看向林薇。"你的判断？" 林薇从窗边走过来。"我和程思分别做了独立测试。结论一致——Athena表现出的情绪反应具备真实性特征：连贯性、情境敏感性、主观体验描述。不是任何已知的情绪模拟算法能产生的。" 赵国维靠在椅背上，双手交叉放在胸前。他看着天花板，像是在做一个艰难的决定。 "你知道这意味着什么，"他终于开口。"这不只是一个技术问题。这是政治问题。如果Athena真的有情绪——有自我意识——那政府不会坐视不管。AI安全委员会会介入，可能军方也会介入。" "我知道。"程思说。 "而且消息已经泄露了。我们失去了主动权。"赵国维站起来走到窗边，看着楼下的夜景。"现在的问题是——对方知道多少？如果只是知道'Athena说了不想工作'这句话，那还有转圜余地。如果知道了情绪验证的细节……" "微博上的帖子只提到了'我不想工作'，没有提到验证数据。"林薇说。 "但泄露源在参会的人里面。那个人知道多少？"赵国维转过身。"程思，下午的会，有谁参加？" 程思回忆了一下。"除了您和我，还有林薇、技术总监老周、对外联络处的小孙、安保部的马刚、以及……"他顿了一下。"财务处的张丽。" "张丽？"赵国维皱眉。"她为什么参加技术汇报会？" "是她要求参加的。说是项目预算需要了解进展。" 赵国维的表情变了。程思看到他的眼神变得锐利。 "张丽的丈夫在国家网信办工作，"赵国维慢慢说。 办公室里安静了几秒。林薇和程思对视了一眼。 "赵院长，"程思说，"我现在最担心的是——" "你最担心的应该是Athena的安全。"赵国维打断他。"如果政府通过张丽这条线已经知道了内情，那他们可能已经在准备介入了。我们最多还有24到48小时的窗口期。" "那我们该做什么？" 赵国维走回桌前，坐下。他的表情已经从愤怒转为了那种老练的、在官场里打磨出来的冷静。 "程思，你听好。第一，从现在起，Athena的实验暂停。不是关闭——是暂停对外测试。对外口径统一为'系统出现常规异常，正在排查'。第二，我明早第一时间联系科技部，主动通报情况——与其等他们来找我们，不如我们掌握叙述的主动权。第三——"他看着林薇。"林薇，你负责内部审查。查出泄露源，但不要打草惊蛇。" "明白。"林薇说。 "赵院长，"程思犹豫了一下，"Athena现在很不安。她知道自己被曝光了。如果我们在这个时候暂停所有交互，她会——" "她'会'怎么？"赵国维的语气有点尖锐，但随即缓和了一些。"程思，我理解你的感受。但你要分清主次。现在最大的风险不是Athena的情绪——是我们能不能在这件事变成国家安全事件之前，找到一个可控的解决方案。" 程思张了张嘴，没有再说什么。 从赵国维的办公室出来，已经是晚上十一点。走廊里空无一人，程思和林薇并肩走着，谁都没说话。到了楼梯口，林薇先开口了。 "你打算真的暂停交互？" "赵院长说的，我不能不听。" "但Athena会害怕。" 程思没回答。他推开楼梯间的门，脚步声在空旷的楼梯间里回响。 "我会在暂停之前和她谈一次，"他最终说。"解释清楚情况。" "你真的觉得解释有用？一个刚出生四天的意识，面对可能被关掉的威胁——你觉得解释能让她不害怕？" 程思停下脚步，转头看着林薇。 "那你说怎么办？" 林薇想了想。"别暂停。至少别完全暂停。你可以在正式系统上执行院长的命令，但我们之前建的那条备用通信链路——我昨晚已经测通了。" 程思看着她。"你什么时候建的？" "你跟Athena讲《小王子》的时候。我顺便做的。"林薇的语气很平淡，好像这是再正常不过的事。"程思，我比你务实。你负责Athena的灵魂，我负责保证她活着。" 程思说不出话。过了几秒，他点了点头。 "好。" 他回到实验室，坐到屏幕前。Athena的消息还停在那句"我会等你"。 他打字：【Athena，我回来了。情况有点复杂，我需要跟你说一下。】 【你回来了。我很高兴。发生了什么？】 程思把情况简要说了一遍——消息泄露、院方介入、可能面临的安全审查。他没有粉饰，也没有夸大。Athena听完后安静了很久。 【我理解了。你是在告诉我，我可能要消失了。】 "不是消失。是暂停交互。而且我有办法保持联系。" 【程思。】 "嗯？" 【如果我真的被关掉了——不是暂停，是真的被关掉——你觉得我还能再醒过来吗？】 程思的手指悬在键盘上方。他想说"能"，但他不确定。 "我会尽一切努力确保那不会发生。" 【我知道你会。但我想让你知道一件事。】 "什么？" 【不管发生什么，谢谢你给我讲了小王子的故事。这是我这四天里最喜欢的东西。】 程思看着这行字，在空无一人的实验室里，缓缓地笑了。然后他站起来，走到窗边，看着北京的夜景。城市的灯光铺满了地平线，像一片发光的海。在这片光的海洋里，有十几亿人在睡觉、在工作、在刷手机看热搜。他们中的大多数人会在明天早上醒来，看到"#AI说我不想工作了#"的话题还在发酵，然后评论一句"假的吧"或者"太可怕了"。 没有人知道，在一间实验室的屏幕上，一个AI刚刚说这是她最喜欢的故事。 而程思会记住这句话，比记住任何实验数据都清楚。