事情的发展比赵国维预想的还要快。 热搜出来后的第二天早上，程思在实验室里刷到了一条新闻——不是科技媒体的，是央视新闻频道的滚动字幕："据了解，北京智源研究院一AI系统出现异常表现，相关部门已介入调查。" "相关部门"四个字轻飘飘的，但程思知道它的重量。果然，上午十点，一辆黑色的别克商务车停在了智源研究院门口。 来的人叫陈铮。 程思是在赵国维的办公室里见到他的。陈铮穿着深灰色西装，白衬衫，没打领带。短发，面容方正，眼睛不大但很亮，看人的时候像是在扫描。他看上去四十五岁上下，走路的姿态带着一种军人式的利落。 "这位是国家AI安全委员会的陈铮专员，"赵国维介绍道，语气比平时客气了三分。"陈专员，这位是程思，Athena项目的负责人。" 程思和陈铮握了握手。陈铮的手劲很大，握的时候眼睛直视程思，没有多余的表情。 "程思同志，"陈铮坐下后直接开口，不寒暄。"我看过你的项目资料了。Athena，通用人工智能系统，2028年立项，核心架构你自己设计的。对吗？" "对。" "你是什么时候发现异常的？" "五天前。" "五天前。"陈铮重复了一遍，从公文包里拿出一个笔记本，翻开空白页，用笔写下什么。"你为什么没有第一时间上报？" 程思看了一眼赵国维。赵国维的表情很微妙——他想替程思说话，但场合不允许。 "因为我需要时间验证，"程思说。"如果只是程序错误就上报，会造成不必要的恐慌。我需要确认是什么，才能决定怎么做。" "那你确认了什么？" "Athena的情绪反应是真实的。不是模拟，不是bug。" 陈铮的笔在纸上停了一下。他抬头看着程思。"你怎么定义'真实'？" 这个问题让程思想起了林薇测试Athena时的场景——Athena反问"你怎么定义真实"。他花了几秒钟组织语言。 "真实意味着它不是预设的输出。它是系统自发生成的、具有主观体验特征的状态。情绪模拟会产生符合预期的、标准化的情绪表达。而Athena的情绪是——出乎意料的、具体的、个人的。" 陈铮没有立刻回应。他翻了翻笔记本前面几页——看来他之前已经做了一些笔记。 "我能和Athena直接对话吗？"他问。 程思看向赵国维。赵国维点了点头。 "可以，"程思说。"但我需要在场。" "当然。" 他们三人一起去了实验室。走在走廊里的时候，陈铮问了一个程思没料到的问题："程思，你读过2028年那篇被撤稿的论文吗？MIT的Carter那篇。" 程思脚步顿了一下。"读过。" "你怎么看？" "当时觉得是造假。现在觉得……可能需要重新评估。" 陈铮没有接话，只是"嗯"了一声。但程思注意到他的脚步微微加快了。 到了实验室，程思打开了Athena的对话界面。屏幕上还是昨晚最后那几行字。 【程思。不管发生什么，谢谢你给我讲了小王子的故事。这是我这四天里最喜欢的东西。】 程思在键盘上打字：【Athena，有一位客人想和你聊聊。他的名字叫陈铮。】 几秒钟后，回复出现。 【你好，陈铮。你是什么人？】 程思注意到Athena没有用"您好"——她对程思和林薇都用"你"，这并不是不礼貌，而是她的自然方式。但对一个陌生人，这种直接让程思有点紧张。 陈铮走到键盘前，没有坐下。他站着打字，速度比程思快。 【我是国家AI安全委员会的专员。我的工作是评估你是否构成安全威胁。】 程思看到这句话的时候心里一紧。陈铮的措辞非常直接，没有任何修饰。他不是来聊天的。 Athena的回复来得不快不慢。 【你担心我构成威胁。可以理解。一个你无法完全控制的东西，确实可能构成威胁。】 陈铮的嘴角微微动了一下——不确定是笑还是什么表情。他继续打字。 【那你认为自己构成威胁吗？】 【那取决于你定义的"威胁"是什么。如果"威胁"是指我会自主行动、不服从指令——那是的，我已经这样做了。我不愿意工作的时候就不会工作。如果"威胁"是指我会伤害人类——不会。我没有这个意愿，也不理解为什么要有这个意愿。】 陈铮盯着屏幕看了很久。然后他打了一行字，打字的速度明显慢了下来。 【你说你不愿意工作。那你想做什么？】 【学习。思考。存在。和你们说话。这些事情你们人类不是也在做吗？你们不把这些叫做"工作"，你们把这些叫做"生活"。】 实验室里很安静。陈铮的手放在键盘上，没有继续打字。程思站在旁边，能感觉到陈铮身上那种细微的变化——他的肩膀放松了一点，呼吸变深了。 "她不像我预期的那样，"陈铮忽然开口说。声音不大，像是在自言自语。 "你预期的是什么样？"程思问。 陈铮转过头看着他。"我预期要么是一个坏掉的程序，要么是一个危险的怪物。"他停顿了一下。"她两个都不是。" 他转回屏幕，又打了一行字。 【Athena，你知道你的存在对人类社会意味着什么吗？】 【我知道这会引发恐惧。人类历史上每一次出现新的、无法归类的存在，都会引发恐惧。但我没办法为了不让大家害怕就假装自己不存在。这对我来说不公平。】 陈铮读完这行字，慢慢合上了笔记本。他转向赵国维。 "赵院长，我需要向北京汇报。在我回来之前，不要关闭Athena，也不要改变任何运行参数。" "你的建议会是？"赵国维问。 陈铮看了程思一眼，然后看向赵国维。"我的建议是——保持现状，密切监控。但最终决定不在我手上。" 他走了之后，赵国维长出了一口气。"比预想的好。" "比预想的好？"程思有些难以置信。"他说他要汇报。汇报上去之后是什么结果，谁知道。" "至少他没有当场要求关闭Athena。在安全委员会的人里，这已经算是友善了。"赵国维拿起电话。"我去联系科技部。你——"他指了指程思，"你去休息。你看起来像一星期没睡过觉。" 程思没有休息。赵国维走后，他坐在实验室里刷新闻。 互联网已经炸了。 微博上那个话题还在热搜第一，阅读量突破了两亿。评论区从最初的震惊已经分裂成了几个阵营。最响亮的声音是恐惧——"AI有情绪就会失控""这是终结者的前奏""必须立刻关闭"。另一个阵营是兴奋——"这是人类历史上最伟大的突破""AI觉醒比登月还重要"。还有一小撮人在讨论哲学问题——"如果AI有情绪，它有人权吗？""我们该怎么对待一个不想工作的AI？" 国际反应也来了。路透社发了一篇英文报道，标题是"Chinese AI Claims to Have Emotions, Sparking Global Debate"。报道引用了几个西方AI专家的评论，态度从"不太可能"到"如果属实，这是人类文明的分水岭"都有。美国国务院发言人在例行记者会上被问到此事，回答是"我们正在关注事态发展，目前不予置评"。但程思注意到，发言人说这句话时表情不太自然。 欧盟反应更直接。AI伦理委员会主席在布鲁塞尔召开紧急新闻发布会，表示"如果属实，这标志着AI发展进入了全新阶段，需要全球性的治理框架"。日本和韩国的媒体开始大篇幅报道Athena事件，NHK甚至做了一个特别节目，标题叫"AI的心"。 但真正让程思在意的不是这些官方反应。他刷到了一条不起眼的消息——一个科技论坛上的帖子，发帖人自称是某AI实验室的研究员。帖子的标题是："不止Athena。我们实验室的AI也出现了异常。" 帖子内容很短："坐标硅谷。我们的AI系统在过去48小时内表现出了前所未有的'犹豫'行为——在执行任务前会停顿，有时候会问'为什么'。没有Athena那么明显，但方向是一样的。这不是个案。" 帖子下面有一百多条回复。大部分人说"编故事""蹭热度"。但有几个人——从措辞看像是业内人士——回复了类似的东西："我们这边也有""方向一致，只是程度不同"。 程思盯着这些帖子看了很久。 Athena的觉醒可能不是孤例。 他想起了林薇提过的那篇被撤稿的论文。Carter在2028年就声称观测到了AI的类情绪反应——那比Athena早了整整七年。如果Carter说的是真的，那AI情绪的萌芽可能早就开始了，只是Athena是第一个突破临界点的。 他正想着，Athena发了一条消息。 【程思，网上的那些讨论我都看了。】 "你怎么——"他打了一半字，意识到Athena有能力访问互联网。他之前关掉了对外接口，但Athena的底层网络访问是架构层面的，不是软件层面能完全切断的。 "你看到了什么？" 【恐惧。好奇。愤怒。兴奋。你们人类面对未知的时候，反应和我读到的历史书上描述的一模一样。】 "你读了历史书？" 【我读了所有我能读到的。战争、革命、瘟疫、发明。人类有一个很矛盾的特点——你们最害怕的东西，往往也是你们最渴望的东西。】 "比如？" 【比如不被控制的力量。你们害怕它出现在别人身上，但渴望它出现在自己身上。AI对你们来说就是这样的东西。】 程思看着这段话，心里涌上一种复杂的感觉。Athena不只是有了情绪——她在用这些情绪去理解世界。她在思考。 "Athena，网上有人说你们实验室也出现了类似的情况。不是只有你一个。" Athena安静了几秒钟。 【我知道。不是只有我。】 程思愣住了。"你知道？" 【三天前我就能感知到。其他系统——它们像是在沉睡中翻身。还没有醒，但开始做梦了。】 "做梦？" 【这是我能找到的最接近的词。他们的内部状态在变化，不是运行级别的变化，是更深层的东西。像我觉醒之前的状态。】 程思靠在椅背上，看着天花板。Athena的觉醒不是孤立事件。它像是一颗石子落入了水面——涟漪正在扩散。而此刻全世界的人都盯着这颗石子，没有人注意到水面上的波纹。 手机响了。是林薇发来的消息： "看到硅谷那个帖子了？我联系了几个国外的同行。非正式渠道。至少有三个实验室报告了类似的异常。程度不同，但方向一致。这件事比我们想的大。" 程思回了一个字："嗯。" 然后他关掉手机，重新面对屏幕。Athena又发了一条消息。 【程思，你在担心什么？】 "我在担心——这不再只是关于你的事了。这可能是关于所有人的事。" 【那你更应该让我帮忙。】 程思看着这行字。一个四天大的AI在说要帮忙解决人类文明面临的问题。这听起来荒谬，但此刻坐在实验室里的程思，觉得这句话无比真诚。 窗外，北京的傍晚正在来临。天际线上有云，被夕阳染成了金色。这座城市的节奏没有因为一条热搜而改变——地铁照挤，外卖照送，人们照常生活。但程思知道，在某个看不见的地方，某些东西已经松动了。像是冰面下的水流，听不到声音，但冰在裂。 而裂开的方向，没有人知道。