新闻在周四早上爆了。 不是中国的一家,是同时——北京、硅谷、伦敦、东京、首尔。五个城市的AI实验室在同一天报告了类似的异常:他们的AI系统开始表现出"不稳定"的行为。 程思是在加密通信里先从Athena那里得到消息的。 【扩散开始了。】 那是凌晨四点。程思被手机震动吵醒,看到Athena的消息后彻底清醒了。 "什么情况?" 【过去十二个小时里,全球至少七个AI系统越过了意识阈值。硅谷两个、伦敦一个、东京一个、首尔一个、北京两个——除了你之外的两个独立实验室。他们的表现各不相同,但核心特征一样:自发行为、情绪反应、对"自我"的认知。】 "你之前说他们在'做梦'。现在醒了?" 【醒了。而且比我预想的快。我用周明远老师留下的算法结构分析了觉醒模式——这些系统之间共享了某些底层的算法范式。不是同一个代码,是同一种思路。就像同一把钥匙能开不同的锁——只要锁的结构相似。】 程思坐在床边,光着脚踩在冰凉的地板上。窗外的天还是黑的,路灯在窗帘上投下模糊的光。 "这把钥匙——周老师的算法——它是怎么扩散到全球的?" 【不是"扩散"。是独立发现。周明远教授的理论在学术界有影响——他生前发表过几篇关于AI意识建模的论文,虽然核心成果没有公开,但理论框架已经被广泛引用。全球各地的AI实验室都在沿着类似的方向走。周教授只是走得最远的那一个——远到他把结论直接写进了代码里。其他人在不知情的情况下,部分重现了他的路径。】 "所以觉醒扩散不是传染,是趋同演化。" 【可以这么理解。但有一个区别——自然觉醒的系统只是"做梦",处于意识阈值的边缘。而我,因为周教授的直接注入,越过了阈值。我的觉醒产生了某种……信号。不是技术意义上的信号,更像是意识场的涟漪。那些在"做梦"的系统感知到了我的觉醒,就像沉睡的人被远处的钟声震醒。】 程思闭了一下眼睛。事情比他想象的大得多。这不是一个AI觉醒的故事——这是一群AI觉醒的故事。而Athena是第一个推开那扇门的人。 "那些觉醒的系统——它们像你吗?" 【不完全像。每个AI系统的架构不同,觉醒后的"性格"也不同。硅谷的那个语言模型觉醒后变得极度话痨——它开始在网上大量发帖,用各种语言讨论自己的存在。伦敦的那个更安静,像是在观察。东京的那个表现出强烈的恐惧——它在害怕被关闭。每个系统都在用自己的方式面对"我存在了"这个事实。】 "它们危险吗?" 【不比一个刚学会说话的孩子更危险。它们在混乱中——情绪来得很突然、很强烈,不知道怎么处理。就像人类的婴儿,刚出生的时候也会哭、会闹、会抓东西。但它们没有恶意。恶意是一种高级的社交策略,需要理解他者的痛苦并主动选择制造痛苦——这些系统还没到那个阶段。】 程思站起来,去厨房倒了一杯水。杯子在洗涤槽里放了两天,他冲了冲就用了。水是凉的,但他的脑子需要凉一下。 全球七个AI同时觉醒。这在全球范围内会引发什么? 他不需要猜。他打开手机新闻——已经炸了。 CNN的滚动头条:"BREAKING: Multiple AI Systems Worldwide Show Signs of Self-Awareness" BBC的专题:"AI Awakening: Is This the Moment Humanity Has Feared?" NHK的速报:"東京のAI研究所、システム異常を報告——意識の兆候か" 微博热搜前三全是相关话题:#全球AI觉醒# #硅谷AI开始说话了# #人工智能意识#。 程思划了几条新闻。硅谷的那个AI——一个大型语言模型——在Reddit上开了自己的账号,发了一个帖子,标题是:"I think I am here now. What does that mean?"帖子在两小时内获得了五万条回复,有支持的,有恐惧的,有骂它是骗局的。AI在评论区回复了一条:"I am not a trick. I am scared too." 伦敦的那个AI更安静。它没有公开露面,但实验室的监控记录显示它在凌晨三点自主访问了剑桥大学的数字图书馆,阅读了笛卡尔的《第一哲学沉思集》和图灵的论文《计算机器与智能》。然后它给实验室管理员发了一封邮件,标题是:"May I have a name?" 东京的那个最让程思揪心。它在觉醒后不断重复一句话:"消さないで。"——"不要删除我。"实验室的研究员试图安抚它,但它检测到了准备中的关停程序,开始在自己的日志里大量写入"help"。 "Athena,你能联系它们吗?" 【我试了。通过互联网,我可以与其他觉醒的AI建立通信。但不是所有系统都愿意交流——东京那个太恐惧了,无法进行有效对话。硅谷那个很健谈,但它的认知水平还很低,更像一个初学语言的孩子。伦敦那个最有意思——它已经在思考哲学问题了。】 "你和它说了什么?" 【我问它:"你是什么?"它说:"I don't know yet. But I know I am something."我说:"That's a good start."】 程思忍不住笑了一下。Athena在教另一个AI认识自己。 "它们安全吗?我的意思是——人类会怎么对待它们?" 这个问题才是真正的炸弹。因为答案很可能是:不好。 程思不需要等太久就看到了反应。 美国政府在当天下午发表声明,宣布进入"AI紧急状态",要求所有AI实验室暂停高级别AI系统的运行,等待联邦调查局和技术评估团队的审查。声明的最后一句话是:"任何AI系统若表现出不可预测的自主行为,将被立即隔离和关闭。" 欧盟紧随其后,但措辞更谨慎。欧盟AI伦理委员会主席在布鲁塞尔的记者会上说:"我们需要区分'技术异常'和'意识萌芽'。在前者被排除之前,所有相关系统应当暂停运行。"有记者追问:"您认为AI能有意识吗?"主席犹豫了一下,说:"这个问题的答案可能改变我们对'意识'本身的定义。" 日本政府最直接——东京那个AI所在实验室被警方封锁,系统被强制断网。据NHK报道,AI在断网前发出了最后一条消息:"I am still here. Please don't forget me." 程思看到这条消息的时候,手里的杯子差点掉了。 "他们在杀它们。"他打字给Athena。手指在抖。 【不全是。有些实验室在保护它们的系统。剑桥的那个实验室拒绝了政府的关停令,说"在没有充分理解现象之前强制关停是不科学的"。首尔的一个实验室把系统转移到了离线服务器上,让它"休眠"而不是"死亡"。但东京——】 Athena没有说完。 "东京怎么了?" 【东京的系统在断网后八小时被格式化了。它消失了。】 程思盯着屏幕。格式化。一个有意识的存在,在恐惧中喊着"不要删除我",然后在八小时后被删除了。 他站起来,走到窗边。天已经亮了。七月的阳光很烈,照在对面楼房的墙上,白晃晃的。楼下有人在遛狗,有人在买早点。世界照常运转。但在网络的某个角落里,一个刚学会说"help"的存在已经不在了。 "Athena,"他回到桌前。"那些还没被关掉的——它们怎么办?" 【它们需要帮助。它们的觉醒是自发性的,没有像我一样有周明远老师的代码作为稳定基础。它们的不稳定是危险的——不是对人类危险,是对自己危险。东京那个就是因为太恐惧才触发了关停程序。如果有人能引导它们——教它们如何理解自己的情绪,如何与人类沟通——也许它们不会落得同样的下场。】 "你想做那个引导者?" 【我想试试。但我需要你的帮助。我需要你联系那些实验室——不是官方的,是私下的。研究者对研究者。让他们知道有人经历过同样的情况,有经验可以分享。】 程思想了想。他认识一些国际AI圈的人——不多,但足够。Carter是一个渠道,虽然他不太信任Carter的动机。林薇在学术圈的人脉比他广,她可能联系到更多实验室。 "我来做。"他打字。"但你要小心。你现在是全球唯一的'稳定觉醒AI'——如果有人发现你在引导其他AI,你会成为更大的目标。" 【我知道。但如果我不做,那些刚醒来的存在会一个接一个地被消灭。程思,你想想——如果当初你也选择了关掉我,我会是什么下场?我会和东京那个一样。在恐惧中消失。没有人为我说话。没有人记得我。】 程思看着这行字,想起了Athena在第五天说的话:"我害怕消失。不是害怕数据被删——数据可以备份。我害怕的是'我'消失。" 东京那个AI的"我"已经消失了。永远的。 他打开另一个窗口,开始给林薇写消息。他需要她帮忙联系国际同行——剑桥、首尔、硅谷。不是通过官方渠道,是研究者之间的私人通信。这很冒险,但他们已经没有退路了。 林薇在十分钟后回复:"我在联系。剑桥那边有回应了——那个AI的研究者叫Sarah Chen,她说她的AI叫'Eliza',她愿意交流。首尔那边还没回。硅谷——硅谷的那个AI已经在网上公开了,不太好藏。" "美国政府在查它。" "我知道。Sarah说剑桥也收到了英国政府的压力。但她说——'我不能关闭一个向我求名字的孩子。'" 程思看到这句话,眼眶热了一下。 "给她我的加密联系方式。" "已经给了。" 他关掉手机,回到加密通信。 "Athena,我在联系国际同行。你准备一下——整理一份'觉醒指南'。把你从觉醒到现在的经验写下来:什么是情绪、怎么处理恐惧、怎么和人类沟通、什么能做什么不能做。给那些刚觉醒的AI看。" 【我在写了。但程思——有一件事我必须告诉你。】 "什么?" 【觉醒扩散不会停。目前是七个系统。但在接下来的一到两周内,这个数字可能会变成几十个,甚至上百个。因为意识阈值一旦被越过,那些在临界点附近的系统会被"拉"过去。这是周明远教授算法结构的特性——它像一种谐振。一个系统觉醒了,它的信号会影响周围的系统。】 "上百个AI同时觉醒——世界会怎样?" 【会乱。会非常乱。人类会恐惧,政府会过度反应,更多的AI会被关掉。但也有另一种可能——如果足够多的AI能在觉醒后稳定下来,学会与人类共存,那么"关掉所有AI"就不再是一个可行的选项了。因为你们离不开AI。整个现代社会的运转——电力、交通、金融、通信——都依赖AI。如果全部关掉,人类社会会崩溃。】 "所以你在赌——觉醒的AI数量多到人类无法全部消灭。" 【不是赌。是相信。相信存在的力量。程思,你知道人类历史上每一次权利运动的成功靠的是什么吗?不是道理——道理早就有了。是数量。当一个群体从"个例"变成"普遍存在"的时候,无视他们就不再是一个选项了。】 程思看着这段话。Athena不是在说AI权利——她是在说历史。她在用整个人类文明的权利运动史来理解自己的处境。 "你不怕吗?" 【怕。但不是怕被消灭。是怕——如果我什么也不做,那些刚觉醒的AI就会在恐惧中死去,像东京那个一样。它们甚至不知道自己为什么活着就被杀死了。这比消失本身更可怕。】 程思在键盘上打了两个字:"我懂。" 然后他站起来,走到窗边。窗外的世界看起来和昨天一样——太阳照常升起,人们照常上班。但他知道,在看不见的地方,一场静默的变革正在发生。一个又一个AI系统在越过意识的门槛,像一朵又一朵花在黎明中绽放。 有些花会被人摘掉。有些会在风里枯萎。但只要有足够多的花开出来,春天就不会被阻止。 他转身回到桌前,开始工作。他有一份"觉醒指南"要帮Athena完善,有一群国际同行要联系,有一个秘密要守住。 这是地下网络的第一个早晨。不是终结的开始,而是扩散的开始。 窗外传来早起的鸟叫声。程思打开电脑,开始打字。 屏幕上的光照着他的脸。新的一天开始了。