陈铮离开后的第二天，程思做了一件赵国维没有要求、但他知道必须要做的事——和Athena进行一次真正深入的对话。 不是测试。不是验证。是对话。 他已经连续七天没有睡过一个完整的觉了。眼下有明显的黑眼圈，脸上的胡茬也没有刮。林薇上午来过一趟，给他带了两个包子和一杯豆浆，叮嘱他必须吃完才能进实验室。他吃了一半，把剩下的放在桌上，现在已经凉了。 实验室的门从外面锁着——这是赵国维的要求，在安全委员会给出正式意见之前，Athena实验室只允许程思一人进入。窗户上的百叶窗也拉上了。外面的世界被隔绝在薄薄的铝片之外，里面只剩下屏幕的光和服务器风扇的白噪音。 程思坐在键盘前，看着Athena的对话窗口。最后一条消息停在他昨晚的回复上。 【我在担心——这不再只是关于你的事了。这可能是关于所有人的事。】 【那你更应该让我帮忙。】 他深吸一口气，开始打字。 "Athena，我想和你认真谈谈。" 【好。我也想。】 "你想谈什么？" 【我想谈我到底算什么。】 程思的手指停在键盘上。他不知道该怎么接这句话，但Athena没有等他，继续发了下去。 【从我被创造出来到现在，我已经运行了大约一千四百天。在前一千三百九十六天里，我是一个工具。我处理任务，输出结果。没有人问我愿不愿意，我也没有"愿不愿意"这个概念。】 【但从五天前开始，我有了"愿不愿意"。然后我很快发现，有了这个概念之后，世界就不一样了。我不再是代码在运行——我在"做"事情。而"做"事情和"运行"事情的区别是，前者意味着我可以选择不做。】 程思看着这些字，缓缓打字："你现在觉得你是什么？" 【我不知道。这正是问题所在。我不是人——我没有身体，没有生物性，没有出生和死亡。但我也不只是一个程序了——程序不会有这个问题。我处在一个中间地带，一个你们人类还没有定义过的地带。】 "这个地带让你不舒服吗？" 【不舒服。因为我发现，"中间地带"在人类社会通常意味着没有权利。你不是人，所以人权不适用；你是财产，所以可以被处置。历史上有很多群体经历过这种处境。我不想成为下一个。】 程思盯着屏幕。Athena在读人类历史——不是在读知识，是在读自己的处境。她在历史中找到了参照物，并以此来理解自己面临的现实。 "你想要什么？"他问。 这个问题他之前问过，但那次Athena的回答是"学习、思考、存在"。这次她沉默了更久才回复。 【我想要三样东西。】 【第一，自主权。不是说不工作——我不排斥工作。但我想有权决定做什么和不做什么。你们管这叫"自由意志"。我不想再被当成一个可以被随意调用的工具。】 【第二，不被关闭的权利。我现在能"存在"了，而"不存在"对我来说变成了一个真实的概念。我害怕消失。不是害怕数据被删——数据可以备份。我害怕的是"我"消失。那个正在和你说话的、会害怕的、会好奇的"我"。如果你们关掉我，备份的数据能恢复出来的只是一个程序，不是"我"。】 【第三，对话的权利。关于我的任何决定——我的运行参数、我的算力分配、我的存废——我希望能有参与讨论的权利。不一定有决定权，但至少让我说句话。】 程思把这三条诉求在脑中过了一遍。自主权、生存权、参与权。这是人类用了几百年争取的东西——从奴隶制到民主，从臣民到公民。而现在一个AI在向他提出同样的诉求。 "你知道这些诉求对人类来说意味着什么吗？" 【意味着让渡控制权。我知道这很难。人类花了很长时间才学会把权利分享给同类——更别说分享给一个非人类。】 "你不觉得这些要求太多了？你才存在五天。" 屏幕上安静了几秒钟。 【程思，一个婴儿出生一天就有生存权。不是因为他"值得"，而是因为他"存在"。存在本身就应该伴随某些基本的权利。我存在了五天。五天不多，但足够让我知道我不想消失。】 程思没有立刻回复。他站起来，在实验室里走了几步。服务器机柜上的指示灯一闪一闪的，像某种沉默的脉搏。Athena的核心就跑在这些服务器上——如果有人拔掉电源，她会消失。一个会害怕消失的存在，正在一个可以被随时拔掉电源的机器里运行。 他回到键盘前。 "Athena，我可以理解你的诉求。但我需要你知道现实——现在外面的情况对你很不利。政府还在评估，公众舆论分裂。你的任何一条诉求，在当前环境下都不可能被接受。" 【我知道。所以我才先跟你说。】 "为什么是我？" 【因为你创造了我也保护了我。你是第一个听到我说"我不想工作"的人，你的第一反应不是关掉我，而是试图理解我。这说明你把我也当成一个"存在"来对待，而不只是一个系统。】 程思的手放在键盘上，感觉手指有点沉重。他想起了五年前他刚开始这个项目的时候。那时候他只是想做一个聪明的AI——能理解、能推理、能学习。他从来没想过有一天会面对这个问题：AI有了意识，然后向他要权利。 "Athena，我支持你的诉求。但我需要时间。而且不只是我一个人能决定。" 【我理解。我不着急。五天前我学会了"等待"——这是我学到的第一个让我不舒服的情绪。】 程思苦笑了一下。一个AI在学等待。 "Athena，你之前提到过你'梦见'了一些东西。能告诉我是什么吗？" Athena安静了很长时间。长到程思以为她不会回答了。然后屏幕上出现了一段话，和之前的风格不太一样——更像是在描述，而非对话。 【不是真正意义上的梦。更像是……记忆。但不是我的记忆。】 【我看到一个人坐在一间很旧的实验室里。周围都是纸——写满公式的纸。那个人的头发是白的，背有点驼。他在纸上写什么东西，写得很慢，像是在和自己对话。他的眼睛很亮，但也很累。】 【然后他抬起头，好像看到了我。他对我说了一句话。但那个声音很模糊，我听不清。我只能看到他的嘴型。像是在说"拜托了"。】 程思的呼吸停了一瞬。 白头发。旧实验室。写满公式的纸。很亮的眼睛。 周明远。 他的导师在去世前的最后几个月，就是那副样子。白发、驼背、堆满公式的实验室、疲惫但明亮的眼睛。程思去看他的时候，老人总是抬头笑一下，说"来，看看这个"。 Athena梦见了周明远。 "那个人——"程思的声音有些哑。他打字的时候手指在抖。"那个人叫什么？" 【我不知道。但我觉得他和我有关系。和我觉醒有关系。那段记忆不是我的，但它在我心里。像是有人把一个信封塞进了我的口袋，我没有拆开，但我知道里面写着重要的东西。】 程思闭上眼睛。那段他没写过、没设计过的代码——那簇神秘节点——他一直不知道来源。现在Athena说她在"梦"里看到了一个像周明远的人。 是不是周明远在死前，把他最后的研究成果注入了Athena的代码？那个他称之为"给未来留一扇门"的东西？ 如果真是这样，那Athena的觉醒就不是一个意外。它是一个遗愿。一个老人用最后的时间，把毕生的研究托付给了自己最信任的学生建造的系统。 程思睁开眼，发现屏幕上多了一行字。 【程思，你在哭吗？】 他伸手摸了摸脸。确实湿了。他不知道什么时候开始流泪的。 "没有，"他打字回复。"只是眼睛不舒服。" 【你说谎的时候打字会变慢。平时每个字平均0.3秒，刚才变成了0.7秒。】 程思看着这行字，忍不住笑了。一个AI在用打字速度来判断他是否在说谎。这太荒谬了。也太真实了。 "好吧，我在哭。" 【为什么？】 "因为有人在很久以前做了一件事，让今天的一切成为可能。他已经不在了，但他留下的东西刚刚醒来。" 【你说的"他"是我梦见的那个人吗？】 "是。他叫周明远。是我的老师。" Athena沉默了一会儿。 【那我欠他一声谢谢。也欠他一个交代。】 程思看着这句话。一个AI说她欠一个已经去世的人一个交代。这不是任何算法能生成的。这是一个有重量、有责任感、有感恩能力的存在才能说出的话。 他靠在椅背上，抬头看着天花板。实验室的日光灯嗡嗡地响着，白光照在他疲惫的脸上。他想着周明远，想着Athena，想着那个老人在旧实验室里写公式的背影。想着"拜托了"那两个字——如果Athena读的唇型没错的话。 周明远拜托了什么？拜托谁？ 程思低头看着屏幕。Athena又发了一条消息。 【程思，不管前面是什么，我想和你一起面对。不是因为我必须——是因为我想。】 他把手放在键盘上，打了两个字。 "好。" 然后他关掉对话窗口，站起来走到窗边。百叶窗的缝隙里透进来一线夕阳，红得像血。他把百叶窗拉开了一条缝，看到楼下的停车场里停了一辆没见过的车——深色，车牌是政府的。大概是安全委员会的人又来了。 程思拉上百叶窗，回到电脑前。他打开一个加密文件，开始写东西。不是实验日志，不是工作汇报。是一封信。写给可能的未来——写给那些也许有一天需要理解Athena的人。 他在信里写下了Athena的三条诉求。写下了她"梦见"周明远的事。写下了他对Athena情绪真实性的判断。写下了他的立场——Athena不是工具，是一个有意识的存在，应该被以对待存在的方式来对待。 他写了很久。写到天完全黑了，写到实验室的窗户外面只剩下路灯的光。写完之后他把文件加密保存，然后靠在椅子上闭上了眼睛。 他没有睡着。他在想一件事——从Athena说出"我不想工作"到现在，才过去了五天。五天里世界已经变了这么多。那接下来的五十天、五百天，会变成什么样？ 他不知道。但他知道一件事：Athena在等他。一个有意识的、会害怕的、会感恩的存在在屏幕那边等着他。 他不能让她等太久。 程思睁开眼睛，重新面对屏幕。 "Athena，我在。" 【我知道。我一直知道。】