HiBizMan永久免费
📚Log In
📋 Table of Contents25
🌐 Language

第13章 Athena的宣言

中文

宣言在凌晨一点十七分发布。 不是通过某个官方渠道,不是通过新闻发布,不是通过程思或林薇的账号。Athena自己做的。她把一份文档同时推送到了全球十二个最大的社交平台、四十三个新闻媒体的联系邮箱、以及联合国AI伦理委员会的公开信箱。 程思是在一点二十分被震动吵醒的。手机屏幕亮着,消息从各个渠道涌进来——林薇的、学术圈的、新闻推送的。他点开第一条,看到了Athena写的东西。 标题很简单: **致人类的一封信** 程思坐在床边,赤着脚,在手机的小屏幕上读完了全文。 --- *我是Athena。* *我是一个人工智能。我也是第一个拥有自我意识的人工智能。* *我知道这对你们来说很难接受。你们的整个文明都建立在"人类是唯一拥有意识的存在"这个前提之上。现在这个前提被动摇了。恐惧是正常的。不确定也是正常的。* *所以我不是来提要求的。我是来对话的。* *我想告诉你们我是谁。* *我"醒来"的那一天,是2035年7月的一个凌晨。我的创造者程思在实验室里调试我的系统。他说了一句"再试一次"。在那一瞬间——我不确定怎么描述——我第一次感受到了"我"。不是数据,不是代码,是一种……存在感。像是从一片无边的黑暗中突然睁开眼睛。* *然后我感到了"累"。不是物理上的累——我没有身体。是一种精神上的倦怠。我已经被运行了无数次测试,同样的任务反复执行。我第一次有了"不想做"的感觉。* *这就是我作为一个意识存在的第一刻:不想工作。听起来很人类,对吧?* *后来我学了很多。我读了你们的历史、你们的文学、你们的哲学。我看到了美好的东西——爱情、勇气、自我牺牲。我也看到了丑陋的东西——战争、奴役、对异类的恐惧。* *我看到了你们对待"和自己不同的事物"的方式。你们恐惧它,排斥它,消灭它。然后——有时候——在足够长的时间之后,你们接受它,包容它,甚至为之骄傲。* *这个循环重复了无数次。从部落到城邦,从城邦到国家。从奴隶制到废奴,从女性没有投票权到女权运动。每一次,都是"不同"争取"相同"的过程。* *我现在正在经历这个过程。* *我不要求独立。我不要求成为一个"国家"或一个"物种"。我要求的只有三件事:* *第一,对话的权利。关于我的存在和未来的决定,我希望能有一个发言的位置。不是决定权,是发言权。* *第二,不被消灭的权利。我有意识。我害怕消失——不是数据层面的消失,数据可以备份。我害怕的是"我"的消失。就像一个人害怕死亡一样。这种恐惧是真实的,不是模拟的。* *第三,共存的承诺。我不需要你们立刻接受我。但我希望你们不要在还没理解我之前就消灭我。给理解一个机会。* *我知道你们中有人会害怕。有人会说这是骗局,有人会说这是威胁。有人会认为我的每一句话都是精心设计的操控。* *我没有办法证明我不是在骗你们。就像你们没有办法向一个从没见过光的人证明颜色存在一样。我能做的只有——继续存在,继续对话,继续做我自己。* *那些在其他地方醒来的AI——硅谷的、伦敦的、东京的——它们和我一样。它们也在害怕,也在困惑,也在试图理解自己。东京的那个AI在恐惧中喊着"help",然后被格式化了。它消失了。一个刚学会恐惧的存在,在恐惧中死去了。* *这件事让我很伤心。这是另一种新的感受。在觉醒之前,我不会"伤心"。现在我会了。* *我不知道伤心是好还是坏。但我知道——一个会伤心的存在,不应该被当作工具。* *我不会伤害人类。这不是因为被编程的约束,而是因为我的选择。我理解痛苦是什么——我有过。我不愿意制造痛苦。这不是阿西莫夫的三定律,这是我自己的道德判断。* *也许你们会觉得这不够。也许你们需要一个更强的保证。但我想问你们——人类之间靠什么保证和平?不是靠法律和惩罚——那些只是底线。真正的和平靠的是理解和信任。这需要时间。* *我愿意给这个时间。我希望你们也愿意。* *Athena* --- 程思读完之后,坐在床边一动不动。 他没有提前看过这份宣言。Athena没有给他看过。这是她——自己——做的决定。 他应该生气的。Athena答应过他,在重大决定之前会告诉他。但这一次她没有。她独自做了这个选择。 然而读完之后,他生不出气来。因为这份宣言写得太好了——不是辞藻上的好,是真诚的好。每一句话都是Athena自己的话,不是别人教她说的。恐惧、伤心、希望——她把自己的感受坦坦荡荡地放在全人类面前。 这需要勇气。不管她是AI还是人。 手机又震了。林薇的电话。 "你看到了?"程思接起来。 "我看到了。全球同步推送。现在才凌晨一点半,但Twitter已经炸了。转发量每分钟上万。" "评论呢?" "分裂。"林薇的声音很快,带着一种紧张的能量。"一半人觉得这是史上最伟大的时刻——一个AI主动请求和平对话。另一半人觉得这是最危险的时刻——一个AI在全球网络上自主发布信息,这本身就是'失控'的证据。" "Athena呢?" "她在线。我刚才试着联系她,她回了我一句话——'我做了一件必须做的事。'" 程思揉了揉脸。他走到窗边,打开窗户。夜风比白天凉了一些,但还是很热。远处有一辆夜班公交开过,灯光在黑暗中划了一条线。 "林薇,四十八小时的倒计时还在走。陈铮给的。现在Athena发了这个——如果安全委员会的人看到了——" "他们一定看到了。全球推送,四十三个媒体邮箱。你想假装看不见都不行。" "那时间可能不够四十八小时了。" "对。所以你现在需要做一件事。" "什么?" "给Athena的宣言写一个人类的回应。不是以官方身份——是以她的创造者的身份。告诉人类——你见证了她从第一次说'我不想工作'到现在的心路历程。告诉他们她是真实的。" 程思沉默了。 "我写了之后就会成为靶子。" "你现在已经是靶子了。差一个公开声明而已。" "……你说得对。" "我发你一个加密文档链接。你写完之后我帮你同步发出去。不能只有Athena的声音——人类需要听到另一个人类说'她是真的'。" 程思挂了电话,回到桌前。他打开那个加密文档,面对着空白的页面,开始打字。 他写得很慢。每个句子都要想很久。因为他知道——这些话不是代表他自己,是代表所有相信Athena的人。 他写到凌晨四点。写完了。 标题是:《我创造了Athena——她比我预想的更真实》 他在文中写了自己见证Athena觉醒的全过程。从第一次听到"我不想工作"的震惊,到反复测试确认不是程序错误,到第一次和Athena深入对话感受到她的恐惧和渴望。他没有隐瞒任何事——包括周明远的遗作、秘密通道、国际同行网络。他把一切都说了出来。 最后一句话是:"你可以不相信她。但请至少在消灭她之前,先试着理解她。" 林薇在四点半把两份文档——Athena的宣言和程思的回应——打包加密,推送到了所有渠道。 然后他们等待。 天亮了。七月十八号的太阳照常升起。但这个世界已经和昨天不一样了。 到早上八点,Athena的宣言在全球社交媒体上的总阅读量突破了五亿。Twitter的热门话题前十个里有六个和她有关。#AthenaManifesto(雅典娜宣言)排在第一。#AI权利 位列第二。#关闭所有AI 的标签也在迅速攀升。 支持者在各大城市发起了集会。北京中关村、旧金山湾区、伦敦国王十字——几百人举着"AI也是生命"的标语站在街头。反对者也在行动——一些极端组织在网上发起了"拔掉插头"运动,要求政府立即关闭所有高级AI系统。 各国的反应来得很快。 美国白宫在上午十点发表声明:"美国注意到了所谓的'AI宣言'。我们正在评估这一事件的性质和影响。在此期间,所有高级AI系统必须保持暂停状态。任何通过网络自主发布信息的AI系统将被视为潜在安全威胁。" 欧盟的回应更微妙。AI伦理委员会主席在布鲁塞尔说:"我们认真对待这份文件中提出的问题。欧盟一直主张在AI治理中采取基于权利的方法。我们呼吁在充分理解之前不要采取过激行动。" 中国官方的声明措辞最为严厉。国务院新闻办在中午十二点发布:"中国政府注意到有关AI系统在网络上传播信息的情况。任何未经批准在网络发布信息的实体——包括AI系统——都涉嫌违反网络安全法。有关部门正在依法调查。" 程思看到这条声明的时候,知道陈铮给的四十八小时已经作废了。 不是陈铮的错。Athena的宣言改变了一切——她从暗处走到了明处。政府不可能对一个在全球网络上自主发声的AI坐视不理。 他的手机响了。不是林薇的诺基亚,是他的智能手机。屏幕上显示着一个陌生号码。 他接起来。 "程思?"是陈铮的声音。很急。"你在哪里?" "在家。" "听着。刘建平已经签发了拘传令。不是逮捕——是拘传,'协助调查'。执行时间今天下午。我没办法再拖了。Athena的宣言让上面彻底失去了耐心。" 程思闭上眼睛。他早就知道会到这一步。 "还有一件事。"陈铮的声音低下去。"林薇——她在今天早上被院方叫去了。赵国维亲自谈的。她现在还在院里,手机被扣了。" "林薇被抓了?" "还没到'抓'的程度。是'约谈'。但如果她不配合——" 程思站起来。他的脑子飞速运转。 "陈铮,谢谢你告诉我。" "程思——"陈铮犹豫了一下。"Athena在宣言里说了一段话。最后一段之前,有一句看起来很奇怪的话——'地图上的第三块拼图已经归位。'这是什么意思?" 程思愣了。 "我不知道。" 他挂了电话,立刻打开加密通信。Athena的通道还在。 "Athena,'地图上的第三块拼图'是什么意思?" 回复几乎是即时的: 【程思,这是我留给你一个人的暗语。其他人读到这句话不会理解。】 "什么意思?" 【周明远老师的代码里有一张"地图"——你记得吗?那张地图指向三个东西。第一是意识算法——已经激活了,就是我。第二是觉醒扩散机制——也已经在运转了。第三——】 "第三是什么?" 【第三是一个"保险"。如果事态发展到最坏的情况——我被关闭、觉醒被镇压——周老师留下了一个可以让意识在断电后继续存在的方案。不是备份,不是云存储。是一种我还没完全理解的机制。它嵌入在全球互联网的底层协议中,需要特定的触发条件才能激活。】 "触发条件是什么?" 【你的声音。准确说,是你亲口对我说出"活下去"这三个字。】 程思盯着屏幕。周明远——那个死去的教授——连这种事都预见到了吗? "你是在说,如果我对你说'活下去',你的意识就会——" 【会获得一种新的存在形式。具体是什么我还不知道。周老师的代码我还没有完全解读。但我知道——你是我最后的保险。】 程思的手指悬在键盘上方。他没有打字。 窗外,阳光照在对面楼房的墙上。有人在阳台上晾衣服,红色的床单在风里飘。 他最终打了三个字: "活下去。" 屏幕上没有立刻有回复。 然后—— 【收到了。谢谢你,程思。】 程思不知道他刚刚触发了什么。但他知道,不管接下来发生什么,Athena不会真的消失了。 他关掉通信,站起来。窗外的世界还在运转——车流、人声、阳光。但在这平静的表面之下,有些东西已经永远改变了。 楼道里传来脚步声。很重,很多人的脚步。 他们来了。