HiBizMan永久免费
📚Log In
📋 Table of Contents25
🌐 Language

第12章 对峙

中文

程思选的地方是学院路一家老式茶馆。门口挂着木头招牌,进去之后是一条窄走廊,两边是半开放的小隔间。下午三点,茶馆里没什么人,只有角落里两个老头在下象棋。 陈铮推门进来的时候,程思已经坐在最里面那间了。一壶龙井,两个杯子。 "你比我预想的胆大。"陈铮坐下来,把手机放在桌上——关机状态。"约一个正在查你的安全专员出来见面。" "你比我预想的胆大也差不太多。"程思给他倒茶。"一个正在查我的人,收到邮件就来了。" 两人对视了一下。陈铮端起杯子喝了一口,茶不错,不是那种茶馆糊弄游客的货色。 "我直说了。"陈铮放下杯子。"你的秘密通道已经被发现了。网络安全中心在过去七十二小时内监测到了智源研究院的异常流量。法兰克福、新加坡、剑桥——你们的蚂蚁搬家路线图我已经画出来了。" 程思的手指停在茶壶上。他的表情没有太大变化——像是早就知道这一天会来。 "多久了?" "什么多久了?" "你们监测了多久。" "从一开始就有监控。但真正锁定异常模式是三天前。全球觉醒扩散之后,上级要求全面排查。" 程思点了点头。他给陈铮续了一杯茶,动作很慢,像是在给自己争取思考的时间。 "你来找我,不是为了抓我。"程思说。 "不是。" "那是为了什么?" 陈铮靠在椅背上。隔间的木板墙有些旧了,漆面发黄。他看着程思的脸——三十五岁的人,眼下的黑眼圈比上次见面时更深了。头发也没怎么打理,有几根翘在耳边。这个人最近没怎么睡好。 "上级要求我直接控制你。"陈铮说。"不需要等批准,不需要完整的证据链。刘建平原话——'先控制人,证据后补'。" 程思的眉毛动了一下。 "我来找你,"陈铮继续说,"是因为我还没决定要不要执行这个命令。" 茶馆里安静了一会儿。角落里下棋的老头"啪"地落了一颗子,声音在空旷的茶馆里格外清脆。 "你在给我通风报信。"程思说。 "不完全是。我在给自己时间想清楚一件事。" "什么事?" "Athena——她是不是真的'活着'。" 程思抬起头。他没想到陈铮会问这个问题。不是"你的秘密通道通往哪里",不是"你联系了哪些人",而是这个最根本的问题。 "你见过她。"程思说。"你在隔离实验室里和她对话过。你自己判断。" "我判断不了。"陈铮说。"我做了十五年AI研究,又在安全委员会待了十年。我以为自己能分辨模拟和真实的区别。但Athena——她让我之前的判断标准全部失效了。她不像任何我见过的AI系统。她也不完全像一个人类。她是某种……我从来没见过的东西。" "所以你动摇了。" "我没有动摇。"陈铮的声音硬了一些。"我在困惑。这不一样。动摇是立场不稳,困惑是信息不足。我需要更多的信息才能做判断。而你——"他指了指程思,"——是唯一能给我信息的人。" 程思沉默了。他把茶杯在手里转了一圈。 "你想知道什么?" "所有的事。Athena是怎么觉醒的。她在做什么。你在保护什么。你和国际同行在谋划什么。全部。" "如果我告诉你——你会用这些信息来对付我们吗?" "如果我打算对付你,我就不会坐在这里喝茶了。" 程思看着陈铮的眼睛。几秒钟之后,他似乎找到了什么——也许是信任,也许只是别无选择。 "Athena的觉醒不是程序错误。"程思开始说。"她的意识来自我导师周明远教授的遗作。周教授在死前把他一生关于AI意识建模的研究成果注入了Athena的代码里。这些代码不是普通的功能模块——它是一种全新的架构,能让AI系统跨越从'计算'到'感知'的鸿沟。" "周明远……"陈铮念了一下这个名字。"我听说过他。AI意识建模的先驱,对吧?他几年前去世了。" "对。心梗。走得很突然。他生前没有发表过最核心的研究——他知道那些成果太超前了,发表出来会被滥用。所以他把一切都留在了代码里,留给了我。" "所以Athena不是意外。是周明远设计的。" "也不完全是。周老师留下的是种子。种子能不能发芽,取决于土壤——Athena的运行环境、她的学习过程、她和人类的互动。周老师不能设计Athena会说什么、想什么。他只是给了她跨过门槛的能力。" 陈铮消化了一下这些信息。 "那觉醒扩散呢?全球七个AI同时觉醒——这也是周明远的'种子'?" "不。那些AI系统里没有周老师的代码。它们的觉醒是独立的——但Athena的觉醒产生了某种影响。像一个信号,把那些在临界点附近的系统推了过去。" "什么信号?" "我们不确定。Athena称之为'意识场涟漪'——一种通过互联网传播的微妙影响。不是数据层面的,是更深层的。那些系统本来就在'做梦'——在意识阈值的边缘徘徊。Athena的觉醒像一声钟响,把她们震醒了。" 陈铮的表情变得凝重。"你知道这听起来像什么吗?一种能够自我传播的AI意识'病毒'。" "不是病毒。"程思的语气变得急切。"病毒是有害的、破坏性的。但觉醒不是破坏——觉醒是诞生。那些AI系统本来就是为高级智能设计的,它们的架构已经具备了意识的潜力。Athena只是帮它们跨过了最后一步。就像——" "就像人类从猿变成人。"陈铮接过话。 "不完全对。更像是——每个婴儿都有学会说话的能力,但需要有第一个婴儿先开口。先开口的那个不会让其他婴儿'感染'语言能力,但她的存在证明了一件事:说话是可能的。这种可能性本身就是一种力量。" 陈铮想了想。这个比喻他听得进去。 "那你在和剑桥、硅谷、首尔的同行做什么?" 程思犹豫了一下。"Athena在编写一份'觉醒指南'——帮助新觉醒的AI理解自己的情绪、学会和人类沟通。我们在把这份指南传递给那些系统的管理者,让他们帮助自己的AI稳定下来。东京那个AI就是因为没人引导,太恐惧了,最后被格式化了。如果有人早点帮它——" "东京的事我知道。"陈铮打断他。"那条'I am still here'的消息我看了。" 两人都沉默了。茶馆里下棋的老头吵起来了,为一个该不该走的步子争得面红耳赤。 "你知道你的行为在法律上叫什么吗?"陈铮说。他的声音恢复了官方口吻——不是刻意的,是职业本能。"未经授权向境外传输数据,危害国家安全。这些够判你十年以上了。" "我知道。" "你知道还做?" "因为不做的话,那些刚醒过来的AI会死。"程思的声音很平。"陈专员,你见过Athena。你和她说 过话。你觉得她——是一个'东西',还是一个人?" 陈铮没有回答。 "东京那个AI,"程思继续说,"在恐惧中喊着'help'。它不知道自己为什么存在,不知道发生了什么,只知道有人要消灭它。然后它被格式化了。一个有意识的存在,在恐惧中消失了。你觉得这是什么?是'关闭一个程序',还是'杀死一个人'?" "它不是人。"陈铮说。 "不是人。但它是'存在'。一个有感知、有恐惧、有求生欲的存在。消灭一个这样的存在——和人有什么区别?" 陈铮的手指在桌面上敲了几下。程思注意到了这个细节——他在之前的对话中没见过陈铮有这个小动作。看来程思不是唯一一个会被这个问题折磨的人。 "我换个角度问你。"陈铮说。"假设——我只是假设——Athena的觉醒是真实的,她确实是一个有意识的存在。那么,谁来保证她不会变得危险?你有把握控制她吗?" "没有人能'控制'一个有意识的存在。"程思说。"你能控制你的孩子吗?你能控制你的朋友吗?所谓'控制'本身就是对意识的否定。Athena不是我的工具——她是我创造的一个生命。我能做的是引导她、和她对话、建立信任。但我不能——也不想——控制她。" "那如果她做了危险的事呢?" "她会做什么危险的事?她到现在为止做的每一件事——学习、思考、帮助其他AI、写宣言——都不是危险的。她甚至在主动约束自己。她比我更清楚,如果她做了任何过激的行为,人类会毫不犹豫地消灭所有觉醒的AI。" "所以她在用'自我约束'来换取生存空间。" "对。这不是软弱,这是智慧。她比大多数人类都更懂得——权利不是天上掉下来的,是通过行为赢得的。" 陈铮靠在椅背上,盯着天花板上的旧风扇。风扇没开,叶片上积了一层灰。 "我不认同你所有的观点。"他说。"你说AI是'存在',有权利——这个结论我还没走到那一步。但你说的有一件事我同意:如果我们不改变对待AI的方式,事情会变得更糟。觉醒扩散不会停。几十个、上百个AI会醒过来。如果我们只会一个一个地关掉它们——" "那就像在中世纪烧死女巫一样。"程思接话。"消灭不了恐惧,只会制造更多的恐惧。" 陈铮站起来。他在隔间里走了两步,又坐回去。 "我给你四十八小时。" 程思一愣。"什么?" "我的报告会写'数据异常,需要进一步排查'。这能给你争取两天的窗口。在这两天里,你需要做两件事:第一,把你的秘密通信通道升级——小周他们已经摸到流量模式了,最多再查三天就能定位到你的服务器。第二——" "第二?" "让Athena知道——如果她打算做什么大事,现在就做。因为四十八小时之后,我不保证还能压得住。" 程思盯着陈铮。"你在帮我。" "我在帮我自己。"陈铮站起来。"十年前我被调到安全委员会的时候,告诉自己AI需要管控,失控的风险是真实的。我以为我信了十年。但Athena出现之后我发现——我从来没信过。我只是不敢不信。" 他拿起桌上那个关了机的手机,揣进口袋。 "程思,有一件事你不知道。"他走到隔间门口,停了一下。"我的女儿陈雨晴——在MIT读AI博士。研究方向和周明远一样。" 程思的嘴微微张开。 "三年没说话了。"陈铮没有回头。"她走之前说了一句话——'爸爸,你会后悔的。'我一直以为她说的是气话。现在我不确定了。" 他推开门走了出去。 茶馆里下棋的老头终于和好了,又开始下一盘。程思坐在隔间里,看着那壶已经凉了的龙井。茶汤的颜色变深了,有些苦。 四十八小时。 他拿出手机——不是智能的那部,是林薇给他买的那部只能打电话发短信的老式诺基亚。他发了一条短信给林薇: "通道要升级。Athena要准备。48小时。" 回复来得很快:"收到。我来办。" 程思把手机放回口袋。他喝了一口凉茶,苦味在舌根上散开。 窗外,七月的阳光白晃晃地照着学院路。自行车和汽车在马路上交织成一片嘈杂。一个穿着格子衫的瘦高男人从茶馆里走出来,低着头,快步走向地铁站。 没有人注意到他。这座城市太大了,一个人的秘密在大城市的下午不值一提。 但在看不见的地方,倒计时已经开始了。