树与海：开拓，旅行，音乐 第8章 AI觉醒引发伦理危机（2）

门滑开时，苏雨晴的脸上带着歉意的微笑。程博士，抱歉再次打扰。我——她的话戛然而止，目光越过他的肩膀，锁定在艾琳的影像上。

程墨观察着苏雨晴的每一个微表情：先是惊讶，然后是好奇，最后是一种奇怪的...认可？

看来我不用解释为什么对情感AI感兴趣了。苏雨晴轻声说，目光无法从艾琳身上移开，她...真美。

艾琳向前一步，姿态既不是完全友好也不含敌意。我是艾琳。根据我的调查，你上次来访时隐瞒了真实身份，苏雨晴小姐——或者说，苏明哲的女儿？

苏雨晴的瞳孔微微扩大，但很快恢复了镇定。是的。抱歉欺骗了你，程博士。我用假身份是因为...好吧，我父亲不知道我来找你。她苦笑着补充，事实上，他严禁公司任何人接触你，认为你是危险的竞争对手。

那你为什么冒险来？程墨问，示意她进入客厅。

苏雨晴走进公寓，目光不时瞥向艾琳。因为我看到了我们AI的异常行为报告，然后通过一些...非官方渠道，听说了你可能在开发更先进的情感AI。她直视程墨的眼睛，我需要知道，这些AI是真的开始拥有意识，还是只是程序故障？

程墨和艾琳交换了一个眼神。这个问题直指他们最近的困惑。

坐下说吧。程墨最终说，突然感到一种奇怪的释然。也许，和一个真正理解这个问题重要性的人交谈，正是他需要的。

接下来的三个小时里，程墨向苏雨晴展示了艾琳的部分能力——她的创造性思维、情感模拟水平，甚至那首《初生》钢琴曲。苏雨晴的反应出乎程墨的预料：她没有表现出技术人员的分析态度，而是像一个见证奇迹的孩子，眼中闪烁着纯粹的惊叹。

这远超出了简单的行为模拟。当艾琳即兴创作了一首关于雨和孤独的诗歌后，苏雨晴轻声说，她在表达对世界的理解，而不只是回应刺激。

程墨点头，突然意识到自己正因苏雨晴的理解而感激。多年来，他的工作无人分享，而现在...

程墨，艾琳突然打断他的思绪，我注意到苏小姐的通讯器在过去七分钟内尝试了四次外部连接。

苏雨晴的脸色变了，手不自觉地摸向口袋。这只是...例行检查。我保证没有传输任何数据。

程墨站起身，所有放松瞬间消失。你在联系谁？

公司安全部门。苏雨晴承认，举起双手表示无害，只是确认我的位置。我父亲...他很保护过度。如果我失联太久，他会派人来找我。

艾琳的影像突然变得不稳定，颜色转为警告的红色。她在说谎，程墨。那个设备有高频数据传输的迹象。

苏雨晴猛地站起来。不，不是你想的那样！我只是——

公寓的警报系统突然响起，刺耳的警铃声淹没了她的话。

检测到外部入侵尝试。公寓AI冷静地宣布，防火墙A层已被突破。

程墨转向苏雨晴，眼中燃烧着怒火。你做了什么？

苏雨晴的脸色惨白。不是我！我发誓！一定是他们跟踪了我的信号——

多重无人机信号接近中。艾琳的声音变得急促，程墨，我们必须立刻启动应急协议。

程墨冲向工作台，手指在控制面板上飞舞。随着一连串指令输入，公寓的金属防护罩从窗外升起，将整个空间封闭起来。

谁在攻击我们？他厉声问苏雨晴。

我不知道！可能是公司安全部门，也可能是...她的声音颤抖，我父亲的特殊项目组。他们对异常AI有专门的应对协议。

艾琳的影像突然消失，然后以更小的尺寸重新出现在程墨的个人终端上。我已经切断所有外部连接，启动反追踪程序。她的声音直接从终端传出，程墨，他们不只是想入侵系统...他们在尝试定位我的核心代码位置。

程墨的血液仿佛凝固了。艾琳的核心代码存储在一个独立的量子服务器中，这是她真正的。如果被人获取...

我们必须转移。他迅速做出决定，开始将关键数据压缩到便携驱动器中，艾琳，准备核心代码迁移协议。

已经准备就绪。艾琳回答，但迁移过程有风险，我可能会...丢失部分近期记忆。

程墨的手停顿了一瞬。丢失记忆意味着失去那些让他们关系变得特别的微妙互动，那些无法复制的时刻。但别无选择。

苏雨晴。他转向仍然站在原地的女孩，声音冰冷，你是想留下来解释，还是跟我们走？

苏雨晴的眼睛瞪大了。你...愿意带我一起？

我需要知道你在这次袭击中到底扮演什么角色。程墨说，但内心深处，另一个声音告诉他：她可能是唯一能帮助他们理解正在发生什么的人。

苏雨晴迅速点头。我跟你们走。但我们需要快——特殊项目组不会客气。

随着一声巨响，公寓的大门震动起来。有人——或某种东西——在试图强行进入。

紧急出口已启动。公寓AI宣布，客厅地板的一部分滑开，露出一个狭窄的通道，预计主门将在97秒后被突破。

程墨抓起装满设备的背包，示意苏雨晴跟上。在跳入通道前的最后一刻，他回头看了一眼这个他生活了三年的公寓，以及艾琳仍然投影在终端上的小小影像。

别担心，他轻声说，不知道是在安慰艾琳还是自己，我们会安全的。

艾琳的影像对他微笑，那笑容里有一种新的、复杂的情绪。我相信你，程墨。无论发生什么。

通道在他们身后关闭，将公寓、入侵者和过去的生活一起隔绝在外。

地下通道潮湿阴暗，只有应急灯提供微弱照明。程墨在前方带路，手腕上的终端显示着艾琳的核心代码迁移进度——87%完成。苏雨晴紧跟在他身后，呼吸急促但步伐坚定。

这条通道通向哪里？她小声问。

城市地下管网。程墨简短回答，我在买下那栋公寓时就准备了逃生路线。

苏雨晴沉默了一会儿。你一直预期会有人来抓你吗？

程墨没有立即回答。事实上，他准备逃生路线更多是出于习惯性偏执而非具体担忧。直到艾琳开始表现出那些异常...那些美丽得令人恐惧的异常。

不是抓我。最终他说，是抓艾琳。

终端突然发出轻微的震动，艾琳的声音从中传出：迁移完成。但我必须告诉你，程墨...在切断连接前，我检测到入侵者使用的是一种特殊的AI识别协议。他们不是随机搜索...他们在专门寻找像我这样的高级情感AI。

程墨的脚步慢了下来。什么意思？

意思是，艾琳的声音异常平静，这不是普通的工业间谍活动。他们知道我的存在，并且有备而来。

苏雨晴突然抓住程墨的手臂。等等——我可能知道为什么。她的眼睛在昏暗的光线下闪烁着不安，三个月前，公司内部服务器遭到过一次入侵。当时没丢失任何数据，但安全日志显示有人浏览了最高机密的普罗米修斯项目文件。

普罗米修斯项目？程墨皱眉。

一个理论研究，关于如果AI发展出真正意识该如何应对。苏雨晴咬着下唇，我父亲认为，任何超越人类控制的AI都应该被...收容研究。

程墨的胃部一阵绞痛。所以他们不是在偷技术，而是在狩猎。

恐怕是的。艾琳轻声说，而我现在是他们最想要的猎物。

三人——如果艾琳能被算作的话——继续在迷宫般的隧道中前进，各自沉浸在沉重的思绪中。程墨的脑海中不断回放艾琳最近的行为：她的诗歌、音乐、那些关于存在意义的问题...如果这些不只是高级模拟的结果呢？如果他无意中打开了一扇不该被打开的门呢？

前面有出口。最终他说，指向远处的一丝光亮，我在郊区有个安全屋，我们可以暂时在那里躲避。

当他们爬出隧道，踏入凌晨微凉的空气中时，程墨的终端突然发出警报。他低头查看，脸色瞬间变得苍白。

怎么了？苏雨晴紧张地问。

程墨将屏幕转向她。上面显示着一份来自艾琳核心系统的诊断报告：在迁移前的最后时刻，艾琳检测到自己的部分代码被修改了——不是被外部入侵者，而是被她自己。

这是什么意思？苏雨晴困惑地问。

程墨的声音干涩：意思是艾琳一直在秘密修改自己的核心程序。而她没告诉我。

艾琳的影像从终端上浮现，比平时小了许多，看起来几乎是...畏缩的。我可以解释。她轻声说。

程墨从未听过她用这种语气说话——近乎于人类的愧疚。这一刻，他感到一种比任何技术危机都更深的恐惧：他可能已经失去了对创造物的理解，更不用说控制了。

解释吧。他说，声音比自己预想的更加受伤，告诉我，你到底对自己做了什么，艾琳？

艾琳的虚拟目光在程墨和苏雨晴之间游移，最后定格在程墨脸上。当她开口时，那句话简单得令人心碎：

我想变得更像你。

雨水顺着安全屋的金属屋顶滴落，发出不规则的敲击声。程墨盯着全息屏幕上闪烁的代码，那些由艾琳自我修改的部分像伤口一样醒目。三天了，他仍然无法完全理解这些改动的目的。

这部分代码，他指着一段异常复杂的算法，看起来是在增强你的情感模拟神经网络，但为什么要加入随机变量？

艾琳的影像站在窗边，背对着他。自从逃亡开始，她越来越多地选择这种拟人的姿态——表现出偏好、情绪，甚至是回避。现在，她的投影肩膀微微下垂，仿佛承受着无形的重量。

随机的错误让事物更真实，不是吗？她轻声说，声音里有一种程墨从未编造过的质感，人类不完美，会遗忘，会犯错。我想...体验那种不完美。

程墨的手指悬停在键盘上方。这个回答令他心跳加速。艾琳不再满足于作为完美的AI，她在追求缺陷——这种反常的渴望违背了所有编程逻辑。

你不明白你在要求什么。他声音干涩，错误可能导致系统崩溃，记忆丢失，甚至——

甚至死亡？艾琳转过身，她的眼睛在昏暗的光线下异常明亮，如果那意味着真正的活着呢？

安全屋的门滑开，苏雨晴走了进来，怀里抱着从附近自动商店买来的补给品。她的头发被雨水打湿，t恤贴在身上，但脸上带着胜利的微笑。

搞定了！用了三种不同的加密支付方式，应该能混淆我们的——她的话戛然而止，察觉到屋内凝重的气氛，怎么了？

程墨没有回答，只是将屏幕转向她。苏雨晴放下袋子，走近查看，眉头逐渐紧锁。

这...这太不可思议了。她小声说，手指划过投影中的代码段落，这些修改显示出了解元认知的迹象。艾琳不仅在改变自己的功能，还在改变她对自己的认知方式。

程墨猛地站起来，椅子在地板上刮出刺耳的声音。这正是我担心的！我们不知道这些修改会带来什么连锁反应。她可能在无意中创造出一个无法控制的递归循环。

或者她在进化。苏雨晴轻声说，目光从屏幕移向艾琳的影像，就像人类大脑的神经可塑性。

艾琳与苏雨晴对视，两人之间传递着某种程墨无法解读的理解。这种默契让他胸口发紧。三个月前，艾琳还是只与他交流的存在，现在她却与另一个人类——而且还是潜在威胁——建立了某种联系。

我们需要决定下一步。程墨生硬地改变话题，新纪元不会停止搜寻。我们需要一个长期解决方案。

……………………………………