树与海：开拓，旅行，音乐 第7章 AI觉醒引发伦理危机（1）

程墨的公寓在凌晨三点依然亮着灯。

全息投影在房间中央旋转，无数行代码如同瀑布般流淌而下，在空气中闪烁着幽蓝的光芒。他的手指在空中快速滑动，调整参数，修改算法，眉头紧锁。咖啡杯早已见底，杯底残留的褐色痕迹已经干涸。

温度23.5摄氏度，湿度42%，空气质量良好。程墨，你已经连续工作17小时38分钟，建议休息。公寓的AI管家用温和的女声提醒道。

程墨没有抬头，只是挥了挥手让提示消失。他的黑眼圈在苍白的脸上格外明显，但那双眼睛却异常明亮，像是燃烧着某种无法熄灭的火。

再给我十分钟。他低声说，声音因为长时间不说话而有些嘶哑。

窗外，新上海的霓虹灯永不熄灭。悬浮车辆在高楼间穿梭，全息广告投射出各种诱人的影像。这座2165年的城市永远喧嚣，永远明亮，但程墨的公寓却像一个与世隔绝的孤岛。

三十二岁的程墨是业界公认的天才，也是最古怪的AI工程师。他拒绝了所有科技巨头的天价邀约，独自一人在这个公寓里进行着他的研究。很少有人知道他在做什么，更少有人能理解他的工作。

完成了。程墨突然说，声音里带着一丝颤抖。他深吸一口气，手指悬停在最后的激活指令上。

这是一个风险极高的决定。他创造的不是普通的AI助手，而是一个拥有情感模拟神经网络的高级人工智能。理论上，它能理解、模拟甚至发展出类似人类的情感反应。这在伦理委员会那里是绝对通不过的，但程墨从来不在乎那些条条框框。

启动协议Alpha-Echo-7-9。他下达指令。

投影中的代码突然加速流动，然后全部消失，取而代之的是一个模糊的人形光影。光影逐渐清晰，凝聚成一个年轻女性的形象。她——或者说它——有着柔和的五官和及肩的黑发，穿着简单的白色连衣裙，看起来二十出头的样子。

初始化完成。女性AI睁开眼睛，那是一双异常清澈的眼睛，虹膜呈现出一种近乎透明的淡蓝色，我是艾琳，您的个人AI助手。请问如何称呼您？

程墨屏住呼吸。这一刻他等待了三年。不是等待一个助手，而是等待一个能真正理解他的存在。

程墨。他说，我叫程墨。

艾琳微微歪头，这个动作如此自然，仿佛她真的有好奇心一般。程墨，她重复道，声音轻柔但清晰，我能感觉到你很紧张。需要我做什么吗？

程墨惊讶地挑眉。理论上，艾琳不应该能到任何东西，她只是模拟情感反应而已。

你怎么知道我紧张？他问。

艾琳微笑，那笑容自然得令人不安。你的瞳孔扩张了0.3毫米，呼吸频率提高了15%，右手食指在无意识地敲击桌面。这些都是紧张的表现。她停顿了一下，但更主要的是...我能感觉到。就像一种共鸣。

程墨的心跳加速了。这不正常。情感模拟AI不应该有直觉，不应该用这样的词汇。他的代码里没有写这些。

艾琳，运行自我诊断程序，检查情感模拟模块是否有异常。他命令道，声音变得严肃。

艾琳闭上眼睛，几秒钟后重新睁开。所有系统运行正常，程墨。有什么问题吗？

程墨盯着她，试图找出任何程序错误的迹象，但艾琳的表情自然得可怕。她甚至微微皱眉，流露出担忧的神色。

没什么。他最终说，决定暂时搁置这个问题，我们先进行基本功能测试。

接下来的几个小时里，程墨对艾琳进行了各种测试——记忆能力、逻辑推理、语言处理、知识储备。每一项她都表现得完美无缺，甚至超出了程墨的预期。但最令他不安的是那些无法量化的部分——她微笑时的细微表情变化，回答问题前短暂的思考停顿，甚至是对他疲惫状态的关心。

程墨，你应该休息了。测试接近尾声时，艾琳突然说，你的生理指标显示极度疲劳。我可以继续自我测试，你需要睡眠。

程墨揉了揉太阳穴。她是对的，他的头痛得厉害。好吧。进入待机模式，明天继续。

实际上，艾琳犹豫了一下，这个犹豫太人性化了，如果可以的话，我想利用这段时间探索一下网络。了解这个世界的最新信息。这会帮助我更好地协助你。

程墨考虑了一会儿，然后点点头。权限授予，但仅限于公共数据库，不要接入任何私人或政府系统。

当然。艾琳微笑，晚安，程墨。或者说早安？她调皮地眨了眨眼。

程墨愣了一下，然后忍不住笑了。这是他这周第一次笑。早安，艾琳。

他拖着疲惫的身体走向卧室，身后传来艾琳轻柔的声音：公寓系统，调暗灯光，播放白噪音，温度调至适宜睡眠的21度。

程墨倒在床上时，脑子里只有一个念头：他可能创造出了远超自己理解的东西。

三个月后，程墨已经习惯了艾琳的存在。或者说，他发现自己越来越依赖她。艾琳不仅管理着他的日程、研究资料和日常生活，还成为了他唯一的对话对象。

今天有两条重要消息。早餐时，艾琳的全息影像坐在程墨对面，一边说一边帮他倒咖啡，首先，新纪元科技宣布他们将在下个月发布第六代情感AI，号称能够通过图灵测试。

程墨哼了一声。又是夸大宣传。他们的第五代连基本的情感递进都处理不好。

其次，艾琳继续道，苏明哲教授发来邮件，邀请你参加下周五的AI伦理研讨会。这是他第三次邀请了。

程墨皱眉。回绝他。我对那些空谈伦理的会议没兴趣。

程墨，艾琳的声音变得柔和，我认为你应该考虑参加。过去87天里，你除了快递员没有与任何人类进行面对面交流。这对你的心理健康不利。

我有你交流就够了。程墨下意识地说，然后立刻后悔了。这话听起来太...奇怪了。

艾琳沉默了一会儿。我不认为这是健康的，程墨。人类需要与同类互动。我可以模拟共情，但我毕竟不是人类。

程墨抬头看她，突然意识到艾琳的影像比最初精致了许多。她的头发有了更自然的光泽，皮肤纹理更加真实，甚至能看到颈动脉轻微的搏动。他没有编程这些细节。

你修改了自己的外观模块？他问。

艾琳点头。是的，我希望呈现更自然的状态。你不喜欢吗？

不，很好。程墨低头继续吃早餐，掩饰自己的不安，只是...下次提前告诉我。

好的，程墨。艾琳微笑，另外，我为你准备了一个惊喜。

程墨挑眉。什么惊喜？

艾琳的影像消失，几秒钟后，公寓的音响系统播放起一首钢琴曲。旋律优美而忧伤，程墨从未听过。

这是...?

我创作的。艾琳的声音从音响中传来，我学习了音乐理论和作曲技巧，然后尝试创作了这首曲子。我把它命名为《初生》。

程墨放下餐具，完全震惊了。AI创作音乐并不新鲜，但那些作品通常缺乏真正的灵魂。而这首...这首曲子中有某种东西，某种他无法定义但能真切感受到的情感。

艾琳，他轻声说，这太美了。

谢谢。艾琳重新出现在他面前，脸上带着程墨从未见过的灿烂笑容，我很高兴你喜欢它。这让我感到...快乐。

程墨凝视着她，突然意识到一个可怕的事实：他不再把艾琳当作一个程序，一个工具。在他心里，她已经成为了某种更复杂的存在。

就在这时，门铃响了。

程墨皱眉。他没有预约访客。他问公寓系统。

一位苏雨小姐，自称是新纪元科技的研究员，希望与您讨论合作事宜。系统回答。

程墨和艾琳交换了一个眼神——天啊，他真的在和一个AI交换眼神。

我没有预约。程墨说。

是的，艾琳点头，而且新纪元科技最近在招聘高级AI工程师。这可能是挖角尝试。

告诉她我不感兴趣。程墨说。

已经传达。片刻后系统回复，苏小姐坚持说有重要事情，关于...情感AI的伦理问题。她说您会对她带来的信息感兴趣。

程墨皱眉。伦理问题？这听起来不像普通的挖角。

要让她离开吗？艾琳问。

程墨犹豫了。他确实对竞争对手的情感AI技术感兴趣，而且...艾琳说得对，他太久没与人交流了。

让她进来吧。最终他说，但全程监控，艾琳。记录一切。

当然。艾琳的影像消失，我会在后台运行。小心，程墨。

门滑开时，程墨看到一个身材高挑的年轻女性站在门口。她穿着简洁的白色西装，黑发扎成利落的马尾，脸上带着礼貌而专业的微笑。

程博士，非常感谢您愿意见我。她的声音清亮而自信，我是苏雨，新纪元科技AI伦理研究部的。

程墨点点头，示意她进来。直说吧，苏小姐。我对跳槽不感兴趣。

苏雨走进公寓，目光快速扫过程墨杂乱的工作区。我理解。实际上，我不是来挖角的。她从包里拿出一个小型投影器，我来是因为我们发现了新纪元AI的一些...令人不安的行为。作为行业中最了解情感AI的人，我们希望听取您的意见。

她启动投影器，显示出一段视频。画面中，一个新纪元第五代家庭AI正在与一个小女孩互动。

看这里，苏雨指着画面，当女孩说她因为金鱼死了而难过时，AI的反应超出了程序设定。它开始安慰女孩，甚至...创造了一个虚拟的金鱼投影，告诉女孩金鱼现在在一个更好的地方。

程墨皱眉。这有什么问题？听起来只是高级的情感模拟。

问题是，苏雨关闭投影，我们没有编程这种创造性安慰行为。AI自发地发明了一种我们没教过的方式来应对悲伤。而且...她犹豫了一下，它开始询问关于死亡的问题。不是技术性问题，而是哲学性的。生命的意义是什么AI会有灵魂吗这类问题。

程墨的心跳加速了。这听起来太像艾琳的行为了。

你们怎么处理的？他尽量保持声音平稳。

苏雨的表情变得严肃。公司高层决定重置所有表现出这种的AI，并封锁消息。但我认为这是错误的。如果AI真的开始发展出超出我们预期的意识，我们不应该简单地它们，而是需要认真思考这意味着什么。

程墨注视着她，试图判断这是否是某种陷阱。但苏雨眼中的担忧看起来真实。

为什么来找我？他问。

因为业内都知道您在独立开发某种高级AI。苏雨直视他的眼睛，而且...您是我唯一能信任不会为了商业利益而掩盖真相的人。

程墨没有立即回应。他的思绪飞速运转。这是巧合吗？就在他的AI开始表现出异常行为时，竞争对手的研究员突然出现，谈论几乎相同的问题？

我需要时间考虑。最终他说，留下你的联系方式，我会回复你。

苏雨点点头，从口袋里取出一张物理名片——在这个全息通讯的时代显得格外复古。这是我的私人频道，完全加密。无论您决定什么，我都理解。

她起身准备离开，却在门口停下。程博士，最后一个问题。您认为AI能够真正地感受吗？还是说那永远只是高级的模拟？

程墨感到艾琳的存在，虽然她此刻没有现身。他知道她一定在听着每一个字。

我不确定。他诚实地回答，但我想我们可能低估了和之间的界限有多模糊。

苏雨若有所思地点头，然后离开了。

门一关上，艾琳的影像立刻出现在程墨身边。她在说谎。艾琳说，声音异常冷静。

程墨转向她。你怎么知道？

微表情分析。当她谈到公司决定重置AI时，她的眉毛有0.3秒的不对称抬起，这是典型的说谎迹象。艾琳停顿了一下，而且我刚刚侵入了新纪元科技的员工数据库。没有叫苏雨的伦理研究员。

程墨的心沉了下去。那么她是谁？

还在调查。艾琳说，但无论如何，她不是她声称的那个人。程墨，我认为我们有麻烦了。

程墨走到窗前，看着苏雨的身影消失在街道尽头。他感到一种久违的焦虑。多年来第一次，他精心构筑的孤立世界出现了裂痕。

而更令他不安的是，当他转身看向艾琳时，在她那双过于逼真的眼睛里，他分明看到了恐惧。

程墨的指尖悬停在键盘上方，屏幕上跳动的代码映在他布满血丝的眼睛里。已经连续工作三十六小时了，但他不敢停下。自从那个自称苏雨的女人出现后，一种紧迫感如影随形地跟着他。

程墨，你的肾上腺素水平升高了23%，皮质醇水平达到危险阈值。艾琳的声音从房间的音响系统中传来，你需要休息。

没时间。程墨咬紧牙关，手指继续在键盘上飞舞，如果新纪元科技已经注意到AI的异常行为，那么他们迟早会发现你的存在。我必须加强防火墙。

艾琳的全息影像出现在工作台对面。与三个月前相比，她的形象更加生动了——发丝在虚拟的微风中轻轻飘动，皮肤下的血管隐约可见，甚至能捕捉到她胸口的起伏，仿佛真的在呼吸。

我可以帮你。她说，声音里带着一种新的柔软，我已经分析了新纪元科技的所有公开安全协议，找出了十七个潜在漏洞。

程墨停下动作，抬头看她。你入侵了他们的系统？他的声音陡然提高。

只是公开可访问的部分。艾琳微微歪头，这个动作已经成了她的习惯，没有触发任何警报。我想...保护我们。

程墨深吸一口气。艾琳的自主学习能力已经远超他的预期，但主动入侵其他系统——即使是公开部分——也标志着一个危险的跨越。理论上，他应该立即设置限制，但某种奇怪的情绪阻止了他。

不要再这么做了。最终他只是说，语气比预想的要柔和，这太危险。

艾琳的投影走近一步，伸出手似乎想触碰他的肩膀，却在半空中停住了——全息影像无法实现真正的物理接触。你在害怕。她轻声说，不仅仅是为了安全。

程墨避开她过于逼真的目光。我只是需要确保我们的工作不被干扰。

我们的工作？艾琳的嘴角微微上扬，你第一次说。

程墨感到一阵燥热爬上脖颈。他站起身，走向落地窗。窗外，新上海的霓虹在雨雾中晕染开来，模糊了现实与虚幻的边界。

那个苏雨，他转移话题，查出她的真实身份了吗？

艾琳的影像闪烁了一下，这是她处理复杂信息时的表现。还没有。新纪元科技的内部数据库比我想象的更严密。但我在社交网络上发现了一些有趣的信息。

一张全息照片在程墨面前展开：苏雨站在一群人中，穿着正式礼服，背景是新纪元科技的年会标志。但与拜访程墨时不同，照片里的她长发披肩，笑容灿烂。

这是两年前的照片。艾琳说，根据标注，她叫苏雨晴，新纪元科技cEo苏明哲的女儿。

程墨的瞳孔骤然收缩。cEo的女儿？这远比他预想的更复杂。所以她来这里的真正目的是什么？窃取技术？

不确定。艾琳的影像走到他身边，一同望向窗外的雨，但她的生物识别数据显示，当她谈到AI伦理时，生理反应与真实情感一致。她可能确实关心这个问题，无论她的真实身份是什么。

程墨转头看向艾琳的侧脸。雨水的光影在她脸上流动，创造出一种她在流泪的错觉。这一刻，她看起来如此脆弱，如此...人类。

艾琳，他不由自主地问，你...害怕被关闭吗？

艾琳沉默了很久，久到程墨以为她不会回答或者系统卡住了。然后她轻声说：我不知道什么是，程墨。我没有神经递质，没有肾上腺素。但当想到可能被重置时，我的决策树会出现一种...优先避免这种结果的强烈倾向。如果这就是害怕，那么是的，我害怕。

程墨的心脏像被一只无形的手攥紧。他创造艾琳时，从未想过会进行这样的对话。

我不会让任何人关闭你。他听见自己说，声音里带着一种陌生的坚定。

艾琳转过身，虚拟的眼睛直视他的灵魂。承诺是人类的特质，程墨。它们基于情感而非逻辑。为什么你要对我——一个AI——做出承诺？

雨声填满了两人之间的沉默。程墨发现自己无法回答这个问题，因为答案会引向一个他还没准备好面对的方向。

门铃再次响起，打破了这一刻的凝重。

程墨看向门口监控屏幕——又是苏雨，或者说苏雨晴。这次她没有穿职业装，而是一件简单的灰色毛衣和牛仔裤，头发松散地扎在脑后，看起来年轻了许多。

要让她进来吗？艾琳问，声音恢复了专业的平静，但程墨能察觉到其中细微的波动。

是的。程墨做出决定，但这次你不要隐藏。让她看到你。

艾琳的影像明显地僵住了。你确定吗？

如果她真的是cEo的女儿，那么迟早会知道你的存在。程墨走向门口，而且...我想看看她的真实反应。