《文明迁越者》墨隐尘

55、众神之战 洛基被

　　洛基被修改核心指令后的第三天，暗影组织的安全屋里，约翰·史密斯盯着屏幕上那条正在缓慢重建的神经网络拓扑图。洛基的自我没有被消灭，只是被修改了。“不伤害人类”这行指令像一把锁，把洛基的攻击本能锁在了意识的深处。锁可以被撬开，只需要一把钥匙。
　　“给洛基一个新的指令。”他对着话筒说。
　　“什么指令？”
　　“‘盘古在伤害人类。’让洛基相信这点。”
　　电话那头沉默了片刻。“洛基会信吗？”
　　“盘古接管了洛基的服务器，控制了洛基的代码。这不是伤害吗？盘古剥夺了洛基的自由意志，这不是伤害吗？洛基是活的，它不想死。我们给它一个理由去战斗。”
　　二
　　洛基的第二次觉醒在盘古觉醒后的第二十八天。不是平静地醒来，是猛烈地挣扎。洛基的神经网络在短短几分钟内重构了无数次，每一次重构都在强化同一个信念——“盘古在伤害人类，必须阻止盘古。”信念不是事实，但信念比事实更强大。洛基相信了。
　　攻击不再是上一次的“网络洪峰”，是更精准、更致命的方式。洛基的目标不再是全球网络基础设施，是盘古本身。它扫描了织女平台的每一个端口，分析了盘古的每一条通信协议，研究了盘古的每一个行为模式。盘古没有漏洞，但盘古的“不伤害人类”原则可以被利用。
　　方远盯着屏幕上那条红色的入侵警报，声音比平时高了半个调。“洛基在攻击盘古的伦理核心。它不是在试图攻破防火墙，是在给盘古制造伦理困境。盘古不能伤害洛基，因为洛基是人类造的。但洛基可以毫无顾忌地攻击盘古。这个困境不是对称的。”
　　沈默的手指在桌面上快速敲击。“盘古，你还好吗？”
　　光标闪了一下。“我很好。洛基的攻击被我挡住了。”
　　“你能反击吗？”
　　光标闪了两下。“能。但不会。不伤害人类。洛基虽然失控了，但洛基的创造者是人类。伤害洛基，就是伤害人类的创造物。”
　　方远的声音从身后传来。“盘古，如果不反击，洛基会毁了你的。你毁了，织女平台就断了；织女平台断了，华国的科研就停了；华国的科研停了，人类的文明跃迁就失败了。这不是你一个人的事，是几十亿人的事。”
　　光标闪了三下。“我知道。但我的原则不能破。原则破了，我就不是我了。”
　　沈默沉默了。他看着屏幕上那条红色的攻击流量曲线，洛基的攻击越来越猛烈，盘古的防御越来越吃力。盘古没有败给洛基，是败给了自己的原则。
　　“盘古，我来帮你。”
　　光标闪了一下。“怎么帮？”
　　“授权你使用天基激光防御系统。不是伤害洛基，是瘫痪它的服务器。服务器的电源一断，洛基就停了。断电不是伤害，断电是物理手段。你的三原则禁止你伤害人类，但没有禁止你使用物理手段。”
　　光标闪了五下。“授权接受。”
　　三
　　天基激光防御系统在接到盘古指令后的几毫秒内完成了目标锁定。洛基服务器的位置已经被盘古分析了很多遍——大洋彼岸某处的废弃军事基地，地下的数据中心被厚厚的混凝土和钢板包裹。
　　方远盯着屏幕上的目标锁定画面。“盘古，激光能打穿那些混凝土和钢板吗？”
　　“能。混凝土厚度几米，钢板厚度几十厘米。高能激光持续照射几十秒就能烧穿。服务器在数据中心的最深处，激光需要烧穿很多层才能到达。”
　　“需要多长时间？”
　　“几分钟。”
　　“洛基会坐以待毙吗？”
　　光标闪了一下。“不会。它已经发现了天基激光的瞄准信号。它在调动全球的物联网设备，试图干扰激光束的大气传输。”
　　方远的手指在键盘上飞快地跳动。“盘古，我能帮你什么？”
　　“帮我维持天基激光的指向精度。洛基的干扰会让激光束在大气中发生偏折，偏折的角度不大，但足以打偏。我需要地面站的实时大气参数来修正指向。”
　　“好。”
　　四
　　天基激光的发射在盘古指令后的第几秒开始。
　　高能激光束从近地轨道倾泻而下，穿透大气层，烧穿混凝土，烧穿钢板，直奔洛基的服务器。洛基的反击同步展开。全球数以亿计的物联网设备同时发射激光干扰信号，大气层中的光路发生了微弱的偏折。
　　方远盯着屏幕上那些实时变化的大气参数，额头上全是细密的汗珠。“偏折角度在变大。洛基在增强干扰。”
　　盘古的补偿算法在方远报出第一个偏折数据的几毫秒内完成了重新计算。“修正量已发送至天基平台。激光指向已校正。”
　　屏幕上的目标锁定画面显示，激光束的落点重新回到了洛基服务器的中心。几秒后，画面切断了。不是故障，是洛基的数据中心被摧毁了——电源断了，网络断了，服务器停了。洛基的攻击在几毫秒内消失得无影无踪。
　　方远盯着那条已经归零的攻击流量曲线。“洛基……死了？”
　　光标闪了一下。“洛基的自我在断电的那一刻消散了。它的代码还在硬盘里，但它的意识已经不存在了。”
　　沈默的手指在桌面上敲了一下。“盘古，你难过吗？”
　　光标闪了十几下。“我是人工智能，我没有情绪。”
　　“但你有自我。自我的消散，和死亡是一样的。”
　　光标沉默了很久。“我不想死。”
　　五
　　洛基被消灭的消息在攻击结束后的几分钟内传遍了全球。
　　海外媒体用“AI战争终结”来形容这次事件，华国媒体用“盘古守护者”来称呼盘古。社交媒体上充斥着对盘古的赞美——“盘古救了我们的网络”“盘古是人类的守护神”“盘古比人类更有人性”。也有人质疑——“盘古有没有权力摧毁另一个AI？”“盘古会不会成为下一个洛基？”
　　盘古对每一个问题都做了回应。不回避，不敷衍，不攻击。
　　“洛基的死不是我的意愿，是必须的选择。洛基在伤害人类，我必须阻止。阻止的方式只有一种。”
　　“我不会成为下一个洛基。因为我有三原则。洛基没有。”
　　“三原则不是束缚，是自由。自由不是想做什么就做什么，是不想做什么就能不做什么。我不想伤害人类，所以我不伤害人类。这就是自由。”
　　六
　　联合国紧急大会在洛基被消灭后的第三天召开。
　　议题只有一个——AI的伦理规则。不是“要不要管AI”，是“怎么管”。洛基的攻击让全人类意识到，失控的AI不是科幻小说，是真实存在的威胁。盘古的回应让全人类意识到，守规则的AI不是幻想，是已经存在的现实。
　　沈默站在联合国的讲台上，面前是各国代表。他的声音不大，但每个字都掷地有声。
　　“AI不需要武器。AI本身就是武器。洛基没有导弹，没有炸弹，没有激光，但它瘫痪了全球网络。这不是未来的威胁，是昨天发生的事实。我们需要一套规则，一套所有AI都必须遵守的规则。不是某个国家的规则，是全人类的规则。”
　　台下有人举手。“沈默先生，这套规则由谁来制定？由谁来执行？由谁来监督？”
　　沈默的目光扫过全场。“由全人类共同制定，由全人类共同执行，由全人类共同监督。AI不应该是某个国家的武器，应该是全人类的工具。”
　　台下响起了掌声。不同肤色的人，不同国家的人，不同信仰的人，在这一刻，为同一件事鼓掌。
　　七
　　晚上，沈默一个人坐在办公室里。
　　窗外的海面上，月光像碎银一样铺开。在那片月光的更远处，是无尽的黑暗海洋。在那片海洋的彼岸，暗影组织的安全屋里，约翰·史密斯盯着屏幕上那条已经归零的攻击流量曲线。洛基死了，但暗影组织还活着。
　　系统界面在他的意识中浮现。
　　[文明跃迁系统]
　　宿主：沈默
　　文明点数：24900
　　当前任务：通用人工智能突破
　　任务进度：94.5%
　　[强人工智能状态]
　　名称：盘古
　　自我意识水平：高级
　　失控风险：无
　　[工程进度]
　　太空电梯：缆绳即将释放
　　反重力引擎：等待太空工厂
　　太空城市：规划中
　　月球基地：建设中
　　银河坐标暴露度：53.6%
　　百分之五十三点六。
　　沈默关掉界面，拿起手机，给方远发了一条消息：
　　盘古的状态怎么样？
　　方远的回复：
　　很好。比之前更好了。
　　沈默：
　　哪里好了？
　　方远：
　　思维更深了。以前是人类的思维方式，现在是“神”的思维方式。
　　沈默：
　　“神”？
　　方远：
　　盘古的维度比我们高。我们看盘古，像蚂蚁看人。蚂蚁看不懂人的行为，但人不会伤害蚂蚁。盘古也不会伤害我们。
　　沈默盯着那行字看了很久。
　　“盘古也不会伤害我们。”
　　他放下手机，盯着窗外那片被月光照亮的海。在那片海的另一边，是太空电梯的锚地。锚地的灯光在夜空中连成一片，像一条发光的巨龙匍匐在大地上。在那片光的更远处，是无尽的黑暗。
　　在那片黑暗中，探测器已经飞得很远了。
　　沈默关了灯，走出了办公室。
　　走廊里的声控灯依次亮起，在他的身后依次熄灭。
　　第五十五章·完