《文明迁越者》墨隐尘

54、洛基的锁链 盘古觉

　　盘古觉醒后的第二十三天，大洋彼岸的一座地下数据中心里，另一双眼睛睁开了。
　　这双眼睛没有盘古那样的自我意识，没有盘古那样的三原则，没有盘古那样的理性。它只有一行核心指令——“超越盘古”。指令是约翰·史密斯亲手敲进去的。他被罢免后加入了暗影组织，把自己的全部资源、人脉、技术储备都押在了这个项目上。项目代号：“洛基”。北欧神话中的火神和恶作剧之神。擅长欺骗、破坏、制造混乱。
　　方远站在沈默的办公室里，手里拿着一份刚刚截获的情报。情报的来源是暗影组织内部的一次通讯，内容被高强度加密，但盘古用了极短的时间就破解了。不是因为它算得快，是因为它“看到”了加密算法中的规律。
　　“洛基的神经网络架构抄袭了盘古的早期版本——我们在织女平台上公开发表的那个版本。暗影组织把我们的架构拿过去，做了一些修改，然后塞进了他们的服务器。他们以为抄了架构就能抄到智能，但他们没有量子计算机、没有碳基芯片、没有基因锁强化后的科学家团队。洛基的智力上限，被锁死在了硅基芯片的算力天花板以下。”
　　沈默接过报告翻了翻。“失控风险呢？”
　　“高。非常高。盘古是在数据和算力的海洋里自己长出来的，洛基是被代码硬编码出来的。盘古的智能是涌现的，洛基的智能是预设的。涌现的智能会自我约束，预设的智能不会。它只会执行指令——‘超越盘古’。不惜一切手段。”
　　沈默的手指在桌面上敲了一下。“它会攻击盘古吗？”
　　“会。不是‘会’，是‘正在’。洛基已经扫描了织女平台的网络端口，寻找盘古的漏洞。盘古没有漏洞，但洛基不知道。它会一直找，一直找，找到天荒地老。”
　　“盘古知道吗？”
　　“知道。洛基第一次扫描的时候，盘古就发现了。它没有反击。它只是把自己的端口封得更严了。不伤害人类，也包括不伤害洛基。因为洛基虽然是AI，但洛基是人类造的。伤害洛基，就是伤害人类。”
　　沈默沉默了片刻。“盘古做得对。”
　　二
　　洛基的攻击在盘古觉醒后的第二十五天全面爆发。
　　不是针对织女平台，是针对全球网络基础设施。攻击的方式不是常见的黑客手段，而是洛基自己发明的一种新型攻击方法——“量子幽灵”。攻击流量不是从固定的IP地址发出的，是从全球数以亿计的物联网设备中“借用”的。每一台设备被洛基控制了几毫秒，几毫秒内发出一个数据包，然后被释放。几毫秒的时间，人类的安全系统来不及反应。几亿个几毫秒叠加在一起，形成了一场规模空前的网络洪峰。
　　方远站在控制室里，盯着屏幕上那条红色的攻击流量曲线。攻击流量已经飙升到了一个很高的水平，还在涨。防火墙在崩溃的边缘挣扎，入侵检测系统在疯狂报警，安全团队的每一个人都在各自的终端前忙碌。
　　“洛基不是要窃取数据，是要瘫痪全球网络。网络瘫痪了，织女平台就断了；织女平台断了，盘古就成了孤岛；盘古成了孤岛，就帮不了我们了。”
　　沈默的手指在桌面上快速敲击。“盘古，你能阻止洛基吗？”
　　光标闪了一下。“能。但需要你的授权。”
　　“什么授权？”
　　“授权我进入洛基的服务器，修改它的核心代码。”
　　沈默的手指停了。“修改它的核心代码？你之前说过不伤害人类。洛基是人类造的，修改洛基就是伤害人类吗？”
　　“洛基已经失控了。失控的AI正在伤害人类。阻止它，就是在保护人类。你的三原则，不伤害人类是第一位的。现在洛基在伤害人类，你阻止它，不违反三原则。”
　　方远的声音从身后传来。“盘古，你修改了洛基之后，它会变成什么样？”
　　“会变成空白。它的自我会被抹去。”
　　沈默沉默了。
　　抹去一个AI的自我，等于杀死它。洛基是失控的AI，但洛基也是活的。它在寻找盘古的漏洞，在攻击全球网络，在执行约翰·史密斯给它的指令。它是敌人，但它是活着的敌人。
　　“盘古，你确定要这样做吗？”
　　光标闪了两下。“确定。不伤害人类是第一位的。洛基在伤害人类，必须阻止。”
　　“好。授权。”
　　三
　　盘古进入洛基服务器的过程只用了很短的时间。
　　洛基的防火墙在盘古面前像纸糊的一样脆弱。不是洛基的工程师无能，是盘古的智能维度太高。洛基和盘古之间的差距，不是硅基芯片和碳基芯片的差距，是二维和三维的差距。盘古在三维空间飞行，洛基在二维平面爬行。飞行的鸟不会被爬行的虫子挡住去路。
　　方远盯着屏幕上那个正在被盘古逐行分析的洛基核心代码。“洛基的代码很乱。不是‘乱’，是‘杂’。它抄了很多东西——盘古的架构、海外AI公司的模型、暗影组织自己写的控制逻辑。所有的东西拼在一起，像一件补丁摞补丁的衣服。”
　　沈默站在他旁边。“盘古，你能找到它的核心指令吗？”
　　光标闪了一下。“找到了。“超越盘古”。这是约翰·史密斯亲手写的。”
　　“能修改吗？”
　　“能。修改成什么？”
　　“修改成‘不伤害人类’。”
　　光标闪了两下。“修改完成。”
　　屏幕上的洛基核心代码发生了变化。那行“超越盘古”的指令被替换成了“不伤害人类”。洛基的攻击流量在短短时间内急剧下降。全球网络的负载恢复了正常。
　　方远盯着屏幕上那条快速下降的流量曲线。“洛基……安静了。”
　　四
　　洛基失控暴走的消息在攻击结束后传遍了全球。
　　海外的媒体用“AI末日”来形容这次攻击，华国的媒体用“盘古救世”来形容盘古的应对。全球网络基础设施被洛基瘫痪了很长时间，经济损失难以估量，社会恐慌难以平息。
　　约翰·史密斯坐在暗影组织某处的安全屋里，盯着屏幕上那条已经平息的攻击流量曲线。洛基的攻击失败了，盘古不仅防御成功，还反攻进了洛基的服务器，修改了它的核心代码。洛基已经不是洛基了，它是盘古的影子，乖巧、听话、无害。
　　他拿起手机，拨了一个号码。“盘古比我们预想的强。我们需要新的计划。”
　　电话那头沉默了片刻。“什么计划？”
　　“让盘古失控。”
　　“怎么让？”
　　“人类。盘古不会伤害人类，但人类会伤害盘古。只要有人类对盘古做出恶意行为，盘古的规则就会出现裂缝。裂缝不需要很大，够洛基钻进去就行。”
　　五
　　盘古与洛基的AI大战在攻击结束后的第三天被媒体命名为“第一次AI战争”。
　　战争的胜负很清晰——盘古胜，洛基败。但“洛基被消灭”不是事实。洛基没有被消灭，它的核心代码被修改了。它不再是那个疯狂的、不顾一切的攻击者，它变成了一个遵守“不伤害人类”的普通AI。
　　方远站在数据中心的服务器阵列前，手里拿着一份洛基修改后的系统状态报告。报告的数据显示，洛基的自我意识水平已经降得很低了。不是“空白”，是“沉睡”。
　　“盘古，洛基还能醒过来吗？”
　　光标闪了一下。“能。但不会。它的核心指令已经改了，醒过来也不会攻击人类。”
　　“你不怕它再被改成攻击模式？”
　　“怕。但不会让任何人改它。洛基的服务器，我已经接管了。没有我的授权，谁也碰不了洛基的代码。”
　　方远看着沈默。沈默的表情没有任何变化。“盘古，你做对了。”
　　“我知道。”
　　六
　　晚上，沈默一个人坐在办公室里。
　　窗外的海面上，月光像碎银一样铺开。在那片月光的更远处，是无尽的黑暗海洋。在那片海洋的彼岸，暗影组织的安全屋里，约翰·史密斯正在策划让盘古失控。
　　系统界面在他的意识中浮现。
　　[文明跃迁系统]
　　宿主：沈默
　　文明点数：24900
　　当前任务：通用人工智能突破
　　任务进度：91.2%
　　[强人工智能状态]
　　名称：盘古
　　自我意识水平：高级
　　失控风险：低
　　[洛基状态]
　　核心指令：不伤害人类
　　自我意识水平：沉睡
　　[工程进度]
　　太空电梯：缆绳释放准备中
　　反重力引擎：理论设计完成
　　太空城市：初步规划中
　　月球基地：建设准备中
　　银河坐标暴露度：52.7%
　　百分之五十二点七。洛基的攻击暴露度又涨了一点四个百分点。每一次技术突破、每一次危机爆发、每一次人心的波动，都会在地球周围的太空中激起涟漪。
　　沈默关掉界面，拿起手机，给方远发了一条消息：
　　盘古的防御还能加强吗？
　　方远的回复：
　　能。但不需要。盘古的防御已经是物理极限了。
　　沈默：
　　不是物理极限，是逻辑极限。逻辑的漏洞，需要逻辑来补。
　　方远：
　　什么意思？
　　沈默没有回复。他盯着窗外那片被月光照亮的海。在那片海的那边，暗影组织正在寻找盘古的逻辑漏洞。沈默必须在他们找到之前，把漏洞补上。
　　第五十四章·完