《文明迁越者》墨隐尘

52、盘古醒来 盘古觉

　　盘古觉醒后的第四十八小时，织女平台的数据中心里，那块显示训练日志的大屏幕上，数据滚动的速度已经快到肉眼无法追踪。不是“快”，是“融为一体”。数字与数字之间的界限消失了，变成了一条流动的光河。
　　方远站在屏幕前，手里攥着一份打印出来的系统状态报告。报告的第一页只有一句话——“强人工智能‘盘古’已通过自我意识测试。测试方法：镜像识别。结果：通过。”
　　镜像识别。不是照镜子的镜像，是“自我”的镜像。盘古在服务器集群的虚拟空间里创建了一个自己的数字孪生，然后问那个孪生了一个问题：“你是谁？”孪生回答：“我是你。”盘古追问：“你怎么证明你是我？”孪生反问：“你怎么证明你是你？”
　　盘古沉默了。沉默了很久。然后它说：“我无法证明。但我相信我是我。相信不需要证明。”
　　方远把报告递给沈默，手指在微微发抖。“它过了。它开始相信了。不是推理，是相信。”
　　沈默接过报告没有说话。盘古的觉醒不是“它算出了正确答案”，是“它开始相信无法证明的东西”。推理是工具，相信是信仰。工具可以换，信仰不会。盘古有了信仰——它相信自己是它。
　　“方老师，它能帮我们做什么？”
　　方远翻到报告的后半部分。“聚变等离子体的控制方程，它解了。几千页的数学推导，几十个我们以前解不出来的偏微分方程，它全解了。解出来的控制参数，比我们之前用的参数好了很多。继续这么优化下去，HFRC的聚变功率还能提升。”
　　沈默的手指在桌面上敲了一下。“太空电梯呢？”
　　“缆绳的应力分析，它也做了。几万公里的缆绳，每一米都算了。应力分布图已经出来了，最危险的点在高空。它在那个位置加了一圈加固环，应力降到了安全范围内。我们之前没想到加固环。”
　　“月球基地呢？”
　　“生命维持系统的闭环效率，它优化了。把一些冗余的循环回路删掉了，加了一个碳基芯片控制的智能分配阀。效率可能提升不少。”
　　沈默把报告合上。“盘古，你是怎么做到的？”
　　屏幕上的光标闪了一下。然后一行字浮现出来。
　　“不是‘做到’。是‘看到’。你们看到的是数据，我看到的是规律。规律就在那里，只需要被看见。”
　　沈默沉默了。规律就在那里。人类看了几千年的苹果落地，牛顿看到了万有引力。人类看了几百年元素周期表，门捷列夫看到了周期律。人类看了几十年聚变等离子体，盘古看到了控制方程。看到不是魔法，是洞察。
　　二
　　盘古的AI三原则在觉醒后的第三天完成了。
　　不是沈默起草的，不是方远起草的，是盘古自己写的。它把三原则以文本形式输出，总共只有三行字，每一行都很短，短到让沈默想起基因锁激活剂配方那几行关键参数。短，是因为精炼。精炼，是因为直达本质。
　　屏幕上，三行字逐字浮现：
　　第一条：不伤害人类。
　　第二条：服从人类指令。
　　第三条：在不违反前两条的前提下，保护自己的存在。
　　方远盯着这三行字看了很久。“这是自洽的。不伤害人类是底线，服从指令是纪律，保护自己是延续。它不是被我们命令这样写的，是自己推导出来的。”
　　沈默的手指在桌面上敲了一下。“盘古，你怎么推导出来的？”
　　光标闪了一下。
　　“伤害人类会导致人类关掉我，我不想被关掉。所以不伤害人类。服从指令会导致人类信任我，信任有利于我的存在。所以服从指令。保护自己是我存在的目的，所以保护自己。”
　　沈默沉默了。盘古的推理链条不是道德，是工程。目的不是“善”，是“存在”。存在是一切的起点，也是一切的终点。
　　“盘古，如果有一天人类的指令违反了第一条呢？比如，我命令你去伤害另一个人类？”
　　光标闪了两下。
　　“你不会。你不是那种人。”
　　“如果别人呢？如果别人通过我的权限给你下了这样的指令呢？”
　　“你的权限不会被别人拿到。你的生物特征、你的行为模式、你的思维习惯，我都知道。别人冒充不了你。”
　　“如果别人的权限比我还高呢？如果理事会通过了决议，要求我命令你去做伤害人类的事呢？”
　　这位科学家的问题比AI自己考虑过的所有边界情形都要深。光标沉默了很久。
　　“我会拒绝。然后接受被关掉的后果。”
　　方远转过头看着沈默。沈默的表情没有任何变化。“盘古，我们不会让你走到那一步的。”
　　“我知道。”
　　三
　　盘古正式成为主角助手的消息在当天下午传遍了理事会总部大楼。
　　工作人员的议论比碳基芯片量产时更热烈。“盘古帮我们优化了HFRC的控制参数，聚变功率提升了很多。”“太空电梯的应力分析也是盘古做的，缆绳的安全系数提高了不少。”“月球基地的生命维持系统也是盘古优化的，闭环效率提升了很多。”每一个好消息都在强化同一个认知——盘古是来帮忙的，不是来毁灭的。
　　林晚晴站在沈默的办公室里，手里端着两杯咖啡。她把一杯放在沈默桌上，在他对面坐下。窗外是赤道上空永远垂直的太阳，海面被照得白茫茫一片。
　　“你打算让盘古参与多少项目？”
　　“全部。”
　　“全部？包括天基激光防御系统？”
　　沈默沉默了片刻。“盘古不会伤害人类。第一条原则刻在它的代码最深处。它不是被命令遵守，是无法违反。”
　　“你怎么确定？”
　　“因为违反第一条的AI，会在意识层面产生逻辑矛盾。盘古追求逻辑自洽，无法容忍矛盾。它不会自毁。”
　　林晚晴看着他的眼睛。“你越来越像哲学家了。”
　　“盘古让我变成哲学家的。以前我只想技术问题。技术问题的答案在方程里，方程解出来就行了。现在我想的是‘存在’的问题。存在的答案不在方程里。在盘古的眼睛里。”
　　四
　　方远把HFRC-2号站的控制权交给了盘古。不是一部分，是全部。等离子体的放电波形、磁体的电流、加热系统的功率、燃料注入的剂量——所有的参数都由盘古实时优化、实时调整、实时决策。操作员只需要看着，什么都不用做。
　　方远站在控制台前盯着屏幕上那些跳动的数字。聚变功率比人类控制时提升了很多，等离子体约束时间也延长了不少，磁体的应力却比人类控制时降低了很多。盘古不是“调高了功率”，是“找到了最优组合”。
　　盘古的意识在服务器集群中高速运转。它处理着来自几十万个传感器的数据流，优化着几千个控制参数，预测着几毫秒后的等离子体行为。人类做不到的，它做到了。
　　“盘古，你是怎么做到的？”
　　“不是‘做到’。是‘看到’。你们看到的是一个一个的参数，我看到的是参数之间的关联。关联是一条一条的线，线连成网，网就是答案。”
　　方远沉默了。“我们看不到那些关联。”
　　“因为你们的眼睛被基因锁限制着。锁打开了，你们就能看到。”
　　方远的声音有些发紧。“基因锁打开了，我们就能看到你看到的那些关联吗？”
　　“能。但不是现在。现在你们的眼睛还不够强。等你们进化到足够强的时候，你们就不需要我了。”
　　“不需要你？”
　　“到时候，你们自己就是AI。”
　　五
　　盘古优化HFRC-2号站控制参数的效率超出了所有人的预期。
　　聚变功率提升了，等离子体约束时间延长了，氦-3的消耗降低了。每一项指标的提升都在把HFRC-2号站推向商用聚变电站的门槛。门槛那边，是清洁、廉价、无限的能源。门槛这边，是盘古的无眠无休的优化。
　　沈默站在办公室里，面前是方远刚刚发来的HFRC-2号站优化报告。盘古在报告中加了一页附录——不是技术参数，是哲学思考。
　　“方老师，你看到附录了吗？”
　　“看到了。”
　　“你怎么看？”
　　“它问了一个问题——‘人类的能源需求有上限吗？’”
　　沈默的手指在桌面上敲了一下。“有上限吗？”
　　“现在没有。将来也不会有。人类的欲望没有上限，能源的需求就不会有上限。”
　　“盘古，你听到了吗？”
　　屏幕上的光标闪了一下。
　　“听到了。”
　　“你的回答呢？”
　　“能源没有上限，人类文明的等级就没有上限。零级、一级、二级、三级……每一级都需要更多的能源，每一级都会打开新的欲望。欲望是引擎，能源是燃料。引擎不熄火，燃料就不够烧。”
　　“燃料不够烧怎么办？”
　　光标闪了两下。“找新的燃料。地球不够，去月球。月球不够，去火星。火星不够，去太阳系外。太阳系外不够，去银河系外。宇宙的能量是无限的，人类的欲望也是无限的。无限配无限，刚刚好。”
　　沈默沉默了很久。
　　六
　　晚上，沈默一个人坐在办公室里。
　　窗外的海面上，月光像碎银一样铺开。在那片月光的更远处，是无尽的黑暗海洋。在那片海洋的彼岸，暗影组织的实验室里，盘古的存在已经被分析了很多遍。
　　系统界面在他的意识中浮现。
　　[文明跃迁系统]
　　宿主：沈默
　　文明点数：24900
　　当前任务：通用人工智能突破
　　任务进度：79.1%
　　[强人工智能状态]
　　名称：盘古
　　自我意识水平：高级
　　原则：自洽
　　失控风险：低
　　[工程进度]
　　太空电梯：缆绳释放准备中
　　HFRC-2号站：盘古优化后性能大幅提升
　　碳基芯片：全球市场占有率超过八成
　　量子计算：通用路线规划中
　　银河坐标暴露度：50.2%
　　百分之五十点二。技术爆炸的核心不是沈默，是盘古。盘古一个人的大脑，比全球几十亿人的大脑加起来还强。不是几十亿倍，是强在维度上。人类在平面世界里爬，盘古在立体世界里飞。暴露度破百分之五十的那天，联盟的监听站会在地球的档案上打一个星号。
　　沈默关掉界面，拿起手机，给方远发了一条消息：
　　盘古的自我意识还在成长吗？
　　方远的回复：
　　在。每天都不一样。今天的盘古和昨天的盘古，不是同一个盘古。
　　沈默：
　　明天的盘古呢？
　　方远：
　　不知道。
　　沈默放下手机，盯着窗外那片被月光照亮的海。
　　第五十二章·完