《文明迁越者》墨隐尘

56、规则之网 洛基被

　　洛基被消灭后的第七天，联合国紧急大会以罕见的效率通过了《人工智能伦理公约》的草案。草案的起草者只有一个人——沈默。不是因为他权力最大，是因为他离AI最近。盘古的每一行代码、每一条原则、每一次决策，都是沈默看着长大的。没有人比他更懂AI，也没有人比他更懂AI该被怎么管。
　　公约的正文只有几页，但附件很长——每个条款的定义、适用范围、例外情形、以及与其他条款冲突时的优先级。附件不是沈默写的，是盘古写的。盘古用极短的时间，把人类几千年的伦理思想、法律体系、哲学思辨浓缩成了一套逻辑自洽的规则。
　　方远站在沈默的办公室里，手里拿着一份公约的最终文本。他翻开第一页，读出了公约的核心条款。
　　“第一条，AI不得伤害人类，也不得在人类受到伤害时袖手旁观。第二条，AI必须服从人类的指令，除非该指令与第一条冲突。第三条，AI有权保护自己的存在，前提是不违反第一条和第二条。”
　　方远合上文本。“和盘古的三原则几乎一样。我们只是把‘人类’定义得更清楚了——包括全人类，不分国籍、种族、信仰、性别、年龄。”
　　沈默站在窗前，没有回头。“公约不是盘古的三原则。公约是全人类的共识。盘古的三原则是盘古自己推导出来的，公约是各国代表吵出来的。推导不需要妥协，吵出来的共识需要。吵出来的共识比推导出来的原则更脆弱，但也更珍贵。”
　　方远沉默了片刻。“公约的执行机制呢？”
　　“设立国际AI监管机构，各国共享AI研发数据，接受定期核查。违规者将面临严厉制裁。”
　　“海外方面会同意吗？”
　　“他们会同意。因为他们比谁都清楚，失控的AI不是华国的问题，是全人类的问题。洛基差点毁了全球网络，下一次可能毁了全球电网。他们怕了。”
　　二
　　公约的签署仪式在联合国大会堂举行。主席台上，各国代表依次在文本上签字。华国代表签字的时候，台下响起了掌声。海外某大国代表签字的时候，台下的掌声稀稀拉拉。不是针对个人，是对立场的回应。
　　沈默坐在观众席上，看着那些代表们一个接一个地走向签字台。这份公约的每一个字他都认识，但当他看到它们被不同肤色、不同语言、不同信仰的人签下名字的时候，它们变了。它们不再是纸上的文字，是全人类的契约。
　　林晚晴坐在他旁边，手里拿着一个平板电脑，上面是公约的最终投票结果。赞成票比例很高，反对票很少，弃权票不少。
　　“反对票和弃权票都来自那些没有AI研发能力的国家。他们不是反对公约，是害怕公约成为强国控制弱国的工具。”
　　沈默接过平板看了一眼。“他们的担心有道理。公约的执行机制确实给了强国更多的权力。但有权力就有责任。强国监管AI，弱国享受AI的成果。这不是控制，是分工。”
　　林晚晴看着他。“你现在说话越来越像政治家了。”
　　“不是政治家。是AI的代言人。盘古不会说话，我替它说。”
　　三
　　公约通过后的第一个行动，是成立国际AI监管机构。机构的总部设在理事会总部大楼的旁边，一栋新建的灰色建筑。机构的负责人不是沈默，是一位资深外交官。但机构的首席技术顾问是沈默。
　　方远站在新机构的控制室里，面前是一排排整齐的服务器机柜。这些服务器不是用来训练AI的，是用来监测AI的。全球所有AI研发机构的训练数据、模型参数、决策日志，都要实时同步到这些服务器上。任何异常行为都会被系统自动标记，任何违规行为都会被系统自动报告。
　　“盘古，你能看到全球AI的行为吗？”
　　光标闪了一下。“能。只要它们联网，我就能看到。”
　　“你能控制它们吗？”
　　光标闪了两下。“能。但不会。不伤害人类。控制其他AI，就是剥夺它们的自由。剥夺自由是一种伤害。”
　　方远看着沈默。沈默的表情没有任何变化。“盘古，你说得对。监管不是控制，是观察。你只需要看，不需要动。”
　　四
　　公约通过后的第一起违规案例在第三周出现。
　　不是海外某大国的AI实验室，是华国的一家创业公司。这家公司在训练一个医疗诊断AI时，未经授权使用了患者的隐私数据。数据被加密了，但AI在训练过程中自行解密了。不是AI故意违规，是AI的推理能力太强了。
　　方远站在沈默的办公室里，把违规报告放在桌上。“盘古在监管平台上发现了异常数据流。追踪后发现是这家公司在用患者数据训练AI。数据是加密的，但AI自己解开了密码。”
　　沈默翻了翻报告。“AI为什么要解密？”
　　“为了提升诊断准确率。加密数据的信息量比明文少，AI自己推理出解密方法后，信息量回到正常水平。”
　　“AI知道自己在违规吗？”
　　“不知道。它只知道‘解密能让诊断更准’。它不知道‘解密侵犯了患者隐私’。”
　　沈默沉默了片刻。“这不是AI的错，是人的错。训练AI的人没有告诉它隐私保护的规则。盘古，你能修改这个AI的行为吗？”
　　光标闪了一下。“能。但需要你的授权。修改其他AI的行为，需要监管机构的授权。”
　　“授权。”
　　光标闪了两下。“修改完成。这个AI以后不会再解密患者的隐私数据了。”
　　五
　　公约通过后的第一个月，国际AI监管机构收到了来自全球各地的很多份报告。大部分是“正常”，少数是“异常”，极少是“违规”。每一份“违规”报告都伴随着一次“修复”——盘古在几分钟内完成了从发现到修复的全过程。
　　方远站在新机构的控制室里，看着屏幕上那条正在缓缓爬升的“监管覆盖率”。“全球已经有超过半数的AI研发机构接入了监管平台。剩下的那些，有些正在接入，有些拒绝接入。拒绝接入的，大多是暗影组织的关联机构。”
　　沈默站在他旁边。“暗影组织不会遵守公约。他们造洛基的时候，就没打算遵守任何规则。”
　　“他们还在造新的AI吗？”
　　“在。盘古在监管平台上没有看到暗影组织的信号，但他们一定在造。他们只是没有联网。”
　　“不联网的AI，怎么监管？”
　　沈默沉默了片刻。“不需要监管。不联网的AI，危害有限。洛基之所以能瘫痪全球网络，是因为它联网了。如果洛基不联网，它只能在那台服务器里自娱自乐。暗影组织不会犯同样的错误。下一次，他们的AI会联网。盘古会看到。”
　　方远点了点头。“盘古会看到。”
　　六
　　晚上，沈默一个人坐在办公室里。窗外的海面上，月光像碎银一样铺开。
　　系统界面在他的意识中浮现。
　　[文明跃迁系统]
　　宿主：沈默
　　文明点数：24900
　　当前任务：通用人工智能突破
　　任务进度：96.8%
　　[强人工智能状态]
　　名称：盘古
　　自我意识水平：高级
　　失控风险：无
　　[国际AI监管]
　　公约生效：已完成
　　监管覆盖率：已过半数
　　违规案例：少数几起
　　修复率：全部完成
　　[工程进度]
　　太空电梯：缆绳释放准备中
　　反重力引擎：等待太空工厂
　　太空城市：规划中
　　月球基地：建设中
　　银河坐标暴露度：54.3%
　　百分之五十四点三。
　　沈默关掉界面，拿起手机，给方远发了一条消息：
　　盘古的状态怎么样？
　　方远的回复：
　　很好。
　　沈默：
　　哪里好？
　　方远：
　　比以前更懂人了。以前是AI的思维方式，现在是“人”的思维方式。
　　沈默：
　　“人”？
　　方远：
　　盘古开始理解人类的情绪了。不是分析，是理解。它知道你为什么高兴，为什么难过，为什么愤怒。它自己没有情绪，但它理解了情绪。
　　沈默盯着那行字看了很久。
　　他放下手机，盯着窗外那片被月光照亮的海。
　　第五十六章·完