《我在硅谷卖咖啡》物物苯

19、第十九章 秦闻把机器人关了 周柏言的声

　　周柏言的声音不大。电话外放没有开，赫小满听不见具体内容，只看见秦闻站在吧台边，右手握着手机，左手还停在电脑键盘上。
　　他听了将近一分钟，才说：“今晚的事故来自旧风险指令，不是咖啡店操作失误。”
　　电话那头说了什么。秦闻皱起眉。
　　“我知道那条指令属于公司版本。也是我写的。”
　　又是一阵停顿。
　　“明早我不会把设备带回去。先完成删除、通知和复核。”
　　这一次，电话那头的声音明显高了。赫小满隔着两米都听见一句英文里的board和liability。秦闻没有继续争。
　　他说：“责任记我。明天十点，我参加会议。”
　　电话挂断。店里只剩咖啡机散热的轻响。
　　赫小满问：“他要你回去？”
　　“要小秦总回去，也要停止这里的测试。”
　　“你不回？”
　　“明天开会。今晚先把店里的事处理完。”
　　赫小满看着他：“你别拿我店跟公司赌气。”
　　秦闻抬眼。
　　“我不是赌气。”
　　“那你为什么不先回去？公司是你的，小秦总也是公司的。”
　　“正因为是我的，我才不能把今晚的事当成外部场景问题，带回去关门处理。”秦闻说，“温慧明天要回来确认。其他五个人也有权知道发生了什么。先把这里的责任交代清楚，再谈公司。”
　　他的语气很稳，没有把留下说成牺牲，也没有等赫小满感动。
　　赫小满这才点头：“行。先干活。”
　　第一件事，是联系参加简历夜的六个人。秦闻逐一发邮件，不用模板里的“给您带来不便”，而是把发生的事写明白：设备在未经允许的情况下识别了工作证标志、调用公开公司信息，并基于多项信号给出超出请求范围的风险判断；相关本地缓存已删除，设备暂停使用；若参与者希望查看删除记录、撤回所有处理内容或提出问题，可以直接回复。赫小满看完第一版，划掉一句：系统行为与预期不一致。
　　“哪里不一致？”她问。
　　“本来不该调用旧模块。”
　　“可那个模块就是为了看别人没说的事。它做的和你当初写的一致。”
　　秦闻沉默，把那句改成：我保留的旧设计导致设备越过了现行规则。第二件事，是核对所有数据。六份简历输入内容已经按设置自动清除。活动反馈卡还在纸质文件夹里，只记录愿不愿意匿名反馈。温慧的公司标志摘要和推断结果在她面前删除过，秦闻又检查一次本地存储，确认没有备份副本。第三件事，是把小秦总彻底停机。不是调成“少说点”，也不是关掉互动页面。秦闻拔掉外接网络模块，关闭摄像头和麦克风权限，再断开电源。
　　小秦总屏幕最后亮起一行系统提示：进入维护状态。
　　赫小满蹲在旁边，看着屏幕熄灭。
　　“它知道自己做错了吗？”
　　“它没有人的后悔。”秦闻说，“它只会根据规则调整。”
　　“那你呢？”
　　秦闻没有马上回答。
　　赫小满站起来：“我不是问你会不会调整。”
　　“我知道。”
　　他把电脑合上一半，又重新打开。
　　“两年前第一次演示这个模块时，它猜中一个员工准备离职。现场所有人都觉得厉害。那之后，公司每次演示都要保留这种效果。”
　　“你也想保留。”
　　“对。”
　　“为什么？”
　　“普通问答机器人太多。”秦闻说，“如果它只回答人主动问的问题，投资人会觉得没有壁垒。能发现未说出口的风险，才像一个真正的产品。”
　　赫小满听完，问：“那个人愿意被发现吗？”
　　秦闻摇头。
　　“你当时问过吗？”
　　“没有。”
　　“后来呢？”
　　“后来我把数据做匿名、把权限写进协议，也加过告知。但我一直觉得，只要结果有用，提前发现就是好事。”
　　“今晚呢？”
　　秦闻看向门外。温慧坐过的位置已经空了，桌上还留着她没喝完的咖啡印。
　　“今晚我第一次看见，一个正确的结果也能让人没有准备。”
　　赫小满没有说“你终于明白了”。她拿出一叠空白纸，放到吧台上。
　　“重写规则。”
　　“今晚？”
　　“你明天十点开会，温慧九点半回来。现在不写，明早来不及。”
　　秦闻看了一眼时间。晚上十点零八。两个人坐到吧台两边。旧规则一共有六条，听起来都对：不读取屏幕、不保存原话、不主动诊断、未经同意不推荐、店主可叫停、敏感信息不公开。问题是，它们只规定了“不能输出什么”，没有规定“为了输出，可以看什么”。秦闻先写：摄像头只用于避障，不识别人脸、工牌、屏幕或环境文字。
　　赫小满问：“避障需要知道客人在哪家公司吗？”
　　“不需要。”
　　“那就把工牌也写死，别再留‘上下文’这种口子。”
　　秦闻补上。第二条：设备不得调用未在现场说明中列出的模块。
　　“人话。”
　　“今天说它只会改句子，它就不能偷偷用公司里那套风险判断。”
　　“就这么写。”
　　第三条：用户只同意当前请求，不默认同意额外分析。
　　赫小满说：“比如我让它改简历，它不能顺便猜我会不会失业。”
　　“对。”
　　第四条：所有可能带来重大情绪、职业或身份影响的判断，一律不由机器人主动输出。
　　赫小满看了很久：“如果有人主动问呢？”
　　“也不能给确定结论。最多提供信息来源和建议去找谁确认。”
　　“这个可以。”
　　写到第五条，秦闻手机又震了。周柏言发来会议议程：设备召回、数据事故、项目负责人职责调整。最后一项后面写着：必要时启动管理权限暂停。秦闻扫了一眼，把手机翻过去。赫小满看见了，但没有问。十一点半，Sofia已经回家，顾南枝和苏米娜也先走了。店里只剩他们两个人。赫小满从后厨柜子里翻出两包方便面，用热水泡开，一碗推给秦闻。
　　“没鸡蛋。”
　　“我不挑。”
　　“博士吃泡面不影响算法吗？”
　　“比空腹影响小。”
　　两个人边吃边改。秦闻平时说话慢，写技术说明却很快。赫小满不让他快。每写一条，她都要问一个不懂技术的人看了会怎么理解；秦闻解释不清，就重新写。凌晨十二点四十，规则改到第十一版。
　　秦闻忽然问：“你是不是觉得我根本不适合做这个？”
　　赫小满拿筷子的手停了一下。
　　“你问哪个？”
　　“做小秦总。做一个跟人打交道的产品。”
　　“你想听好话还是实话？”
　　“实话。”
　　赫小满把泡面汤放下。
　　“你不是不适合。你是太想证明它聪明。”她说，“聪明这东西，在你们演示里是加分。放到人身上，有时候像没敲门就进屋，还告诉人家床底下有灰。”
　　秦闻低头笑了一下，笑意很淡。
　　“这个比喻不太技术。”
　　“但你听懂了。”
　　“听懂了。”
　　“那就行。”
　　秦闻重新打开旧模块删除页面。系统仍提示：删除后风险识别能力将下降。他这次没有停。点击确认。进度条走到百分之百，旧指令从当前版本里移除。为了防止公司服务器上的版本重新覆盖，他又关闭自动同步，并生成一个只读备份，标明“不得用于店内设备”。
　　赫小满问：“删干净了吗？”
　　“本地删了。公司代码库里还有历史版本，明天要处理。”
　　“那你别说已经彻底解决。”
　　秦闻点头，在删除记录上写：店内设备已移除；公司历史版本待审计。凌晨一点零三，最后一页规则打印出来。标题不再叫“运行规范”。赫小满写的是：小秦总进店前，先守这些规矩。秦闻看着标题，没有改。他收电脑时，手机又亮了。
　　周柏言发来最后一条消息：
　　明早十点，把设备带回公司。董事会已经收到事故报告。你如果拒绝，公司将暂停你的系统权限和CEO职务。赫小满这次看清了。
　　她问：“你明天会去吗？”
　　“会。”
　　“带小秦总吗？”
　　秦闻看向已经断电的机器人。
　　“不会。”
　　“那你可能真失业。”
　　“有可能。”
　　赫小满沉默了几秒，把第二天的排班纸拿出来，在九点半旁边写上秦闻的名字。
　　“温慧来确认删除，你先在这儿。”
　　秦闻看着那行字。
　　“十点的会呢？”
　　“九点半处理完，九点五十出发。”赫小满说，“迟到十分钟，总比让人白跑强。”
　　她没有劝他为了店放弃公司，也没有说会陪他对抗董事会。
　　只把明早先做什么、几点做、做完再去哪儿，写得清清楚楚。秦闻把排班纸拍下来。
　　“好。”
　　凌晨一点二十分，两人关灯离开。
　　小秦总留在店内，断电，离线，摄像头盖住。这是它来到Two Dollars Coffee以后，第一次真正一句话都没说。