11、第11章 U盘里的魔鬼 ...
-
李娜给的U盘，赵琳花了两天时间研究。
并非内容太多——文档也就有一百来页。
是她需要反复确认每一个技术细节背后的伦理边界，计算每一种滥用可能造成的连锁反应，以及……评估李娜给她这份文档的真实意图。
是纯粹的求助，还是一次深入的试探？
这决定了赵琳会把她放在什么位置。
严格来说，两人在过去并无交情，是缺乏信任基础的。
尽管李娜周身散发出因醉心技术而极其精纯的气质，清爽干净的外表都让她很难不产生好感，而她恰恰需要警惕这样本能的好感。
羸弱的身体时刻都在用细微但无法忽略的痛提醒着她，她的盟友必须要经过确定性的考查。
随着时间的流逝，命运给予她容错的机会越来越少了。
第三天上午，赵琳在办公室里完成了分析报告的初稿。
她推开键盘，揉了揉太阳穴。连续两天的高强度工作让免疫系统的警报又拉响了，关节的钝痛从早晨开始就没停过。她看了眼药盒，还没到下一次服药时间。
不能提前！卡尔森教授的警告言犹在耳，药物间隔必须严格，否则会产生耐药性。
她缓缓起身，走到窗边，慢慢舒展一下身体。她早就习惯了这种灵魂被禁锢的无力感。
好在还有信仰足以支撑她的呼吸。
窗外是灰蒙蒙的燕京天空，像一块脏了的毛玻璃。九十七层的高度让街道上的行人和车辆都只是移动的色块，听不见声音，只有一片沉寂。
桌上的手机震动了一下。
一条新消息，来自李娜：【十点半，A3会议室，“神谕”3.5版本功能评审会。如果你方便，可以来旁听。】
没有提报告的事。
赵琳回复：【好。】
她看了眼时间，九点四十。还有五十分钟。
她回到桌前，把分析报告的最后一部分写完。结论很明确：
“情感预测”模块在技术上可行，但存在三个致命伦理风险：
第一，它基于的“微表情-行为-生理数据”关联模型，其训练数据来源未经充分知情同意。超过60%的数据样本来自社交媒体公开抓取和第三方数据贩子，其中包含大量未成年人的信息。
第二，模块的预测结果将被用于“动态定价”和“成瘾性内容推送”。这意味着，系统检测到你情绪低落时，可能向你推送高糖食品广告并提高价格；检测到你焦虑时，可能向你推荐付费心理咨询服务并延长你的应用使用时间。
第三，也是最危险的——该模块预留了一个隐藏接口，允许在“国家安全或重大商业利益需要时”，向第三方输出“群体情绪趋势预测”。这个接口没有设置任何外部审计机制。
赵琳思考再三，在报告的末尾加了一行加粗的字：
【此功能上线之日，即天穹丧失用户信任之始。】
她保存文档，但没有发给李娜。
现在还不到时候。
十点二十五，她起身，从衣架上取下大衣。穿上时，左手手腕传来一阵刺痛——类风湿关节炎的早期症状之一。
她仅皱了皱眉，没停顿，扣好扣子，拿起平板和笔记本，走出办公室。
电梯下行到九十五层。
技术中心的氛围和前两天一样，忙碌，嘈杂，带着技术人员特有的专注感。
A3会议室的门关着，但透过磨砂玻璃能看到里面已经坐了不少人。赵琳轻叩两下，推门进去。
会议室里坐了大约十五个人。长桌的一侧是李娜和她的技术团队，大约七八人，都穿着随意；另一侧是产品部、市场部、法务部的代表，西装革履。
一边面无表情如临大敌，一边职业微笑体态僵直，总之气氛微妙。
李娜坐在主位左侧，看到赵琳进来，对她点了点头，示意她随意。
技术团队的人看到是自己老大邀请的林顾问，意外之余有些胜券在握的兴奋。技术人就是这么简单，他们俨然已经将赵琳当成自己人了。
倒是其他部门的人脸色除了意外，简直可以用精彩纷呈来形容。
赵琳好像根本没在意投过来的各方眼神，找了个能观察到主位的角落，一派云淡风轻坐下，打开平板。
会议开始了。
第一个发言的是李娜对面的产品部总监，一个四十多岁、头发梳得一丝不苟的男人，名叫陈斌。他身后的大屏幕上投影着精美的PPT，标题是：
“神谕3.5——更懂你的AI伙伴”。
“……情感预测模块是我们下一阶段的王牌功能。”陈斌语气激昂，“想象一下，AI不仅能理解你说的话，还能感知你的情绪状态，在你需要的时候提供恰到好处的关怀和建议。这将是人机交互的革命！”
市场部的一个女经理接话：“我们的用户调研显示，68%的年轻用户希望AI更有‘人情味’。情感预测能极大提升用户粘性和付费意愿。保守估计，这个模块能让‘神谕’的日均使用时长增加23%，相关广告收入提升40%以上。”
法务部代表推了推眼镜：“从合规角度，只要我们在用户协议里增加相关条款，明确告知数据用途，法律风险是可控的。欧洲的GDPR对情感数据有特殊规定，但我们可以通过架构设计把数据处理放在欧盟境外服务器。”
技术团队这边，一个年轻工程师举手：“李总，我们测试时发现，情绪识别准确率目前只有71%，而且对文化差异、个体表达习惯的适应性很差。比如同样的微笑，在东亚可能表示礼貌，在美国可能表示友好，在中东可能表示尴尬……模型很容易误判。”
陈斌摆摆手：“71%已经比人类平均判断准确率高了好吗？再说，我们是商业产品，不是学术论文。先上线，再迭代。”
“可是误判会导致错误的推送，可能引发用户反感甚至诉讼……”
“那就加个开关，让用户自己选择是否开启。”陈斌不耐烦，“李总，您觉得呢？”
所有人的目光转向李娜。
李娜双手交叠放在桌上，手指无意识地在桌面轻轻轮击。赵琳知道这是她思考的习惯。
而此时她到底是在思考如何回答陈斌的提问？还是思考怎么让这些人知道，这样做的结果会很糟糕呢？
赵琳轻轻抿唇看着李娜。
“准确率低只是技术问题。”她开口，声音平静，“我更关心的是，这个功能的底层逻辑是什么？我们预测用户情绪，最终目的是什么？是为了提供更好的服务，还是为了更高效地……操纵用户？”
会议室安静了一瞬。
陈斌笑了：“李总，您这话说得太难听了。商业的本质就是满足用户需求，我们只是更精准地满足了需求而已。”
“通过利用他们的情绪弱点？”李娜抬眼看他，毫不客气。
“情绪不是弱点，是人性。”陈斌耸耸肩，“我们卖的不是药品，是内容和商品。用户自己可以选买或不买。”
“当推送时机精准到情绪最低点时，选择还是自由的吗？”李娜继续逼问。
辩论开始升级。
赵琳坐在墙边，快速但安静地观察并记录着每个人的立场和说辞。
她能看出，技术团队里至少有一半人支持李娜，但不敢公开反驳产品部和市场部——那是掌握着项目资源和绩效考评到两个部门，在天穹，别说技术部，哪个部门都不敢轻易得罪他们。
恰恰所有能让天花乱坠的人精还都集中在这个部门。
张天豪实在是谙熟人心。
陈斌显然有备而来。他调出一组数据：“李总，这是竞品分析。‘智心’科技下个月就要上线类似功能，‘云图’也在内测。如果我们不跟上，市场份额会被蚕食。而且……你看，董事会那边，张总也明确表示要加快创新节奏。”
他搬出了张天豪。
李娜的手指停住了。
会议室里的空气凝固了几秒。
就在这时，陈斌身后的PPT翻到了下一页。
那是一张复杂的系统架构图，展示情感预测模块如何与“神谕”的其他子系统对接。
赵琳的目光落在图上的一个角落。
那里有一个小小的、几乎被忽略的注释框，里面写着一行英文：
Backdoor: Emo_Export (v2.3)
情绪导出后门，版本2.3。
她的瞳孔微微收缩。
这个后门，在李娜给她的文档里没有提及。
要么是李娜也不知道，要么是……李娜故意没给她看完整版。
她抬起头，不再是观察到姿态，而是直接看向李娜。
李娜正盯着那张架构图，眉头紧锁。显然，她也看到了那个注释。
“陈总监，”李娜的声音冷了下来，“这个‘Emo_Export’接口是做什么的？”
陈斌愣了一下，回头看了眼屏幕，随即笑了：“哦，那个啊，是技术上的冗余设计。为了将来可能的数据合作预留的通道，目前没有启用。”
“预留给谁？”李娜根本没打算放过他，追问。
“这个……要看未来的商业合作需求。”陈斌含糊道，“可能是研究机构，也可能是战略合作伙伴。李总，技术细节我们稍后再讨论，现在先敲定功能上线的……”
“可是……这个后门能绕过用户授权，直接导出原始情绪数据。”一个清晰冷静地声音从墙边响起。
所有人的目光转向了发声的赵琳。
她不知什么时候已经站了起来，手里拿着平板，屏幕对着众人。上面是放大后的架构图局部，那个注释框被高亮标记。
陈斌的脸色变了变：“林……顾问对吧？这是我们……内部的技术会议，你作为安全顾问，刚刚到公司，可能不太了解具体情况……”
他刻意在“内部”“刚刚”两个词上加重了声音。
“我了解。”赵琳打断他，“Emo_Export接口在代码层的定义是：‘允许在系统标记为高优先级时，将指定用户的实时情绪波动数据流，以加密形式推送到预设的外部端点’。这个定义里没有‘用户授权’字段，也没有‘审计日志’要求。”
她顿了顿，环视会议室。
“也就是说，只要系统被设置一个标记，任何用户的情绪数据都可以在未经其知晓的情况下，被发送到任何一个预设的服务器。而这个标记的权限等级，只需要Level-6——据我了解，在座的产品经理和市场经理，很多人都有这个权限。”
她的声音依旧没有情绪，仅仅是阐述事实。
却让会议室死寂。
几个产品部的人下意识地移开了目光。
陈斌的脸涨红了：“林顾问，你这是过度解读！这个接口有严格的内部审批流程……”
“审批流程在哪里呢？”赵琳调出另一份文档，“我查了‘神谕’系统的权限管理规范，关于数据导出的审批，只针对‘个人可识别信息’。情绪数据被归类为‘行为元数据’，不属于PII，所以导出不需要特殊审批——只需直属上级批准即可。而陈总监您，正是所有产品经理的直属上级。”
她放下平板。淡淡地看向陈斌。语调没有起伏。
“所以理论上，您一个人就可以决定，把所有用户的实时情绪数据，发送到任何地方。虽然我刚刚来，但是我所有的工作内容是要向张总直接汇报的，我不能有‘重要的数据可以绕过他的授权’这件事，不告诉他。”
没有质问胜似质问。这句话像一颗石子投入平静的水面。涟漪荡开。
所有人的表情都凝固了。
李娜看着赵琳，眼神里有震惊，有感激，也有……一种复杂的了然。
她知道赵琳开始入局了。
但她没想到，赵琳会以这么直接的方式。
陈斌张了张嘴，想反驳，却找不到词。
因为赵琳说的，每一个字，都是事实。
而事实，最无法反驳。
作者有话说
第11章 第11章 U盘里的魔鬼
