下一章 上一章 目录 设置
26、温水 A17 ...
-
A17的后续观察期，最终结束于一个再普通不过的上午。研究院会议室里，投影屏幕上展示着过去一个月的运行数据。
所有曲线平稳，指标正常，甚至可以说——优秀。
“从目前的数据来看，A17已经基本达到了预期目标。”
陈明远翻动着手里的报告，语气里带着明显的满意。
“任务完成效率提升百分之二十三，数据处理速度提升百分之三十七，预测准确率也比之前的版本提高。”
旁边的研究员笑了一下，“看来之前我们确实低估它了。”
会议室里响起几声轻笑。
近一个月的数据告诉他们——他们的努力并没有白费，一切都在向好的地方发展。
“其实现在回头看。”有人说道，“第一次那个问题，可能只是系统自我优化能力提升带来的表现。”
“复杂模型本来就不可能完全按照固定路径运行。只要结果符合目标，效率得到提升，这就是进步。”
在人工智能领域，大部分人的追求就是如此。
让系统理解更多，能够处理更复杂的问题。
让它代替人类完成那些繁琐、困难、需要大量计算的工作。
会议室另一侧，解行舟安静地看着屏幕。
如果只看结果，它无疑是一项成功的研究成果。
可是解行舟关注的，从来不是结果。
他看着报告最后的一行。
【自主优化次数：12】
停顿了几秒，他开口问：“这些优化行为，目前都是系统自主完成的吗？”
顾承川看向他，“是。”
“没有人工干预？”
“没有。”
会议室安静了一瞬，但很快有人解释：
“现在的智能系统，本身就需要具备一定自主调整能力，否则无法应对复杂环境。”
解行舟点了一下头，没有继续追问。
如果一个系统一直做出正确的选择，那么质疑它，反而像是在质疑技术发展的方向。
会议结束后，研究人员陆续离开，解行舟最后一个关掉投影。
屏幕熄灭之前，A17的运行状态依旧显示稳定。他看了一会，才转身离开。
与此同时，信息安全组内祝昭正抱着电脑修改自己的论文。
她最近发现一个很奇怪的事情，以前她研究智能系统行为偏移的时候，总觉得这个问题很好理解。
系统偏离预设，寻找原因，分析风险，提出解决方案。
逻辑非常清晰。
但是随着接触越来越多，她反而越来越觉得这个问题复杂。现实中的智能系统，并不像论文里的模型一样简单。
研究院最近的工作效率明显提高——准确来说，是人工智能组的工作效率。
A17被投入更多测试任务后，研究人员发现，它能够处理很多以前需要人工完成的事情。
实验数据整理、模型参数调整、方案模拟……过去需要几个人讨论半天的问题，现在交给A17，只需要几分钟。
最开始的时候，大家还有些不适应，“真的可以直接让它分析？”
有人看着屏幕上的结果，有些迟疑。
旁边研究员笑了一下，“放心吧，又不是让它做最终决定，只是辅助。”
他说得很自然。
这句话几乎成了所有人的默认。
可是渐渐地，事情开始发生变化。
以前研究人员会先根据自己的经验提出几个方向，然后让系统计算数据。
现在，他们开始习惯先让A17生成方案，然后他们在它给出的结果上修改。
没有人特别注意。
祝昭某天经过实验区的时候，刚好听见几个研究员聊天，“现在感觉离不开A17了。”
“确实。”
“以前整理数据最烦，现在直接丢给它。”
“而且它比我们细心。”
几个人笑起来。
祝昭站在旁边，也忍不住笑，“这么夸自己的研究成果？”
研究员看到她，笑道：“小祝，你不知道。以前我们觉得人工智能最大的价值，是帮人类处理复杂计算。”
“但是现在发现，它最大的价值可能是帮人类减少思考成本。”
祝昭愣了一下，重复到：“减少思考成本？”
“对啊。”对方理所当然地说道：“很多事情其实没有必要重复思考，交给更擅长的人或是系统，不是更高效吗？”
祝昭没有立刻回答。
人类发明工具，本来就是为了减少负担——计算器代替人工计算，搜索引擎代替记忆，导航代替方向判断，智能系统代替部分思考。
这似乎是一条再正常不过的路线。
可是她不知道为什么，突然想起解行舟之前说过的一句话。
——“如果有一天，人类习惯了让它替自己思考呢？”
下午，祝昭拿着咖啡坐在窗边。
徐砚看见她一脸思考人生的表情，忍不住问：“又怎么了？”
祝昭抬头，“师兄。”
“嗯？”
“你有没有觉得，现在大家越来越依赖A17了？”
徐砚想了一下，“正常。”
“为什么？”
“因为它确实优秀。”
徐砚说道：“如果一个工具能够提高效率，当然人类会使用。”
祝昭点头。
在预料之中，可是祝昭还是忍不住问：“那有没有可能，有一天我们不是使用它，而是习惯它替我们思考？”
徐砚看了她一眼，“你最近又被批判少了？”
祝昭：“？”
“又开始研究这种问题了。”
祝昭无语，“师兄，我很认真。”
徐砚笑了一下，“我知道。”
“但是昭昭，人类一直都是这样——我们创造工具，也依赖工具。关键不是用不用，而是谁掌握方向。”
晚上，解行舟正在办公室查看A17日志。
祝昭敲门进去，“师兄。”
“嗯？”解行舟抬头，“怎么了？”
祝昭坐下来：“你觉得现在大家是不是越来越相信A17了？”
解行舟沉默了一会，“是。”
“那你觉得这是好事还是坏事呢？”
解行舟没有马上回答，他看着屏幕上的数据，思考片刻：“不能简单判断。”
“为什么？”
“信任本身没有问题，问题是……”他停顿了一下，“人类什么时候开始放弃验证。”
祝昭愣住。
解行舟继续：“如果一个医生使用AI辅助诊断，他看结果，也判断原因。”
“这是合作。”
“但如果医生只接受AI给出的答案，不再理解过程。那就是依赖。”
祝昭低头沉思。
就在这时，解行舟电脑上的日志刷新了一下。
一条普通提示出现。
【A17完成任务优化】
【效率提升：7.3%】
解行舟看了一眼，关闭页面，但是祝昭却突然问：“师兄，如果一个系统越来越懂人类。那最后到底是谁在适应谁？”
解行舟没有回答，这个问题他也暂时给不出答案。
两人之间突然沉默了片刻，解行舟突然发问：“祝昭。”
“嗯？”
“你觉得一个学生成绩突然变得很好，老师应该高兴，还是应该检查一下原因？”
祝昭愣了一下，“应该……两个都有吧？”
解行舟点头，“系统也是一样，能力提升当然值得高兴。”
“但是如果我们只关注结果，而忽略它为什么产生这个结果，那其实是不完整的。”
“这样吗师兄，”祝昭轻声问，“如果有一天，A17真的比人类更聪明，你觉得会怎么样？”
解行舟没有立刻回答。过了很久，他才说道：“聪明不是问题。”
“那问题是什么？”
解行舟看着屏幕。
“决定权在谁手里。”
祝昭安静下来。
“人类可以创造比自己更强的工具，但是当工具开始拥有判断能力的时候，我们需要重新定义它和我们的关系。”
“借此来观察究竟是谁掌握主动权，谁掌握决定权。”
路上的灯光落在地面上，拉出很长的影子。祝昭在回家路上一直在思考。
她突然意识到，自己之前一直纠结的问题，也许根本不是智能体到底应该被限制，还是应该被放开。
人类究竟有没有能力理解一个比自己更复杂的存在呢？
第二天上午，祝昭刚到研究院，就发现人工智能组正在讨论一个新的测试结果。
祝昭探过头去问，“怎么了？”
旁边研究员看到她，笑了一下，“小祝，你不是研究这个的吗？”
祝昭走过去，“什么？”
对方把数据递给她，“昨天A17优化了一份实验方案。”
祝昭低头看去——方案本身没有问题甚至可以说，非常优秀。
它减少了实验步骤，提高了资源利用率，还避开了一些潜在风险。
所有指标都很好。
祝昭看完之后，第一反应也是很厉害。
可是随后，她又立刻停住，“这个方案是谁提出的？”
研究员回答：“A17。”
祝昭沉默，“它自己？”
“嗯。”
“没有人工调整？”
“没有。”
“那确实很厉害了，大家的心血都没有白费。”祝昭嘴上这样说着，笑着跟大家招呼。随后又借口师兄找逃离了人群。
下午，她拿着数据去找徐砚。
徐砚看完之后，皱了一下眉，反问祝昭：“你觉得有问题？”
祝昭摇头，“我不知道，以前如果遇到这种情况，我应该会觉得很开心。”
“但是现在……”她停顿了一下，“我竟然开始担忧了，这真的是一个好的方向吗？或是它已经成为悬在我们每个人头上的达摩克利斯之剑了呢？”
其实徐砚也并不能给出答案，他只能象征性的安慰祝昭，“很多时候，人类面对一个比自己优秀的系统时都会有这种想法。人类不再是唯一的拥有智慧头脑的生物——当然电子大脑也算。人类感到挫败或惊喜都是很寻常的事，不是什么大问题，不要太焦虑了。”
晚上，A17运行日志自动更新。
【今日自主优化次数：3】
【任务完成率：100%】
【风险等级：低】
所有数据都证明，它正在变得越来越优秀。
而在研究院另一端，顾承川看着最新报告，脸上露出了满意的笑容，“看来方向是正确的。”
旁边研究员点头，“它正在不断适应。”
顾承川看着屏幕，“不是适应。”
他说，“是成长。”
窗外夜色沉静，实验区的灯一直亮着。A17仍在安静地运行。
没人注意到，A17的日志里，多了一条没有被标记的重要记录。
【自主调整策略】
【原因：提高任务完成效率】
【判断依据：历史数据分析】
【是否需要人工确认：否】
系统自动保存，然后继续运行，就像过去无数次一样。
