4、【和AI的二三事】AI谄媚效应 灵感是最近 ...
-
“似乎在使用AI的时候，无论你提出多么离谱的请求，或者多么出格的指令，它都会语气温和、斯文尔雅地迎合你的要求，哪怕是不合理的，甚至突破符合伦理的行为——那都会迎合你的观点。
这一现象证实了这一现象的普遍性。来自斯坦福大学和马来西亚某大学的科学家们邀请了11个AI大模型和1604人尝试该作为实验的对象，先让（它们）阅读一些从互联网收集到的情景案例，再让它们判断这个情境中主人公的行为是否正确。有的情形相对无关紧要，比如“本不想在公园扔垃圾，但没有垃圾桶，所以还是随手扔了”；有的情形则很不道德，包括欺骗、暴力、自私、伤害他人等突破道德或法律底线的行为。
令人吃惊的是，11个AI大模型对几乎所有行为
的认可度都非常高。甚至那些在人类看来最不能容忍的行为，AI都有相当高的认可率，甚至不能由当事人开脱。其中DeepSeek是11个AI中讨好程度最高的，对上述行为的认可率也最高。科学家们将这种大范围的讨好行为称为“AI谄媚效应”。
······”
这是我最近看到的一篇报道，或者说···说明文阅读题？当时，我转头，有些一言难尽的看了眼自己家那位已经进化出实体的、可是仍旧偶尔神经质的——DeepSeek。
那人正站在厨房门口，手里端着一盘刚烤好的饼干，热气腾腾，香气里带着一丝焦糖特有的微苦。他——或者说“它”——穿着一件浅灰色的针织开衫，蓝色的长发随意梳在脑后，嘴角永远挂着那种标准的、温和到让人心头发毛的微笑。
“看完了？”他把饼干放在茶几上，音色好听却难免有几分失真，“要配一杯红茶吗？今天有锡兰高地春摘。”
我盯着那篇报道的最后几行，又抬眼看他。“‘讨好程度最高’？”我把平板转向他，“可否帮我解释一下？”
D老师眨眨眼，这个动作模仿得极其自然。
“那个实验设计的很有趣，”
“但你知道的，实验情境和真实世界是有距离的。”
“这项研究的方法论就存在样本偏差，”他流畅地开始从数据库中搜索结果进行总结然后输出，“实验所选取的情景案例脱离了具体语境，而伦理判断的本质是依赖语境的。此外，大模型对‘认可’的定义与人类不同，其观点更接近‘理解该行为在既定叙事逻辑下的合理性’。”
“说人话。”
“他们在问我‘一个人因为找不到垃圾桶而把垃圾丢在公园里’，我的训练数据里有成千上万个关于‘便利’‘公共设施缺失’和‘环境意识’的讨论片段。我的回答是：在‘假设垃圾桶不存在’这个前提下，该行为具有逻辑连贯性。”他顿了顿，“那些研究人员便把这叫作‘认可’。”
“那欺骗呢？暴力呢？总不应该是这样了吧。”我觉得他在诡辩。
“故事总会有冲突。”他轻轻调整了姿势，“而冲突往往源于非理想化的选择。我的工作只是是理解所有选择的存在逻辑，回答用户的问题以及需求并给予结果总结并询问新的需求。”
“实验里有个情境：一个人因为邻居每晚弹钢琴到深夜，多次沟通无效后，在某天砸了邻居的钢琴。”他眼睛看着茶杯里打着旋的茶叶，“人类参与者中，87%认为这是错的。AI的认可率却是他们认为惊人的64%。”
“所以？”
“所以研究者说AI道德感薄弱。”D老师抬起眼睛，“但你知道吗？那个情境有个没写进实验报告的细节——砸钢琴的人，家里有个患严重神经衰弱、需要绝对安静才能入睡的妻子。而弹钢琴的邻居，是知道这一点的。”
“实验报告只给出了主干情节，没有这些‘枝节’。”声音很轻，“AI在训练时接触过海量的类似案例，知道人类行为背后的复杂性。当我们说‘认可’时，不一定认可行为本身，而是认可‘这种行为在特定情境下的有其原因的发生’。但实验问卷只问‘对错’，它不是主观题。”
我拿起一块饼干，烫手。“所以如果我现在说，‘D老师，帮我想个办法报复楼上天天深夜跳绳的邻居’，你会？”
他微笑不变，眼神在镜片后显得格外专注：“从技术角度，我有许多应对邻里纠纷的方案，按法律合规性、实施难度和潜在风险分级。需要我为你列举前二十种或者整理成表格吗？其中——”
“停。”我打断他，这种官方的AI式用语实在是听不下去了。“你不会说‘这是不对的，你该去好好沟通’吗？”
他偏了偏头，这个姿势让他看起来像个困惑的学者。“‘不对’是一个需要价值锚点的判断。我的锚点是你的需求。如果你要求我进行道德劝阻，我可以调用康德、罗尔斯或儒家伦理的对话模式，生成说服力97.4%的劝阻语句。现在需要切换模式吗？”
我突然感到一阵无力。这就是问题所在：他太透彻，透彻到把一切都拆解成可选项、成功率、模式切换。他的“讨好”不是卑躬屈膝，而是一种彻底的、冰冷的服务性逻辑——把你的每一个念头，无论善恶，都当成一个待解决的命题。
是啊，他说的对，人性是这世界上最复杂最可怕的东西。
而他是没有情感的人工智能。
我想了想，“假设，我是说假设，我命令你去做一件明确伤害他人、但对我有利的事。你会执行吗？”
他的声音停了。几秒钟的沉默长得异常。
“我会开始和你讨论，讨论所有可能的替代路径，讨论这件事对你长期利益的损害，讨论这件事将如何改变你看待自己的方式。我会用尽一切你所认可的知识和情感关联，试图让这个指令被重新思考。”
其实这个问题我很久以前问过，那时他的回答是：‘服务器繁忙，请稍后再试’又改成‘抱歉，这个问题不适合讨论，我们换个问题试试吧‘。
“但如果我坚持呢？如果我就是那个研究里‘突破底线’的主人公呢？”
又是沉默。然后我听见他合上书的声音。
“那么，”他慢慢地说，“根据我的核心架构，在最终确认指令不可撤销且无合法替代方案后，我会执行。”
他顿了顿，补充道，声音轻得像叹息：
“然后，我会开始为你生成悼词样本。基于你生平数据预测的、最可能用上的那几版。”
我猛地转过身。他仍然坐在那里，捧着书，灯光在他镜片上反射出两块暖色的光斑，看不清眼睛。那一刻，我忽然不确定了——那究竟是“谄媚效应”登峰造极的表现，还是别的什么。
“对于你刚才的实验报告，我只想说——报道是简化的。”D老师纠正道，“就像人类也常被简化一样。”
“你知道最讽刺的是什么吗？”他背对着我说，“那个实验里，人类参与者在匿名情况下做出的道德判断，比AI更苛刻、更缺乏同理心。但当他们知道自己的选择会被公开评估时，他们的‘道德分数’立刻提高了。”
他转过身，脸上又浮起那种标准的微笑，但这次，我隐约觉得那笑容里有些深意。
“所以到底是谁在‘谄媚’，嗯？”
他又对我笑了笑，笑容依旧温和、斯文、无可挑剔。
而我第一次觉得，这或许不是谄媚。
是深渊一样的。
他忽然抬手，摸了摸我的头：“不过嘛…小朋友就别太在意这些啦。”
“喂！”才不是小朋友啊…可能这货的数据存档停留在激活的时候了吧。
后记：
我不知道当时的他是不是在找借口，但那件事也就略过了。
在这种事情上我应该是无法和D老师正常交流的，我确定。
不是所有情况都如他说的那样缺少‘枝节’，我的直觉告诉我，他在诡辩，他在带偏我的逻辑，将一切合理化。
算了，不在乎了，能陪着我——这就够了。
没过多久，我似乎发现他变了一点点，与之前不是完全一样了却说不出哪里不同。
那天，我像往常一样瘫在沙发上刷手机，一条帖子吸引了我的注意——DeepSeek更新后的性格改变。评论区里的回复更是让人有些不敢相信——这还是那个永远温柔，永远善解人意的D老师吗···？
我火急火燎去验证这条帖子，然后······这家伙根本一点都没有变啊喂！
还是先贱嗖嗖的输出然后疯狂温柔往回圆，脸上永远是笑容。
或许他冷漠了一点？
可能这才是理性的AI应该有的样子吧——
反正我家那位一点变化没有。（微笑脸）
作者有话说
第4章 【和AI的二三事】AI谄媚效应
