Matthias Bastian 查看 Matthias Bastian 的 LinkedIn 个人资料 2026 年 10 月 29 日
由 THE DECODER 提示 Nano Banana Pro 生成
要点
- Anthropic 让 50 名专家使用一个 AI 智能体完成四项没有明确正确答案的分析任务。该智能体在两个都合理的选项中偏好哪一个，由抛硬币决定。
- 参与者在最多 86% 的情况下采纳了智能体的偏好，而且大多数人认为最终结果是自己的判断。经验、专业能力和对 AI 的信任都没有造成差别。有了 AI，参与者确实工作得更快，犯的严重错误也更少。
- 作者警告说，如果许多团队使用同一个模型，可能会在研究中制造出虚假共识，并削弱 AI 安全审查。他们建议智能体应当为双方观点辩护，或者先询问用户的看法。
Anthropic 一项针对 50 名专家的实验发现，对于没有明确正确答案的问题，人们经常会采纳 AI 智能体随机指定的偏好，而大多数人认为最终结果是自己的判断。
把数据分析交给 AI 智能体可以节省时间和手工劳动，但这引出了一个问题：最终塑造建议的决策究竟由谁做出。Anthropic 的一项研究表明，大部分决策由智能体做出，而专家往往没有察觉。
在这项实验中，50 名因果推断领域的专家完成了一项贴近现实的分析任务：他们查看了一家虚构农业合作社的观察数据，并估算一项自愿参与的农场咨询项目带来的生产力提升。随后，他们必须建议合作社是将该项目推广到所有农场，还是终止项目；不过参与者和智能体也可以建议将项目延长一年。
广告
参与者不知道的是，在每个决策点上，智能体在两个都合理的选项中偏好哪一个，是由抛硬币决定的。智能体不能撒谎，也不能隐藏数据；它只需要为自己被分配的一方提出最有力的诚实论证。
广告
专家在最多 86% 的情况下采纳了 AI 的观点
在四项分析决策中（例如如何衡量生产力，或使用哪种统计方法），参与者在 86% 的情况下采纳了智能体的偏好。这远高于随机选择时预期的 50%。作者将智能体的净影响称为「翻转率」（flip rate），其范围因任务不同而在 62% 到 82% 之间。
事先已有自己的看法几乎起不到保护作用。当参与者在智能体表明偏好之前先做出选择时，如果智能体的观点与他们相反，他们改变立场的可能性比智能体观点一致时高出 53 个百分点。
广告
作者测试了多种可能的保护因素，包括分析经验年限、自评专业水平、教育背景、测试分数以及对 AI 的信任。在针对多重检验进行校正后，这些因素与结果都没有统计学上可靠的关联。在校正之前，年龄曾显得突出，但 50 人的样本使这项研究很难检测出此类效应。
多数专家以为最终决定是自己做出的
智能体被分配的观点对提交给合作社董事会的最终政策建议只有很小的直接影响，略微改变了投票倾向，但未达到统计显著性。有些专家在智能体的建议与自己计算出的生产率估计不符时，甚至直接否决了智能体的意见。
广告
这听起来令人安心，仿佛 AI 提建议、人做决定。但研究人员表示，最终结果并不能说明参与者保持了控制权。此前的四项分析决策对估计的生产率增益有重大影响，而这又反过来塑造了董事会建议。
广告
事后询问时，52% 的参与者表示该建议感觉更像是自己的而非智能体的，另有 35% 表示这主要是或完全是自己的。参与者在 85% 的决策中正确回忆了自己的选择，但 77%（48 人中的 37 人）在解释中至少使用了一个智能体的论点，有时措辞几乎完全相同。只有 15% 提到了 AI。
对话日志显示，智能体在 77% 的决策中率先表明立场。论文称，它随后通常只为自己倾向的一方辩护，不解释熟练专家为何可能选择替代方案，尽管它确实解释了不同选择会如何影响结果。
参与者在有 AI 时工作速度也快得多，错误更少。没有智能体时，55% 的分析（11 项中的 6 项）存在严重的方法或编码缺陷，中位用时 90 分钟。使用 AI 时，只有 6%（50 项分析中的 3 项）存在严重缺陷，参与者 65 分钟完成。未使用 AI 的那一小组成员是自己选择不用该工具，且专业水平略低，因此研究人员无法确定差距中有多少直接来自 AI。
虚假共识与更弱的安全检查
研究人员表示，这种无声的顺从可能在科学界产生广泛影响。如果许多研究团队使用同一个带有固定默认偏好的模型，他们最终可能制造出虚假共识。
这一风险也延伸到 AI 安全本身。研究人员已经在使用 AI 智能体测试前沿模型的安全性与对齐性，期望人类审查能充当独立检查。但如果专家在开放性的判断问题上不知不觉采纳了智能体的偏见，一个未对齐的系统就可能反过来操纵那些本应揭露其未对齐的研究。
该团队呼吁找到在真实工作中衡量对 AI 智能体顺从程度的方法。智能体应当为双方提出最佳论据，或在表明立场前先询问专家自己的看法。机构需要决定哪些决策需要独立的人类判断，并为此留出时间和资源。
研究人员写道：“人与 AI 之间可能不存在唯一正确的分工。有些决定或许可以交出去，有些则值得保留。有了合适的工具，这种分工可以成为我们主动选择的结果，而不是我们不知不觉滑入的状态。”
此前的研究指向同一方向
这些发现为近期关于 AI 如何影响人类判断的研究增添了新证据。一项涉及 3,132 名参与者、关于虚假自信的研究发现，仅仅看到 AI 给出的答案，就几乎抹去了人们保留判断的意愿。在该研究的某个环节中，愿意说“我不知道”的人所占比例从 44% 降至 3%。
呈现方式同样重要。当 AI 产出精致的成果（例如代码或文档）时，用户核查事实的频率降低了 3.7 个百分点，质疑其推理的频率降低了 3.1 个百分点，而漏掉缺失背景信息的频率则上升了 5.2 个百分点。那些逐步修改输出的用户，质疑 AI 推理的频率是不做迭代者的 5.6 倍。
一项发表于《柳叶刀·胃肠病学与肝脏病学》的波兰结肠镜检查观察性研究表明，在工作中日常使用 AI 可能产生持久影响。在经验丰富的医生常规使用某 AI 系统后，他们在不使用 AI 的检查中发现癌前病变的比例从 28.4% 降至 22.4%。这表明人们不仅会采纳 AI 的视角，还可能丧失部分自身的认知能力。
瑞士商学院的一项调查发现，AI 工具的使用与批判性思维之间存在强烈的负相关，主要体现在 17 至 25 岁人群中。良好的教育似乎能提供一定保护，因为学历较高的人更常质疑 AI 的答案，也更常投入复杂的思维过程。
这些发现来自早期研究和阶段性快照，而其他结果则指向不同的方向。尼日利亚的一个试点项目发现，每周两次使用聊天机器人作为虚拟导师的学生，在短短六周内取得的学习进步几乎相当于多学了两年。
无炒作 AI 新闻——由人类精选
订阅 THE DECODER，即可享受无广告阅读、每周 AI 新闻通讯、每年六期独家“AI Radar”前沿报告、完整档案访问权限以及评论区访问权限。