自动化偏见：为什么 AI 给的答案让你莫名更自信

做一个对比。

情形 A：一个朋友跟你说"我觉得这家公司的护城河挺深的，主要是因为客户切换成本高"。

情形 B：你把资料输入一个 AI 工具，它输出了一段结构清晰的分析，结论是"该公司具备较深的护城河，主要源于较高的客户切换成本"。

两句话的信息内容基本一样。但你对它们的采信程度，很可能不一样。

大多数人会觉得 B 更"客观"、更"经过分析"、更可信。

这就是自动化偏见（automation bias）——人倾向于过度信任自动化系统的输出，且倾向于减少对它的独立核验。

这个现象在人因工程领域研究得很多，最早来自航空和医疗等使用自动化辅助系统的场景。

一、为什么会这样

原因一：形式被误读为质量

流畅、完整、有条理的表达，会被大脑当成"经过深思熟虑"的信号。

这个联想在人际交流中通常是有效的——一个能把事情说清楚的人，往往确实想得比较清楚。

但对一个生成式工具来说，流畅和有条理是它的默认输出形式，而不是它思考深度的体现。

换句话说：那个把"这是深思熟虑"和"表达清晰"关联起来的经验，在这里失效了。

原因二：没有可见的不确定信号

人在不确定时，会有可观察的表现：犹豫、说"我不太确定"、语气变弱、补充限定条件。

这些信号是你判断对方可信度的重要依据，而且大部分是无意识处理的。

而工具的输出通常是同样的语气和确定程度，无论它处理的是一个有充分依据的问题，还是一个它其实没有信息的问题。

于是你失去了一个平时非常依赖的判断线索。

原因三：责任的心理转移

当一个结论来自"系统"，人会有一种隐约的责任转移感——"这不是我拍脑袋想的"。

这种感觉会降低你继续核验的动力。

原因四：省力

核验是费力的。而如果一个输出看起来已经很完整，那么"再核一遍"就显得多余。

人的默认设置是省力，而自动化偏见给了省力一个正当理由。

二、在投资场景里的具体风险

风险一：确信度被虚高地抬升

这是最直接的一条。

你原本对某个判断有 60% 的把握。用工具做了一轮分析，输出支持你的判断。你的把握上升到 80%。

但真正该问的是：这轮分析提供了什么新的、可验证的信息吗？

如果它只是把你已经知道的东西重新组织了一遍，那么它提供的是条理，不是证据——而条理不应该提高确信度。

见 与市场噪音相处 里"信息量、信心、准确率三条曲线的分离"。

风险二：核验被跳过

一个具体的数字、一个日期、一条引用——如果它出现在一段流畅的分析里，人核对它的意愿会明显低于它出现在一条随口说的话里。

而在投资中，正是这些具体的数字和事实，最需要被核对。

风险三：它会顺着你的方向走

如果你的提问方式带有倾向（"帮我分析一下这家公司的投资价值"，隐含你已经看好），那么你得到的输出可能会顺着这个倾向。

这时候自动化偏见和确认偏误叠加：你得到了一份支持自己的、看起来很客观的材料。见 确认偏误。

这个叠加特别危险，因为它同时满足了"我想要支持"和"我需要它看起来客观"两个需求。

风险四：它让你觉得自己做了研究

用工具生成一份分析，感觉上像是完成了研究工作。

但研究的核心是核验和判断，不是产出文档。

如果那份分析里的每一个关键假设你都没有独立核对过，那么你拥有的是一份文档，不是一个判断。

三、怎么用才对

必要的说明：这一篇讨论的是使用者的心理，不涉及任何具体产品的能力评价。关于 AI 工具在投研中能做什么、在哪里容易出问题，站内量化卷有系统的讨论，见 量化与 AI 投研概念库 所在的系列以及 guide 里的 AI 投研相关章节。

做法一：把输出当成草稿，不当成结论

心态上的定位很重要。

一份工具输出的分析，应该被当成"一个待核验的初稿"，而不是"一份分析报告"。

具体动作：读完之后，列出它里面所有的事实性断言（数字、日期、事件、引用），然后逐一核对原始来源。

做法二：对具体数字保持和平时一样的怀疑

给自己定一条规则：任何要进入我决策的数字，必须来自我自己核对过的原始来源。

不管它是从哪里来的——朋友说的、研报上的、还是工具输出的——标准应该一致。

自动化偏见的本质就是对不同来源采用了不同的标准，所以对策就是把标准统一回来。

做法三：注意自己的提问方式

如果你想要一个不偏不倚的输入，那么问法就不能带倾向。

比较：

• ❌ 「帮我分析这家公司的投资价值」
• ✅ 「列出这家公司最主要的三个风险，以及支持看空的论据」

后者更有用，因为你自己已经有了看好的理由，你需要的是补上另一边。

这和 确认偏误 里"主动做反向搜索"是同一个原理。

做法四：区分"整理"和"判断"

工具在整理上的价值和在判断上的价值，是两回事。

• 整理（把一堆材料归纳成结构、找出你没注意到的段落、做对照表）→ 这类产出可以直接使用，因为它可以被快速核验
• 判断（这家公司好不好、这个价格贵不贵）→ 这类产出只能作为参考视角，不能替代你自己的判断

一个实用的分界：如果一个产出你可以在几分钟内核实它对不对，那它是整理；如果需要你自己做完整的分析才能判断它对不对，那它就是判断——而那种情况下，你还不如自己直接做那个分析。

做法五：给自己一个核验的固定动作

因为自动化偏见的作用是降低核验意愿，所以对策应该是让核验变成不需要意愿的例行动作。

比如：把"核对所有事实性断言"写进你的 投资检查清单，作为一个必须打勾的条目。

清单的价值就在这里：它对抗的正是"我觉得不用核了"这种感觉。

本节要点

• 自动化偏见：人倾向于过度信任自动化系统的输出，并减少独立核验。同样的信息，从工具来和从人来，采信程度不同。
• 四个原因：形式被误读为质量（"表达清晰=想得清楚"这个人际经验在这里失效）、没有可见的不确定信号（人会犹豫、会说"我不太确定"，而工具的语气通常恒定，于是你失去了一个平时高度依赖的判断线索）、责任的心理转移、省力。
• 四个风险：确信度被虚高抬升（要问"这提供了新的可验证信息吗"——条理不是证据）、核验被跳过（而具体数字恰恰最需要核对）、它会顺着你的提问倾向走（与确认偏误叠加，同时满足"我想要支持"和"我需要它看起来客观"）、让你觉得自己做了研究（但研究的核心是核验和判断，不是产出文档）。
• 五个做法：把输出当草稿不当结论（列出所有事实性断言逐一核对）、对所有来源的数字采用统一标准（自动化偏见的本质就是标准不统一）、注意提问方式（问"三个最主要的风险"而不是"投资价值"）、区分"整理"和"判断"（能几分钟核实的是整理，需要你做完整分析才能判断的是判断——那种情况下不如自己直接做）、把核验写进清单（让它变成不需要意愿的例行动作）。

---

本文为投资通识教育内容，不构成任何投资建议。本文讨论使用者的心理机制，不涉及对任何具体产品能力的评价。