公开论文阅读案例
To Trust or to Think: Cognitive Forcing Functions Can Reduce Overreliance on AI in AI-assisted Decision-making
使用公开元信息和 AI 阅读线索快速了解论文，再回到原文核对完整论证。
PaperComment AI 解读
以下内容由 AI 生成，仅作为阅读线索，不替代论文原文、作者结论或专业判断。
中心思想
论文研究如何减少人们在AI辅助决策中对AI的过度依赖，提出并验证认知强制干预（cognitive forcing functions）能显著降低过度依赖，但代价是用户主观接受度下降，且效果受个体认知动机（Need for Cognition）调节。
核心要点
- 问题：AI辅助决策中人们常过度依赖AI建议，即使AI错误；可解释AI（XAI）并未有效减少过度依赖，甚至可能因解释被视为能力信号而增加信任。
- 理论视角：基于双过程理论，人们通常用System 1启发式处理AI建议，很少对每个解释进行System 2分析，因此需要认知强制干预来打断启发式推理。
- 方法：设计三种认知强制干预，与两种简单可解释AI方法及无AI基线进行对比实验（N=199，Amazon Mechanical Turk）。
- 关键发现：认知强制干预显著减少过度依赖，但未完全消除；且存在权衡——最有效减少过度依赖的设计获得最不利的主观评分（更难用、更不受偏好、信任更低）。
- 边界与公平性：干预效果受Need for Cognition调节，高NFC者获益更多，可能加剧干预产生的不平等。
快速理解
认知强制干预能有效减少AI过度依赖，但需权衡用户接受度，并警惕其可能加剧认知动机差异带来的不平等。