AI让人更自信也更容易答错。有了AI之后，人们不再愿意承认自己“不知道”
最近，一项由法国和意大利三所大学研究者完成的实验发现：只要允许参与者向AI求助，他们承认“不知道”的比例就会大幅下降。研究包含5项实验，共3132人。在一次复现实验中，没有AI时，43.6%的回答选择暂不判断；有AI后，只剩下2.6%。
研究者会故意挑选大模型容易答错的冷门电影细节，并使用在这些问题上几乎总是出错的模型。
怎么说呢，模型如果足够可靠，采纳建议本来就是理性选择。
实验揭示的风险的确成立：AI把“不确定”迅速加工成了“有答案”。在另一项实验的无奖金组中，参与者的准确率从27.6%降至10.0%，信心度却从29.6升至75.9。
人并没有因为知道得更多而自信，只是因为眼前出现了一段完整、流畅、像答案的文字。
这会改变人的判断流程。
过去，我们先问“我知道吗”；现在，很容易只问“哪个答案听起来更像真的”。搜索引擎至少还会暴露多个链接、出处和冲突信息，聊天机器人则倾向于把过程压缩成一个结论。界面越顺滑，核验越像多余动作。
之前，微软研究院对319名知识工作者的调查发现，对生成式AI越有信心，投入的批判性思考往往越少；《自然》也曾警告，AI可能制造“理解幻觉”。真正被外包的，可能是判断自己到底懂不懂的能力。
所以，AI产品不能只追求回答率和流畅度，还应显示不确定性、来源与反证，并允许系统明确说“不知道”。
AI可以负责检索和初稿，高风险事实必须找第二信源或直接证据。会说“我不知道”，不是能力不足，而是认知系统的安全阀。