研究新发现:人们普遍高估 AI 的自信度,存在“信任幻觉”
来自多伦多大学与伦敦大学学院的研究团队在《通讯心理学》期刊上发布了一项研究,结果有点让人意外。
简单来说,就是人类太容易把 AI 想成“特别自信”了。哪怕 AI 给出的回答和人类一模一样,用户往往觉得 AI 比人更笃定、更果断。
为什么会这样?其实是因为我们在判断别人时,总得找点“线索”。当没法直接知道对方心里怎么想的时候,我们会看:
- 回得有多快:AI 通常秒回,这让我们觉得它胸有成竹。
- 说得有多顺:如果答案出来毫无卡顿,我们就默认它心里有底。
问题出在哪?
这种“想当然”其实挺危险的,主要是两个原因在推波助澜:
第一,我们自带“滤镜”。
大家脑子里早就预设了"AI 比人强”这个观念。一旦觉得某个 AI 挺牛,我们就容易把这种“牛”放大到所有场景。哪怕它其实搞不定某个复杂问题,我们也会下意识觉得:“既然它能做 A,那做 B 肯定也没问题。”
第二,AI 太“没感情”了。
平时跟人聊天,语气、表情、肢体动作都是判断可信度的关键。但现在的 AI 冷冰冰的,既不会皱眉表示怀疑,也不会微笑表示确定。我们只能靠猜,结果往往猜错了——AI 可能自己都不确定,但用户已经信以为真了。
怎么解决?
研究团队(以 Kollbach 教授为首)也意识到了这个问题,他们建议未来的 AI 产品得改改“说话”的方式:
- 把“底牌”亮出来:别让用户瞎猜。未来的 AI 应该用更直观的方式,告诉用户:“老板,我对这个问题的把握只有 60%。”
- 加上“置信度”标签:技术团队可以考虑给大模型加上一个显性的功能,直接显示系统有多自信。
这么做的好处很明显:用户就能更理性地判断该不该听 AI 的,而不是盲目跟风。
写在最后
这项研究其实戳中了一个痛点:现在的生成式 AI 容易在心理上误导用户。这也提醒做产品的人,透明度才是建立真正信任的基础。与其让 AI 装得像个无所不知的专家,不如诚实地告诉用户它的局限性。
