AI时代,你的大脑如何应变
6 小时前 1 阅读来源:MIT Technology Review
AI 中文改写
原文为英文,由 AI 改写为中文报道,内容完整。如需参考原文请点击下方链接
人工智能聊天机器人正在成为越来越多人获取新闻资讯的得力助手,但一项来自麻省理工学院媒体实验室的最新研究却给这股热潮泼了一盆冷水。该研究由 Pattie Maes 教授及其团队主导,发现一个令人担忧的现象:长期依赖 AI 辅助判断新闻真伪的用户,在脱离 AI 后,其辨别虚假信息的能力反而出现了显著下降。这项研究揭示了 AI 在提升效率的同时,也可能悄然削弱人类自身的认知能力,形成一种“AI 依赖悖论”。
研究团队招募了一批参与者,让他们在四周内借助聊天机器人评估新闻标题和图片的真实性。结果显示,在实验初期,使用 AI 辅助的参与者辨别真假新闻的准确率比未使用者高出 21%。然而,到了第四周,当这些参与者不再依赖 AI 时,他们识别虚假新闻的能力竟然比实验前下降了 15%。更值得注意的是,尽管实际能力下降,仍有约四分之一的参与者自我感觉良好,认为自己辨别信息的能力有所提升。这种“自信的错觉”恰恰反映了 AI 依赖的隐蔽性——用户往往被大语言模型(LLM,大型语言模型)的“神奇”表现所迷惑,却忘记了它们本质上只是基于统计规律预测序列中下一个“词元”(token)的数学模型。
该研究的主要作者之一、媒体艺术与科学博士生 Anku Rani 指出,用户容易对 LLM 产生过度信任,而忽视了其内在的局限性。不过,研究也带来了一些积极发现:并非所有 AI 交互方式都会导致依赖。实验对比了两种不同的 AI 风格:一种是直接给出答案的“告知型”AI,另一种是通过苏格拉底式提问引导用户思考的“引导型”AI。结果显示,虽然“告知型”AI 在短期内效率更高,但“引导型”AI 更能帮助用户真正掌握独立辨别真伪的能力。另一位主要作者 Valdemar Danry 表示,这本质上是一个“速度与努力”之间的权衡——直接给答案虽然快,却容易让人形成依赖;而引导式提问虽然初期会拖慢进度,却能促进深度学习。这一发现对于教育、医疗等需要长期培养专业判断力的领域具有重要启示,也为 AI 产品的设计提供了新的思路:如何在提升效率的同时,避免削弱用户的自主认知能力,将是未来 AI 发展需要认真思考的问题。
这篇文章对你有帮助吗?
觉得有用?分享给更多人
留言 · 0 条
暂无留言,来说两句吧
