AI用得越多,我们可能越笨?“认知外包”的潜在风险
《认知科学趋势》警示:把思考完整交给 AI,可能妨碍技能习得并加速技能衰退;但现有证据并不能证明 AI 会让基础智力普遍下降。
60 秒版本
《认知科学趋势》的一篇综述认为,把思考完整外包给 AI 可能妨碍技能习得并加速技能衰退,但基础认知能力或许更有韧性。
要点
- 这不是“AI 使用量与智力下降”的新剂量反应实验,而是综述与理论分析。
- AI 在场时任务成绩可能上升,撤走 AI 后的独立表现却可能下降。
- 七项共 10,462 人的实验发现,自动摘要相较网页搜索带来更浅的知识建构。
- 具体技能和知识比工作记忆等基础能力更容易受长期外包影响。
- 提示、批评、提取练习与人工核验,可以让 AI 从替代品变成脚手架。
结论. AI最可能削弱它反复替代的能力。目标是长期学习时,应把人留在推理回路中;只有不需要学习的任务,才适合尽量自动化。
真正的问题AI究竟可能让什么变差?
Trent N. Cash、Megan O. Kelly、Brooke N. Macnamara 与 Evan F. Risko 在论文中提出一个故意尖锐的问题:AI 会让我们变笨吗? 更准确的回答要窄得多:把任务完整交给 AI,可能减少习得和维持某项技能所需的练习;这不等于已经证明人类整体智力下降。
心理学把借助外部工具减少脑力负担称为认知外包。计算器替我们保存运算步骤,导航软件替我们记路线,生成式 AI 则能直接写解释、方案和答案。外包本身并非坏事;当工具替代的正是学习者需要练习的认知过程时,风险才会放大。
表现不等于学习今天答得更好,明天未必会做
一项被引用的田野实验让近千名高中生使用两种基于 GPT-4 的数学导师。练习阶段,无限制系统让成绩提高 48%,带学习护栏的导师提高 127%;但撤走 AI 后,无限制组比从未使用 AI 的学生低 17%。带护栏的导师则大体消除了这种损失。
原因并不神秘:学习依赖提取、犯错、纠错、整合和反复练习。AI 直接给出完整路径,可以提高眼前产出,却绕过这些过程。人也容易产生“能力错觉”,把人机共同完成的高质量作品误认为自己的独立能力。
知识深度摘要越方便,主动建构可能越少
另一组七项线上与实验室研究,在核心事实相同的条件下,对比 LLM 综合摘要和传统网页搜索。10,462 名参与者中,使用 LLM 摘要的人形成的知识更浅,对后续建议投入感更低,写出的建议更稀疏、原创性也更弱。
差异不只在答案是否正确。网页搜索迫使人检查多个来源并自行整合;自动摘要则把整合过程一起交付。便利减少了学习者实际进行的建构性认知活动。
AI可以改善作品,却未必改善完成作品的人。
什么会退化具体技能比基础能力更脆弱
| 具体技能 | 代数步骤、诊断搜索、写作结构、来源整合都依赖练习,长期不用可能衰退。 |
|---|---|
| 知识 | 当检索与整合由 AI 完成,事实与概念之间的联系可能编码得更浅。 |
| 元认知 | 用户可能高估独立能力,甚至察觉不到技能已经下降。 |
| 基础认知能力 | 工作记忆、注意和一般推理能力较难被单项训练或停用改变,现有证据不支持其整体崩塌。 |
这个区分非常重要。长期用计算器后,长除法不熟练是合理风险;因为用了计算器就失去一般推理能力,则是强得多的主张。作者判断,知识和熟练技能可能退化,但支撑智力活动的基础能力或许更有韧性。
设计决定结果教练和拐杖不是同一种AI
这篇论文并不主张远离 AI。数学实验恰好说明,学习护栏可以保留收益:导师只给提示、要求中间步骤,并避免直接吐出最终答案。其他研究也表明,只要人仍负责提出、核验和修改观点,协作式 AI 可以支持学习。
- 先做再问。 先写提纲、算式或诊断,再让 AI 介入。
- 要批评,不要替代。 让 AI 找错误、反例和证据缺口,而不是交付成品。
- 脱离工具复述。 AI 辅助后,从记忆解释结论,或独立完成一道相邻问题。
- 保留来源。 查看一手材料,并标记哪些说法来自模型。
- 学习时加护栏。 目标是学习就优先提示与追问;目标只是吞吐量时才考虑全自动。
仍未知的部分长期影响尚未得到回答
目前证据仍年轻且异质。许多研究针对短任务、学生或特定界面。长期使用、儿童关键发展期、不同专业水平、来源记忆错误,以及用户会不会逐渐调整行为,仍缺少充分答案。
因此,最稳妥的结论是有条件的:当 AI 完整替代某项认知活动时,那项不再练习的技能与知识可能变弱,直接代答的风险尤其明显。现有证据不足以说“AI 用得越多,基础智力就越低”。真正该问的是:它替你完成了哪些本应练习的思考步骤?