[论文解读] Protecting Human Cognition in the Age of AI

Anjali Singh, Kamil Taneja+2 more|ArXiv.org|Feb 18, 2025

Ethics and Social Impacts of AI被引用 4

一句话总结

本文总结生成式人工智能如何影响记忆、推理、学习与创造力，并提供框架与设计含义，以保护和提升思维。

ABSTRACT

The rapid adoption of Generative AI (GenAI) is significantly reshaping human cognition, influencing how we engage with information, think, reason, and learn. This paper synthesizes existing literature on GenAI's effects on different aspects of human cognition. Drawing on Krathwohl's revised Bloom's Taxonomy and Dewey's conceptualization of reflective thought, we examine the mechanisms through which GenAI is affecting the development of different cognitive abilities. We focus on novices, such as students, who may lack both domain knowledge and an understanding of effective human-AI interaction. Accordingly, we provide implications for rethinking and designing educational experiences that foster critical thinking and deeper cognitive engagement.

研究动机与目标

• 总结现有文献中GenAI对记忆、注意力、推理、创造力和元认知等核心认知领域的影响。
• 分析布鲁姆修订型分类法与杜威的反思性思维如何解释GenAI驱动的认知变化。
• 识别GenAI影响认知发展与学习过程的机制。
• 讨论在AI时代促进批判性思维与更深层次认知参与的教育与设计含义。
• 为长期研究认知影响及公平性问题提供方向。

提出的方法

• 综合关于GenAI对新手及在较小程度上对专家影响的多样化研究。
• 以Krathwohl的修订布卢姆分类法与杜威的反思性思维理论为框架进行分析。
• 考察压力与信息超载等社会因素如何与GenAI效应相互作用。
• 提出设计原则与教学策略，以支持在GenAI环境中的思维与学习。

实验结果

研究问题

• RQ1 RQ1：基于现有研究，已观察到GenAI对人类认知的哪些影响？
• RQ2 RQ2：GenAI如何影响思维与学习？
• RQ3 RQ3：因此，在AI时代设计支持思维和学习的工具有哪些含义？

主要发现

• GenAI加速获得事实与程序性知识，但可能绕过更深层的认知过程和元认知发展。
• 对GenAI的过度依赖可能降低反思性思维的参与度并增加认知卸载，尤其在新手中。
• GenAI在一定定义和情境下既能增强也可能阻碍创造力，且可能降低AI辅助输出的集体多样性。
• 元认知提示与挑动性可缓解被动接受并促进对AI输出的批判性参与。
• 杜威的反思性思维前提条件可能被AI即时综合响应及对先前信念偏见所干扰。
• 需要进行长期纵向研究并发展超越传统指标的新教育评估方式。