[논문 리뷰] Protecting Human Cognition in the Age of AI

Anjali Singh, Kamil Taneja외 2명|ArXiv.org|2025. 02. 18.

Ethics and Social Impacts of AI인용 수 4

한 줄 요약

이 논문은 Generative AI가 기억, 추론, 학습, 창의성에 미치는 영향을 종합하고, 사고를 보호하고 향상시키기 위한 프레임워크와 설계 시사점을 제시한다.

ABSTRACT

The rapid adoption of Generative AI (GenAI) is significantly reshaping human cognition, influencing how we engage with information, think, reason, and learn. This paper synthesizes existing literature on GenAI's effects on different aspects of human cognition. Drawing on Krathwohl's revised Bloom's Taxonomy and Dewey's conceptualization of reflective thought, we examine the mechanisms through which GenAI is affecting the development of different cognitive abilities. We focus on novices, such as students, who may lack both domain knowledge and an understanding of effective human-AI interaction. Accordingly, we provide implications for rethinking and designing educational experiences that foster critical thinking and deeper cognitive engagement.

연구 동기 및 목표

• 메모리, 주의, 추론, 창의성, 메타인지 등 핵심 인지 영역에서 GenAI의 효과에 관한 기존 문헌을 요약한다.
• Bloom의 수정된 분류체계와 Dewey의 반성적 사고가 GenAI 주도 인지 변화들을 어떻게 설명하는지 분석한다.
• GenAI가 인지 발달 및 학습 과정에 영향을 미치는 메커니즘을 식별한다.
• AI 시대에 비판적 사고와 더 깊은 인지적 참여를 촉진하기 위한 교육적 및 설계 시사점을 논의한다.
• 인지 효과와 형평성 고려에 대한 장기 연구 방향을 제시한다.

제안 방법

• 초보자를 대상으로 한 GenAI의 영향에 대한 다양한 연구를 합성하고, 전문가에 비해 다소 제한적으로 다룬다.
• Krathwohl의 수정된 Bloom의 분류체계와 Dewey의 반성적 사고 이론으로 분석을 구성한다.
• 스트레스와 정보과부하와 같은 사회적 요인이 GenAI 효과와 어떻게 상호작용하는지 살펴본다.
• GenAI와 함께 사고와 학습을 지원하기 위한 설계 원칙과 교육적 전략을 제안한다.

실험 결과

연구 질문

• RQ1 RQ1: 현재 연구를 바탕으로 인지에 대한 GenAI의 영향으로 관찰된 것은 무엇인가?
• RQ2 RQ2: GenAI가 사고와 학습에 어떤 영향을 미치고 있는가?
• RQ3 RQ3: 따라서 AI 시대에 사고와 학습을 지원하는 도구를 설계하는 데 어떤 시사점이 있는가?

주요 결과

• GenAI는 사실적 및 절차적 지식에 대한 접근을 가속화하지만 더 깊은 인지 과정과 메타인지 발달을 우회할 수 있다.
• GenAI에 과도하게 의존하면 반성적 사고의 참여가 감소하고 인지적 오프로딩이 증가할 수 있으며, 특히 초보자 사이에서 그렇다.
• 정의와 맥락에 따라 GenAI는 창의성을 증가시키기도 하고 저해하기도 하며, AI 보조 산출물의 집단적 다양성을 감소시킬 수 있다.
• 메타인지적 프롬프트와 도발은 수동적 수용을 완화하고 AI 산출물에 대한 비판적 참여를 촉진할 수 있다.
• Dewey의 반성적 사고 선행조건은 AI의 즉시 합성된 응답과 선행 신념에 대한 편향에 의해 방해받을 수 있다.
• 전통적 지표를 넘어서는 장기적 종단 연구와 새로운 교육 평가의 개발이 필요하다.