[논문 리뷰] Who is Helping Whom? Student Concerns about AI- Teacher Collaboration in Higher Education Classrooms

Bingyi Han, Simon Coghlan외 2명|arXiv (Cornell University)|2024. 12. 19.

Online Learning and Analytics인용 수 4

한 줄 요약

이 연구는 65명의 참가자를 대상으로 한 스토리 완성법을 활용하여 고등교육 현장에서의 학생들이 AI-교사 협업을 어떻게 인식하는지 탐구한다. 분석 결과 세 가지 핵심 과제가 드러났다: 학습의 맥락 탈리스크립션, 교사-AI 협업의 편향성, 그리고 AI의 효과성을 떨어뜨리는 학생의 행동 변화. 본 연구는 실제 교육 현장에서의 이해관계자 간 상호작용, 권력 불균형, 윤리적 함의를 고려한 맥락 민감도가 높은 AIEd 설계를 주장한다.

ABSTRACT

AI's integration into education promises to equip teachers with data-driven insights and intervene in student learning. Despite the intended advancements, there is a lack of understanding of interactions and emerging dynamics in classrooms where various stakeholders including teachers, students, and AI, collaborate. This paper aims to understand how students perceive the implications of AI in Education in terms of classroom collaborative dynamics, especially AI used to observe students and notify teachers to provide targeted help. Using the story completion method, we analyzed narratives from 65 participants, highlighting three challenges: AI decontextualizing of the educational context; AI-teacher cooperation with bias concerns and power disparities; and AI's impact on student behavior that further challenges AI's effectiveness. We argue that for effective and ethical AI-facilitated cooperative education, future AIEd design must factor in the situated nature of implementation. Designers must consider the broader nuances of the education context, impacts on multiple stakeholders, dynamics involving these stakeholders, and the interplay among potential consequences for AI systems and stakeholders. It is crucial to understand the values in the situated context, the capacity and limitations of both AI and humans for effective cooperation, and any implications to the relevant ecosystem.

연구 동기 및 목표

• 학생들이 고등교육 수업에서 AI-교사 협업을 어떻게 인식하는지 이해하기 위해.
• 학생 시각에서 AI가 교육적 협업을 촉진함에 있어 나타나는 새로운 과제를 규명하기 위해.
• AI가 학생을 감시하고 교사에게 알림을 보내 개입을 유도하는 것의 영향을 검토하기 위해.
• AI 지원 교육에서 권력 관계, 편향성, 맥락 이해의 부족과 관련된 윤리적 및 실무적 우려를 부각하기 위해.
• 교육적 맥락의 현장성과 이해관계자 간 상호작용을 강조하여 향후 AIEd 설계에 정보를 제공하기 위해.

제안 방법

• 65명의 고등교육 학생들이 AI-교사 협업 시나리오에 대해 서사를 유도하기 위해 스토리 완성법을 적용하였다.
• qualitative 서사를 수집하고 분석하여 AI 통합과 관련된 반복되는 주제와 우려를 식별하였다.
• 특히 AI가 학생을 감시하고 교사에게 알림을 보내 개입을 유도하는 시나리오에 집중하였다.
• 주제 분석을 통해 학생의 우려를 세 가지 핵심 과제로 분류하였다: 맥락 탈리스크립션, 협업의 편향성, 행동 영향.
• 실제 수업 환경에서 AI, 교사, 학생 간의 상호작용을 탐구하였다.
• 연구 결과를 바탕으로 교육적 뉘앙스와 이해관계자 역할을 존중하는 맥락 인식 설계가 필요하다고 주장하였다.

실험 결과

연구 질문

• RQ1 학생들은 AI가 교사-AI 협업 학습 환경 내에서 자신을 어떻게 감시하고 지원하는지에 대해 어떻게 인식하는가?
• RQ2 학생들은 AI-교사 파트너십에서의 권력 불균형과 편향성 문제에 대해 어떤 우려를 제기하는가?
• RQ3 AI의 존재가 학생 행동에 어떤 영향을 미치며, 그로 인해 AI의 효과성에 어떤 함의가 있는가?
• RQ4 AI는 학생-교사 상호작용에서 교육적 맥락을 어떻게 맥락 탈리스크립션하거나 잘못 표현하는가?
• RQ5 AIEd 시스템은 고등교육 수업의 현장성, 역동성, 윤리적 현실을 어떻게 존중할 수 있는가?

주요 결과

• 학생들은 AI가 수업 상호작용을 맥락 없이 단순한 데이터 포인트로 환원함으로써 복잡한 학습 상황을 이해하지 못함을 심각한 우려로 제기하였다.
• 학생들은 AI 경고가 불균형한 대응이나 징계 조치로 이어질 경우 교사-AI 협업에 편향성이 존재할 수 있음을 우려했다.
• AI 감시의 존재를 인지한 학생들은 자기 검열을 하며 행동을 변화시켰고, 이는 진정성 있는 학습을 저해하고 AI가 진짜 학습 필요를 탐지하는 능력을 떨어뜨렸다.
• 연구 결과, AI가 교사의 개입을 매개함에 따라 교사와 학생 간의 권력 격차가 심화되어 공정성과 신뢰 문제를 야기한다는 점이 확인되었다.
• 학생들은 AI 시스템이 학습 맥락에서 개인의 차이, 정서 상태, 상황적 뉘앙스를 고려하지 못함을 강조하였다.
• 연구는 효과적인 AIEd가 교육 생태계의 전반적인 요소, 즉 가치관, 한계, 이해관계자 간 상호작용를 통합하는 설계가 필요하다고 결론 내렸다.