[論文レビュー] Who is Helping Whom? Student Concerns about AI- Teacher Collaboration in Higher Education Classrooms

Bingyi Han, Simon Coghlan+2 more|arXiv (Cornell University)|Dec 19, 2024

Online Learning and Analytics被引用数 4

ひとこと要約

本研究では、65名の参加者を対象に物語完成法を用いて、高等教育におけるAIと教師の協働に関する学生の認識を調査し、学習の文脈の欠如、教師とAIの間でのバイアス、AIの効果を損なう学生の行動変化の3つの核心的課題を明らかにした。本論文は、現実の教育的状況におけるステークホルダーのダイナミクス、権力の不均衡、倫理的含意を考慮した文脈に配慮したAIEdデザインの必要性を提唱する。

ABSTRACT

AI's integration into education promises to equip teachers with data-driven insights and intervene in student learning. Despite the intended advancements, there is a lack of understanding of interactions and emerging dynamics in classrooms where various stakeholders including teachers, students, and AI, collaborate. This paper aims to understand how students perceive the implications of AI in Education in terms of classroom collaborative dynamics, especially AI used to observe students and notify teachers to provide targeted help. Using the story completion method, we analyzed narratives from 65 participants, highlighting three challenges: AI decontextualizing of the educational context; AI-teacher cooperation with bias concerns and power disparities; and AI's impact on student behavior that further challenges AI's effectiveness. We argue that for effective and ethical AI-facilitated cooperative education, future AIEd design must factor in the situated nature of implementation. Designers must consider the broader nuances of the education context, impacts on multiple stakeholders, dynamics involving these stakeholders, and the interplay among potential consequences for AI systems and stakeholders. It is crucial to understand the values in the situated context, the capacity and limitations of both AI and humans for effective cooperation, and any implications to the relevant ecosystem.

研究の動機と目的

• 学生が高等教育の教室におけるAIと教師の協働をどのように認識しているかを理解すること。
• 学生の視点から、AIが支援する教育的協働における新たな課題を特定すること。
• AIが学生を観察し、教師に警告することで的確な介入が行われるという状況の意味を検討すること。
• AI支援教育における権力のダイナミクス、バイアス、文脈的理解の欠如に関連する倫理的・実務的懸念を浮き彫りにすること。
• 教育的文脈の状況的特性とステークホルダー間の相互作用を強調することで、将来のAIEdデザインに示唆を与えること。

提案手法

• 65名の高等教育の学生に対して、AIと教師の協働に関するシナリオを想定した物語完成法を適用し、物語を収集した。
• 収集した定性的な物語を分析し、AI統合に関する繰り返し現れるテーマと懸念を特定した。
• AIが学生を観察し、教師に通知することで介入が行われるシナリオに焦点を当てた。
• 主題的分析を用いて、学生の懸念を3つの核心的課題に分類した：文脈の欠如、協働におけるバイアス、行動的影響。
• 現実の教室におけるダイナミクスにおいて、AIと教師、学生の関係性の複雑さを検討した。
• 研究結果を基に、教育的ニュアンスとステークホルダーの役割を尊重する文脈に配慮したAIEdデザインの必要性を主張した。

実験結果

リサーチクエスチョン

• RQ1 学生は、教師-AI協働学習環境において、AIが自分を観察し支援する役割をどのように認識しているか？
• RQ2 学生は、AIと教師のパートナーシップにおける権力の不均衡やバイアスに関して、どのような懸念を表明しているか？
• RQ3 AIの存在が学生の行動にどのように影響を与え、その結果AIの効果にどのような影響を及えるか？
• RQ4 AIは、学生と教師の対話において、教育的文脈をどのように文脈から切り離すか、または誤解を招く形で表現するか？
• RQ5 AIEdシステムは、どのようにして高等教育の教室における状況的で動的な、かつ倫理的な現実を尊重した設計が可能になるか？

主な発見

• 学生は、AIが複雑な学習状況を文脈を理解しないままデータポイントに還元することで、教室の対話を文脈から切り離すことに強い懸念を示した。
• 学生は、AIのアラートが不均等な扱いや懲戒処分につながる可能性があるとして、教師とAIの協働にバイアスがあることに懸念を抱いていると報告した。
• AIの監視があることを認識したことで、自己検閲や行動の変化が生じ、真の学習ニーズを検出できるAIの能力が損なわれるなど、学習の本質を損なう影響が生じたと指摘した。
• 本研究では、AIが教師の介入を仲介することで、教師と学生の間の権力格差が拡大し、公平性と信頼の問題が生じることを明らかにした。
• 学生は、AIシステムが学習状況における個別の差異、感情状態、状況的ニュアンスを十分に考慮していないと強調した。
• 本研究は、価値観、制限、ステークホルダーのダイナミクスを含む教育的エコシステム全体を統合する設計が、効果的なAIEdに不可欠であると結論づけた。