[论文解读] Who is Helping Whom? Student Concerns about AI- Teacher Collaboration in Higher Education Classrooms

Bingyi Han, Simon Coghlan+2 more|arXiv (Cornell University)|Dec 19, 2024

Online Learning and Analytics被引用 4

一句话总结

本研究通过65名参与者的叙事补全法，调查了高等教育中学生对AI-教师协作的感知，揭示了三大核心挑战：AI导致学习去情境化、教师-AI合作存在偏见，以及学生行为改变削弱了AI的有效性。本文主张采用情境敏感的AI教育（AIEd）设计，充分考虑现实教育场景中的利益相关者动态、权力失衡与伦理影响。

ABSTRACT

AI's integration into education promises to equip teachers with data-driven insights and intervene in student learning. Despite the intended advancements, there is a lack of understanding of interactions and emerging dynamics in classrooms where various stakeholders including teachers, students, and AI, collaborate. This paper aims to understand how students perceive the implications of AI in Education in terms of classroom collaborative dynamics, especially AI used to observe students and notify teachers to provide targeted help. Using the story completion method, we analyzed narratives from 65 participants, highlighting three challenges: AI decontextualizing of the educational context; AI-teacher cooperation with bias concerns and power disparities; and AI's impact on student behavior that further challenges AI's effectiveness. We argue that for effective and ethical AI-facilitated cooperative education, future AIEd design must factor in the situated nature of implementation. Designers must consider the broader nuances of the education context, impacts on multiple stakeholders, dynamics involving these stakeholders, and the interplay among potential consequences for AI systems and stakeholders. It is crucial to understand the values in the situated context, the capacity and limitations of both AI and humans for effective cooperation, and any implications to the relevant ecosystem.

研究动机与目标

• 理解学生对高等教育课堂中AI-教师协作角色的感知。
• 从学生视角识别AI促进教育协作中浮现的挑战。
• 探讨AI观察学生并向教师发出预警以实施针对性干预的后果。
• 突出AI辅助教育中权力动态、偏见与情境理解缺失相关的伦理与实际关切。
• 通过强调教育情境的具身性与利益相关者互动，为未来AIEd设计提供依据。

提出的方法

• 采用叙事补全法，收集65名高等教育学生对AI-教师协作情境的叙事。
• 收集并分析质性叙事，识别AI整合中的重复主题与关切。
• 聚焦于AI观察学生并通知教师以实施干预的情境。
• 通过主题分析，将学生关切归类为三大核心挑战：去情境化、合作中的偏见与行为影响。
• 探讨AI、教师与学生在真实课堂动态中的互动关系。
• 基于研究发现，主张设计具备情境意识的AIEd系统，尊重教育复杂性与利益相关者角色。

实验结果

研究问题

• RQ1 学生如何看待AI在教师-AI协作学习环境中观察与支持自身的作用？
• RQ2 学生对AI-教师伙伴关系中的权力失衡与偏见表达了哪些担忧？
• RQ3 AI的存在如何影响学生行为，这对AI的有效性有何影响？
• RQ4 AI在师生互动中以何种方式去情境化或歪曲教育情境？
• RQ5 AIEd系统应如何设计，以尊重高等教育课堂中具身性、动态性与伦理现实？

主要发现

• 学生普遍担忧AI使课堂互动去情境化，将复杂的学习情境简化为无上下文理解的数据点。
• 学生报告担心教师-AI合作存在偏见，特别是当AI预警导致不平等对待或纪律处分时。
• 学生指出，意识到AI监控导致自我审查与行为改变，削弱了真实学习，也降低了AI识别真实学习需求的能力。
• 研究发现，当AI介入教师干预时，师生间原有的权力差异被进一步加剧，引发公平性与信任问题。
• 学生强调，AI系统往往未能考虑个体差异、情绪状态与学习情境的细微差别。
• 研究结论认为，有效的AIEd需要整合完整的教育生态系统，包括价值观、局限性与利益相关者动态。