[论文解读] AI in Education needs interpretable machine learning: Lessons from Open Learner Modelling
本文认为可解释/开放学习者模型（OLMs）对于在教育中的可信和高效的AI至关重要，并提出一个框架和来自 ITS/OLM 研究的实证见解，以指导在高风险领域中的可解释AI设计。
Interpretability of the underlying AI representations is a key raison d'être for Open Learner Modelling (OLM) -- a branch of Intelligent Tutoring Systems (ITS) research. OLMs provide tools for 'opening' up the AI models of learners' cognition and emotions for the purpose of supporting human learning and teaching. Over thirty years of research in ITS (also known as AI in Education) produced important work, which informs about how AI can be used in Education to best effects and, through the OLM research, what are the necessary considerations to make it interpretable and explainable for the benefit of learning. We argue that this work can provide a valuable starting point for a framework of interpretable AI, and as such is of relevance to the application of both knowledge-based and machine learning systems in other high-stakes contexts, beyond education.
研究动机与目标
- 由于高风险的教学干预，激发在教育中对可解释AI的需求。
- 将开放学习者建模（OLM）作为可解释学生模型的路径进行综述。
- 展示可检视、协作/可协商、以及可编辑的OLM如何影响教学法、信任和学习成果。
- 提供一个概念框架和设计维度，以平衡用户控制、解释和模型透明度。
提出的方法
- 描述开放学习者建模（OLM）类型：可检视、协作/可协商、以及可编辑。
- 给出具体的 ITS/OLM 系统作为范例（例如 TARDIS 可检视 OLM；Long & Aleven 2017 的带技能条的自我评估；Basu 等 2017 的可编辑 OLM）。
- 讨论贝叶斯知识追踪可视化和示例追踪方法作为可解释表示。
- 总结 ITS 文献中关于用户信任、参与度和学习成果与 OLM 类型相关的实证发现。
- 提出四个设计维度（来自 Bull & Kay 2016），用于定制 OLM 的可解释性：目的、可访问的方面、访问/操作，以及面向的用户。
实验结果
研究问题
- RQ1在教育中的开放学习者建模中，可解释性和解释性的作用是什么？
- RQ2不同的 OLM 模态（可检视、可协商、可编辑）如何影响学习者的信任、参与度和学习成果？
- RQ3哪些设计考量（维度）最能支持教育情境及其他领域的可解释AI？
- RQ4来自 OSS/OLM 框架的见解能否为高风险领域的更广泛的可解释AI实践提供参考？
主要发现
- 当评估可访问且可解释时，OLMs 可以改善教学效果和学习者反思。
- 协商/合作型 OLM 通过在系统解释与用户自证之间取得平衡，倾向于维持用户信任和参与度。
- 可编辑的 OLM 可能降低新手用户的信任，除非附带针对性的系统支持与解释。
- 来自 ITS 的例子（例如 TARDIS、带贝叶斯知识追踪的示例追踪、skillometer）展示了如何通过可视化和交互支持自我评估和学习。
- 一个四维框架有助于校准模型可解释性应如何、为何以及向谁暴露，从而指导教育中可解释AI的设计选择。
更好的研究，从现在开始
从阅读论文到最终审阅，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。