[論文レビュー] AI in Education needs interpretable machine learning: Lessons from Open Learner Modelling

Cristina Conati, Kaśka Porayska‐Pomsta+1 more|arXiv (Cornell University)|Jun 30, 2018

Intelligent Tutoring Systems and Adaptive Learning参考文献 18被引用数 48

ひとこと要約

本論文は、解釈可能な/open learner models (OLMs) が教育における信頼性の高い効果的なMLに不可欠であると主張し、解釈可能なAI設計を導くための枠組みとITS/OLM研究からの実証的洞察を提示します。

ABSTRACT

Interpretability of the underlying AI representations is a key raison d'être for Open Learner Modelling (OLM) -- a branch of Intelligent Tutoring Systems (ITS) research. OLMs provide tools for 'opening' up the AI models of learners' cognition and emotions for the purpose of supporting human learning and teaching. Over thirty years of research in ITS (also known as AI in Education) produced important work, which informs about how AI can be used in Education to best effects and, through the OLM research, what are the necessary considerations to make it interpretable and explainable for the benefit of learning. We argue that this work can provide a valuable starting point for a framework of interpretable AI, and as such is of relevance to the application of both knowledge-based and machine learning systems in other high-stakes contexts, beyond education.

研究の動機と目的

• 高リスクな教育介入に起因する教育現場での解釈可能なAIの必要性を動機づける。
• 解釈可能な学生モデルへの道としてのOpen Learner Modelling (OLM)の調査。
• scrutable（解読可能）, cooperative/negoitiable, and editable のOLMが教育法、信頼、学習成果に与える影響を示す。
• ユーザー制御、説明、およびモデルの透明性をバランスさせる概念的フレームワークと設計次元を提供する。

提案手法

• Open Learner Modelling (OLM) の種類として、scrutable、cooperative/negotiable、および editable を説明する。
• 具体的なITS/OLMシステムを典型として提示する（例：TARDIS scrutable OLM；Long & Aleven 2017 のスキルバー付き自己評価；Basu et al. 2017 の editable OLM）。
• 解釈可能な表現として、Bayesian Knowledge Tracingのビジュアライゼーションとexample-tracingアプローチを論じる。
• OLMタイプに関連するユーザーの信頼、エンゲージメント、学習成果に関するITS文献の実証的知見を要約する。
• OLMの解釈性を調整する4つの設計次元を提案する（Bull & Kay 2016 から）：目的、アクセス可能な側面、アクセス/操作、対象ユーザー。

実験結果

リサーチクエスチョン

• RQ1 教育のOpen Learner Modellingにおける解釈性および説明可能性の役割は何か？
• RQ2 異なるOLMモダリティ（scrutable、negotiable、editable）は学習者の信頼、エンゲージメント、学習成果にどう影響するか？
• RQ3 教育文脈およびそれ以外で解釈可能なAIを最もよく支援する設計上の配慮（次元）は何か？
• RQ4 OSS/OLMフレームワークからの洞察は高リスク領域におけるより広範な解釈可能AI実践にどのように情報を提供できるか？

主な発見

• OLMs can improve pedagogical outcomes and learner reflection when their assessments are accessible and interpretable.
• Negotiable/co-operative OLMs tend to sustain user trust and engagement by balancing system explanations with user justification.
• Editable OLMs may reduce trust among novice users unless accompanied by targeted system support and explanations.
• Examples from ITS (e.g., TARDIS, example-tracing with Bayesian Knowledge Tracing, skillometer) demonstrate how visualisations and interactions support self-assessment and learning.
• A four-dimensional framework helps calibrate how, why, and to whom model interpretability should be exposed, guiding design choices for interpretable AI in education.