[논문 리뷰] AI in Education needs interpretable machine learning: Lessons from Open Learner Modelling

Cristina Conati, Kaśka Porayska‐Pomsta외 1명|arXiv (Cornell University)|2018. 06. 30.

Intelligent Tutoring Systems and Adaptive Learning참고 문헌 18인용 수 48

한 줄 요약

tldr: 이 논문은 해석 가능하고 열린 학습자 모델(OLMs)이 교육 인공지능(AI)에서 신뢰할 수 있고 효과적인 ML에 필수적이라고 주장하고, 고위험 분야에서 해석 가능한 AI 설계를 지도하기 위한 ITS/OLM 연구의 프레임워크와 실증적 통찰을 제시한다.

ABSTRACT

Interpretability of the underlying AI representations is a key raison d'être for Open Learner Modelling (OLM) -- a branch of Intelligent Tutoring Systems (ITS) research. OLMs provide tools for 'opening' up the AI models of learners' cognition and emotions for the purpose of supporting human learning and teaching. Over thirty years of research in ITS (also known as AI in Education) produced important work, which informs about how AI can be used in Education to best effects and, through the OLM research, what are the necessary considerations to make it interpretable and explainable for the benefit of learning. We argue that this work can provide a valuable starting point for a framework of interpretable AI, and as such is of relevance to the application of both knowledge-based and machine learning systems in other high-stakes contexts, beyond education.

연구 동기 및 목표

• 고위험 수준의 교육 개입으로 인해 교육에서 해석 가능한 AI의 필요성을 고취한다.
• 해석 가능한 학생 모델로의 경로로서 Open Learner Modelling (OLM)을 고찰한다.
• scrutable, cooperative, and editable OLM이 교수법, 신뢰, 학습 결과에 어떤 영향을 미치는지 보여준다.
• 사용자 제어, 설명, 모델 투명성을 균형 있게 다루는 개념적 프레임워크 및 설계 차원을 제공한다.

제안 방법

• Open Learner Modelling (OLM) 유형: scrutable, cooperative/negotiable, 및 editable를 설명한다.
• 구체적 ITS/OLM 시스템을 예시로 제시한다(예: TARDIS scrutable OLM; Long & Aleven 2017 self-assessment with skill bars; Basu et al. 2017 editable OLM).
• 해석 가능한 표현으로서 Bayesian Knowledge Tracing 시각화와 예시 추적(example-tracing) 접근법을 논의한다.
• OLM 유형과 관련된 사용자 신뢰, 참여도, 학습 결과에 대한 ITS 문헌의 실증적 발견을 요약한다.
• OLM 해석 가능성을 맞춤화하기 위한 네 가지 설계 차원(Bull & Kay 2016에서): purpose, accessible aspects, access/manipulation, 그리고 intended users를 제안한다.

실험 결과

연구 질문

• RQ1 교육에서 Open Learner Modelling에서 해석 가능성과 설명가능성의 역할은 무엇인가?
• RQ2 다른 OLM 양상(scrutable, negotiable, editable)이 학습자 신뢰, 참여 및 학습 결과에 어떤 영향을 미치는가?
• RQ3 교육 맥락 및 그 밖에서도 해석 가능한 AI를 가장 잘 지원하는 설계 고려사항(차원)은 무엇인가?
• RQ4 OSS/OLM 프레임워크로부터 얻은 통찰이 고위험 분야의 해석 가능한 AI 실천에 더 넓게 정보를 제공할 수 있는가?

주요 결과

• OLMs는 평가가 접근 가능하고 해석 가능할 때 교수적 결과와 학습자 반성을 개선할 수 있다.
• 협상 가능한/협력적인 OLM은 시스템 설명과 사용자의 정당화를 균형 있게 제공하여 사용자의 신뢰와 참여를 유지하는 경향이 있다.
• Editable OLM은 표적 시스템 지원 및 설명이 동반되지 않으면 초보 사용자 사이에서 신뢰를 떨어뜨릴 수 있다.
• ITS의 예(예: TARDIS, Bayesian Knowledge Tracing과 함께하는 example-tracing, skillometer)는 시각화와 상호작용이 자가 평가와 학습을 어떻게 지원하는지 보여준다.
• 네 차원 프레임워크는 모델 해석 가능성을 어떻게, 왜, 누구에게 공개해야 하는지 보정하는 데 도움이 되어 교육에서 해석 가능한 AI 설계 선택을 안내한다.