[논문 리뷰] On the Interpretability of Deep Learning Based Models for Knowledge Tracing

Xinyi Ding, Eric C. Larson|arXiv (Cornell University)|2021. 01. 27.

Intelligent Tutoring Systems and Adaptive Learning참고 문헌 15인용 수 9

한 줄 요약

이 논문은 지식 추적 분야에서 딥러닝 모델의 해석 가능성에 대해 조사하며, 딥 컨옵어 트레이싱(DKT)이 개별 기술을 추적하기보다는 주로 학생의 능력 모델을 학습한다는 것을 드러낸다. EdNet 데이터셋을 사용하여 DKT의 성능이 학습된 순환 구조가 아니라 고차원 투영에 기인한다는 것을 입증하고, 더 나은 모델 투명성과 성능을 위한 향상된 훈련 전략 및 주의 메커니즘을 제안한다.

ABSTRACT

Knowledge tracing allows Intelligent Tutoring Systems to infer which topics or skills a student has mastered, thus adjusting curriculum accordingly. Deep Learning based models like Deep Knowledge Tracing (DKT) and Dynamic Key-Value Memory Network (DKVMN) have achieved significant improvements compared with models like Bayesian Knowledge Tracing (BKT) and Performance Factors Analysis (PFA). However, these deep learning based models are not as interpretable as other models because the decision-making process learned by deep neural networks is not wholly understood by the research community. In previous work, we critically examined the DKT model, visualizing and analyzing the behaviors of DKT in high dimensional space. In this work, we extend our original analyses with a much larger dataset and add discussions about the memory states of the DKVMN model. We discover that Deep Knowledge Tracing has some critical pitfalls: 1) instead of tracking each skill through time, DKT is more likely to learn an `ability' model; 2) the recurrent nature of DKT reinforces irrelevant information that it uses during the tracking task; 3) an untrained recurrent network can achieve similar results to a trained DKT model, supporting a conclusion that recurrence relations are not properly learned and, instead, improvements are simply a benefit of projection into a high dimensional, sparse vector space. Based on these observations, we propose improvements and future directions for conducting knowledge tracing research using deep neural network models.

연구 동기 및 목표

• 고성능를 보이지만 투명성이 낮은 딥러닝 모델(예: DKT, DKVMN)의 해석 가능성에 대해 조사하고자 한다.
• DKT가 진정으로 기술별 숙달도를 학습하는지, 아니면 일반적인 학생 능력 모델을 학습하는지 확인하고자 한다.
• DKT의 순환 구조가 성능에 기여하는 정도를 분석하고, 이 구조가 실제로 의미 있는 영향을 미치는지 평가하고자 한다.
• DKVMN의 메모리 상태 동역학을 분석하여 은닉 기술이 어떻게 인코딩되고 갱신되는지 이해하고자 한다.
• 모델의 해석 가능성 향상과 해석할 수 없는 고차원 표현에 대한 의존도 감소를 위한 방법론적 개선을 제안하고자 한다.

제안 방법

• 저자들은 시간에 따라 DKT의 은닉 상태 활성화를 차원 축소 및 시각화하여 기술 추적 행동을 분석한다.
• 최종 선형 레이어만 업데이트하는 DKT 모델을 훈련하여, 전체로 훈련된 DKT와 성능을 비교함으로써 순환의 역할을 고립하여 분석한다.
• 응답 후 값 메모리 갱신을 추적하여 DKVMN의 메모리 상태 변화를 분석하고, 활성화 패턴을 시각화하여 분석한다.
• 이전의 작은 데이터셋(예: ASSISTments)을 초월하여 대규모 교육 데이터셋인 EdNet 데이터셋을 사용하여 결과의 타당성을 검증한다.
• 장기적인 기술 의존성과 부작위적인 순환 효과를 줄이기 위해 수정된 손실 함수와 주의 메커니즘을 제안한다.
• AUC를 주요 평가 지표로 사용하여, ASSISTments 2009–2010 및 EdNet 등 다양한 데이터셋에서 모델 성능을 비교한다.

실험 결과

연구 질문

• RQ1 DKT는 시간에 따라 실제로 개별 기술을 추적하는가, 아니면 일반적인 학생 능력 모델을 학습하는가?
• RQ2 DKT의 순환 구조가 성능에 기여하는 정도는 어느 정도이며, 성능 향상의 주요 원인이 고차원 투영에 기인하는가?
• RQ3 단지 최종 레이어만 훈련된 미훈련 순환 네트워크가 전체로 훈련된 DKT 모델과 유사한 성능을 달성할 수 있는가?
• RQ4 DKVMN의 메모리 상태는 응답에 따라 어떻게 변화하며, 이는 의미 있는 은닉 기술 구조를 반영하는가?
• RQ5 이러한 발견은 지식 추적 분야의 딥러닝 모델 해석성 향상과 설계에 어떤 영향을 미치는가?

주요 결과

• DKT는 시간에 따라 개별 기술을 추적하지 않으며, 고차원 공간 내 활성화 패턴을 통해 일반적인 학생 능력 모델을 학습한다는 것이 입증되었다.
• DKT의 순환 아키텍처는 관련 없는 정보를 강화하여, 순환 구조가 제대로 학습되지 않았고 성능 향상에 필수적이지 않을 수 있음을 시사한다.
• 최종 선형 레이어만 훈련된 미훈련 DKT 모델이 EdNet 데이터셋에서 전체로 훈련된 DKT 모델과 유사한 AUC 성능(0.08–0.09)을 달성함으로써, 성능 향상의 주요 원인이 고차원 투영에 기인한다는 것을 시사한다.
• DKT의 성능 향상 요인은 주로 입력을 희박한 고차원 벡터 공간으로 매핑하여 선형 분류가 쉬워지기 때문이며, 학습된 시간적 의존성 때문이 아니라는 것을 확인하였다.
• DKVMN의 메모리 상태는 정답 여부와 관계없이 동일한 기술에 대해 유사한 위치를 활성화하여 은닉 기술의 안정적 인코딩을 보이지만, 전문가가 정의한 기술 계층 구조를 일관되게 반영하지는 않는다.
• DKVMN의 은닉 기술 수는 메모리 크기가 너무 작지 않은 한 민감하지 않으며, 이는 강건성을 보여주지만 同시에 최적의 은닉 기술 표현을 결정하는 데 모호함이 있음을 시사한다.