[論文レビュー] simpleKT: A Simple But Tough-to-Beat Baseline for Knowledge Tracing

Zitao Liu, Qiongqiong Liu+3 more|arXiv (Cornell University)|Feb 14, 2023

Intelligent Tutoring Systems and Adaptive Learning被引用数 23

ひとこと要約

simpleKT は、Rasch にインスパイアされたアプローチを用いて質問固有の変動を明示的にモデル化し、日常的なドット積アテンションを用いて多様なデータセットに対する将来の学生の成績を予測する、強力でシンプルな KT ベースラインです。

ABSTRACT

Knowledge tracing (KT) is the problem of predicting students' future performance based on their historical interactions with intelligent tutoring systems. Recently, many works present lots of special methods for applying deep neural networks to KT from different perspectives like model architecture, adversarial augmentation and etc., which make the overall algorithm and system become more and more complex. Furthermore, due to the lack of standardized evaluation protocol \citep{liu2022pykt}, there is no widely agreed KT baselines and published experimental comparisons become inconsistent and self-contradictory, i.e., the reported AUC scores of DKT on ASSISTments2009 range from 0.721 to 0.821 \citep{minn2018deep,yeung2018addressing}. Therefore, in this paper, we provide a strong but simple baseline method to deal with the KT task named extsc{simpleKT}. Inspired by the Rasch model in psychometrics, we explicitly model question-specific variations to capture the individual differences among questions covering the same set of knowledge components that are a generalization of terms of concepts or skills needed for learners to accomplish steps in a task or a problem. Furthermore, instead of using sophisticated representations to capture student forgetting behaviors, we use the ordinary dot-product attention function to extract the time-aware information embedded in the student learning interactions. Extensive experiments show that such a simple baseline is able to always rank top 3 in terms of AUC scores and achieve 57 wins, 3 ties and 16 loss against 12 DLKT baseline methods on 7 public datasets of different domains. We believe this work serves as a strong baseline for future KT research. Code is available at \url{https://github.com/pykt-team/pykt-toolkit}\footnote{We merged our model to the extsc{pyKT} benchmark at \url{https://pykt.org/}.}.

研究の動機と目的

• 同じく DLKT モデルがますます複雑化する中で、シンプルで堅牢な KT ベースラインの必要性を動機づける。
• 同じ知識要素内で質問固有の変動を捉える Rasch にインスパイアされた表現を提案する。
• 単純なドット-product アテンションネットワークが競争力のある知識状態の予測を生み出せることを示す。
• 一般化可能性を確立し、SimpleKT を強力なベースラインとして位置づけるため、7つの公開 KT データセットで評価する。

提案手法

• 質問レベルの相互作用を KC レベルの相互作用へ展開し、Rasch に似た質問難易度ベクトルを用いて質問とその知識要素を表現する。
• KC 埋め込み、質問難易度、および KC 固有の変動の和として相互作用表現 x_t および y_t を計算する。
• 過去の相互作用から知識状態 h_{t+1} を抽出するために、通常のドット積自己注意を用いる。
• 二層の前方伝播ネットワークで知識状態を精練し、バイナリ交差エントロピー損失で最適化する。
• 標準化された5分割交差検証設定の下で、7つの公開データセットを対象に AUC（主要評価指標）と accuracy（副次評価指標）を用いて評価する。

Figure 1: Graphical illustration of the task of Knowledge Tracing. “ ” and “ ” denote the question is answered correctly and incorrectly.

実験結果

リサーチクエスチョン

• RQ1 明示的な質問レベルの難易度モデリングを組み込んだシンプルでアテンションベースの KT ベースラインは、多様なデータセットで最先端の DLKT モデルと対等に戦えるか。
• RQ2 Rasch に触発された質問固有の調整は、同じ知識要素を共有する質問の KT 予測を改善するか。
• RQ3 単純なドット積アテンションは、KT のための学生学習履歴の時系列情報を十分に捉えられるか。

主な発見

• simpleKT は 7 データセットで AUC 上位3に入り、12 のベースラインに対して 55 勝、3 分、18 敗を達成。
• D1 データセット（質問と KC の両方を含む）では、simpleKT は多くのベースラインと比較して特に良い性能を示す。
• SAKT、SAINT、AKT などのアテンション型モデルと比較して、simpleKT は一般に SAKT および SAINT を上回り、AKT は一部のケースで小さなギャップを示す。
• simpleKT は複数のデータセットで DKT、DKT+、DKT-F、KQN などの深層シーケンシャル KT モデルを上回り、質問中心の難易度モデリングの利点を示している。
• アブレーションの結果、質問難易度の除去（NoDiff）は D1 データセットで性能を著しく低下させる。一方、スカラー難易度（ScalarDiff）は実務上、ほぼ完全な simpleKT と同等の効果を示す。
• メモリ、敵対的学習、グラフ構造なしでも手法は競争力があり、そのシンプルさと有効性を強調している。

Figure 2: Graphical illustration of transforming the original question-response data into KC-response data.