[論文レビュー] Self-supervised Graph Learning for Long-tailed Cognitive Diagnosis

Shanshan Wang, Zhen Zeng+2 more|arXiv (Cornell University)|Oct 15, 2022

Online Learning and Analytics被引用数 8

ひとこと要約

本稿では、自己教師あり認知診断（SCD）を提案する。SCDは、学生と問題の相互作用グラフの重要度に基づくスパースなビューを生成することで、長尾型学生の性能を向上させるグラフ学習フレームワークである。同一ノードの異なるビュー間での表現の一貫性を最大化することで、低データの学生に焦点を当て、スパースデータに対して顕著な向上を達成するとともに、豊富なデータの学生に対しても高い性能を維持する。

ABSTRACT

Cognitive diagnosis is a fundamental yet critical research task in the field of intelligent education, which aims to discover the proficiency level of different students on specific knowledge concepts. Despite the effectiveness of existing efforts, previous methods always considered the mastery level on the whole students, so they still suffer from the Long Tail Effect. A large number of students who have sparse data are performed poorly in the model. To relieve the situation, we proposed a Self-supervised Cognitive Diagnosis (SCD) framework which leverages the self-supervised manner to assist the graph-based cognitive diagnosis, then the performance on those students with sparse data can be improved. Specifically, we came up with a graph confusion method that drops edges under some special rules to generate different sparse views of the graph. By maximizing the consistency of the representation on the same node under different views, the model could be more focused on long-tailed students. Additionally, we proposed an importance-based view generation rule to improve the influence of long-tailed students. Extensive experiments on real-world datasets show the effectiveness of our approach, especially on the students with sparse data.

研究の動機と目的

• 相互作用記錟が少ない学生がモデル最適化において過小評価されがちな認知診断における長尾問題に対処すること。
• 豊富なデータを持つ学生の性能を損なうことなく、長尾型学生のモデル性能を向上させること。
• 構造的なビュー生成を通じて低データ学生の表現学習を強化する自己教師ありグラフ学習フレームワークの開発。
• 長尾型ノードの影響を高めるために、優先度に基づくエッジドロップアウト戦略の設計。

提案手法

• 歴史的応答データから学生-問題相互作用グラフを構築し、エッジが相互作用を表す。
• ノード次数に基づいてエッジの重要度を割り当て、長尾型学生に接続されたエッジに高い優先度を付与。
• 重要度に基づく保持確率に従ってエッジをドロップすることで、複数のスパースビューを生成。
• 同じノードが異なるスパースビューにおいても表現の一貫性を最大化するため、グラフ対照的学習を適用。
• 自己教師あり対照損失と主な認知診断モデルを同時に学習させ、一般化性能を向上。
• 長尾型ノードを強調するビュー生成ルールを設計し、トレーニング中にそれらが無視されないよう保証。

実験結果

リサーチクエスチョン

• RQ1 自己教師ありグラフ学習は、長尾型学生の認知診断性能を向上させることができるか？
• RQ2 重要度に基づくエッジドロップアウト戦略は、グラフ表現学習における長尾型学生の影響を高めることができるか？
• RQ3 スパースデータにおける性能面で、SCDはランダムなビュー生成と比べて優れているか？
• RQ4 提案手法は、低データ学生の診断精度を向上させつつ、高データ学生の性能を低下させないか？

主な発見

• SCDは、特に相互作用回数が0–5および5–10のグループにおけるスパースな相互作用データを持つ学生に対して顕著な向上を達成した。
• SCDは、SCD-random（ランダムエッジドロップアウト）を上回り、すべての指標で優位性を示した。特にACC_{50}およびRMSE_{50}において顕著な優位性を示し、重要度に基づく戦略の有効性を裏付けた。
• 高相互作用グループ（例：30–35、35–）においても、SCDはRCDと同等またはそれ以上の性能を示した。これは、豊富なデータの学生において性能が低下していないことを示している。
• 診断ケーススタディにおいて、SCDは長尾型学生（#2）を概念CおよびD/Eが未習得であると正しく診断したが、RCDは概念Cが習得済みと誤って予測した。
• モデルの自己教師あり対照学習は、重要度に配慮したビュー生成により構造的情報を保持することで、低データ学生の表現学習を効果的に強化した。