[论文解读] Self-supervised Graph Learning for Long-tailed Cognitive Diagnosis

Shanshan Wang, Zhen Zeng+2 more|arXiv (Cornell University)|Oct 15, 2022

Online Learning and Analytics被引用 8

一句话总结

该论文提出自监督认知诊断（SCD），一种图学习框架，通过生成基于重要性的稀疏视图来提升长尾学生的表现。通过最大化不同视图之间的表示一致性，SCD增强了对低数据量学生的关注，在稀疏数据上取得显著提升，同时保持了在密集数据上的强性能。

ABSTRACT

Cognitive diagnosis is a fundamental yet critical research task in the field of intelligent education, which aims to discover the proficiency level of different students on specific knowledge concepts. Despite the effectiveness of existing efforts, previous methods always considered the mastery level on the whole students, so they still suffer from the Long Tail Effect. A large number of students who have sparse data are performed poorly in the model. To relieve the situation, we proposed a Self-supervised Cognitive Diagnosis (SCD) framework which leverages the self-supervised manner to assist the graph-based cognitive diagnosis, then the performance on those students with sparse data can be improved. Specifically, we came up with a graph confusion method that drops edges under some special rules to generate different sparse views of the graph. By maximizing the consistency of the representation on the same node under different views, the model could be more focused on long-tailed students. Additionally, we proposed an importance-based view generation rule to improve the influence of long-tailed students. Extensive experiments on real-world datasets show the effectiveness of our approach, especially on the students with sparse data.

研究动机与目标

• 解决认知诊断中的长尾问题，即交互记录较少的学生在模型优化中代表性不足。
• 在不损害对高数据量学生表现的前提下，提升模型对长尾学生的性能。
• 开发一种自监督图学习框架，通过结构化视图生成增强低数据量学生的表示学习。
• 设计一种边缘丢弃策略，优先考虑长尾节点，以增强其在图中的影响力。

提出的方法

• 从历史答题数据构建学生-练习交互图，边表示交互关系。
• 根据节点度数分配边的重要性，优先考虑连接长尾学生的边。
• 根据基于重要性的保留概率，通过丢弃边来生成多个稀疏视图。
• 应用图对比学习，最大化同一节点在不同稀疏视图中的表示一致性。
• 将主认知诊断模型与自监督对比损失联合训练，以提升泛化能力。
• 采用强调长尾节点的视图生成规则，确保其在训练过程中不被边缘化。

实验结果

研究问题

• RQ1 自监督图学习能否提升对长尾学生的认知诊断性能？
• RQ2 基于重要性的边丢弃策略是否能增强长尾学生在图表示学习中的影响力？
• RQ3 与随机视图生成相比，SCD在稀疏数据上的性能表现如何？
• RQ4 所提出方法能否在不降低高数据量学生表现的前提下，提升低数据量学生的诊断准确率？

主要发现

• SCD在交互数据稀疏的学生中表现显著提升，尤其在0–5和5–10次交互组中效果明显。
• SCD在所有指标上均优于SCD-random（随机边丢弃），在ACC_{50}和RMSE_{50}上优势更显著，证明了基于重要性的策略有效。
• 在高交互量组（如30–35、35–）中，SCD表现与RCD相当或更优，表明在密集数据上无性能下降。
• 在一项诊断案例研究中，SCD正确诊断出学生#2（长尾学生）在概念C和D/E上未掌握，而RCD错误预测其已掌握概念C。
• 模型的自监督对比学习通过重要性感知的视图生成，有效保留了结构信息，增强了低数据量学生的表示学习。