[논문 리뷰] DisenGCD: A Meta Multigraph-assisted Disentangled Graph Learning Framework for Cognitive Diagnosis

Shangshang Yang, Mingyang Chen외 5명|arXiv (Cornell University)|2024. 10. 23.

Machine Learning in Healthcare인용 수 4

한 줄 요약

이 논문은 인터랙션, 관계, 의존성 세 가지 서로 다른 그래프에서 학생, 문제, 개념 표현을 분리하는 메타 다중그래프 지원 분리 그래프 학습 프레임워크인 DisenGCD를 제안한다. 학생 표현을 저차원 문제 특징으로 향상시키기 위해 가용 가능한 메타 다중그래프 모듈을 사용하고, 문제/개념 학습을 위해 GAT를 활용함으로써, 기존 최고 성능(SOTA) 방법들에 비해 우수한 성능과 상호작용 노이즈에 대한 강건성을 확보한다.

ABSTRACT

Existing graph learning-based cognitive diagnosis (CD) methods have made relatively good results, but their student, exercise, and concept representations are learned and exchanged in an implicit unified graph, which makes the interaction-agnostic exercise and concept representations be learned poorly, failing to provide high robustness against noise in students' interactions. Besides, lower-order exercise latent representations obtained in shallow layers are not well explored when learning the student representation. To tackle the issues, this paper suggests a meta multigraph-assisted disentangled graph learning framework for CD (DisenGCD), which learns three types of representations on three disentangled graphs: student-exercise-concept interaction, exercise-concept relation, and concept dependency graphs, respectively. Specifically, the latter two graphs are first disentangled from the interaction graph. Then, the student representation is learned from the interaction graph by a devised meta multigraph learning module; multiple learnable propagation paths in this module enable current student latent representation to access lower-order exercise latent representations, which can lead to more effective nad robust student representations learned; the exercise and concept representations are learned on the relation and dependency graphs by graph attention modules. Finally, a novel diagnostic function is devised to handle three disentangled representations for prediction. Experiments show better performance and robustness of DisenGCD than state-of-the-art CD methods and demonstrate the effectiveness of the disentangled learning framework and meta multigraph module. The source code is available at extcolor{red}{\url{https://github.com/BIMK/Intelligent-Education/tree/main/DisenGCD}}.

연구 동기 및 목표

• 기존 그래프 학습 기반 인지 진단 모델이 학생 상호작용 데이터의 노이즈에 취약한 문제를 해결한다.
• 통합 그래프 모델이 문제와 개념에 대한 상호작용 무관 표현을 유지하지 못하는 한계를 극복한다.
• 얕은 GNN 레이어에서 유도된 저차원 문제 잠재 특징을 활용하여 학생 표현을 향상시킨다.
• 세 가지 별도의 그래프에서 학생, 문제, 개념 표현 학습을 분리하는 분리 학습 프레임워크를 개발한다.
• 정확한 반응 예측을 위해 세 가지 분리된 표현을 통합하는 새로운 진단 함수를 설계한다.

제안 방법

• 세 가지 분리된 그래프 구축: (1) 학생-문제-개념 상호작용 그래프, (2) 문제-개념 관계 그래프, (3) 개념 의존성 그래프.
• 관계 그래프와 의존성 그래프에서 각각 그래프 어텐션 네트워크(GAT)를 사용해 문제 및 개념 표현을 학습한다.
• 상호작용 그래프에 메타 다중그래프 학습 모듈을 구현하여 학생 표현을 위한 다수의 학습 가능한 전파 경로를 가능하게 한다.
• 메타 다중그래프 모듈을 통해 현재 학생 표현이 얕은 레이어에서 유도된 저차원 문제 표현에 액세스하고 집계할 수 있도록 한다.
• 세 가지 분리된 표현을 새로운 진단 함수를 통해 통합하여 최종 반응 예측을 수행한다.
• 학생의 반응 예측에 대해 교차 엔트로피 손실을 사용해 모델을 엔드 투 엔드로 훈련한다.

실험 결과

연구 질문

• RQ1 분리된 그래프 학습 프레임워크는 인지 진단에서 노이즈가 있는 학생 상호작용 데이터에 대해 강건성을 향상시킬 수 있는가?
• RQ2 제안된 메타 다중그래프 모듈은 저차원 문제 특징에 액세스하여 학생 표현을 효과적으로 향상시키는가?
• RQ3 학습된 메타 다중그래프는 다양한 문제-개념 구조를 가진 서로 다른 데이터셋 간에 일반화 가능한가?
• RQ4 통합 그래프 기반 모델 대비 분리 프레임워크는 성능과 강건성 측면에서 어떻게 비교되는가?
• RQ5 각 구성 요소(분리된 그래프, 메타 다중그래프, 진단 함수)가 전체 모델 성능에 기여하는 정도는 어떠한가?

주요 결과

• DisenGCD는 세 가지 벤치마크 데이터셋에서 최고 성능(SOTA) 모델을 능가하며, 더 높은 AUC와 정확도를 달성한다.
• 제거 실험 결과, 통합 그래프 학습 대비 세 가지 분리된 그래프에서 표현을 학습하는 것이 성능 향상에 크게 기여함을 확인한다.
• 학습 가능한 경로를 가진 메타 다중그래프 모듈은 단순 임bedding과 사전 정의된 경로 구조보다 모델 성능을 향상시킨다.
• 학습된 메타 다중그래프는 유사한 데이터셋(SLP 및 Math)에서는 효과적이지만, 상이한 데이터셋(ASSISTments)에서는 덜 효과적이므로 데이터셋에 특화된 적응성을 보인다.
• DisenGCD는 상호작용 노이즈에 대해 매우 강건하며, 데이터 훼손 상황에서도 성능 안정성을 유지한다.
• 시각화 결과, 메타 다중그래프가 서로 다른 데이터셋에서 고유한 구조를 학습함을 확인하였으며, 이는 문제-개념 관계의 잠재적 차이를 반영한다.