[논문 리뷰] Simultaneous Missing Value Imputation and Structure Learning with Groups

Pablo Morales-Álvarez, Wenbo Gong외 6명|arXiv (Cornell University)|2021. 10. 15.

Advanced Graph Neural Networks인용 수 8

한 줄 요약

이 논문은 변분 추론과 그래프 신경망(GNN)-기반 디코더를 사용하여 부분적으로 관측된 데이터에서 결측치 보정과 군집별 구조 학습을 동시에 수행하는 딥 생성 모델인 VISL을 제안한다. 이 모델은 구조화된 잠재 공간을 통해 군집 수준의 관계를 모델링하며, 합성, 반합성, 실세계 교육 데이터셋에서 모두 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Learning structures between groups of variables from data with missing values is an important task in the real world, yet difficult to solve. One typical scenario is discovering the structure among topics in the education domain to identify learning pathways. Here, the observations are student performances for questions under each topic which contain missing values. However, most existing methods focus on learning structures between a few individual variables from the complete data. In this work, we propose VISL, a novel scalable structure learning approach that can simultaneously infer structures between groups of variables under missing data and perform missing value imputations with deep learning. Particularly, we propose a generative model with a structured latent space and a graph neural network-based architecture, scaling to a large number of variables. Empirically, we conduct extensive experiments on synthetic, semi-synthetic, and real-world education data sets. We show improved performances on both imputation and structure learning accuracy compared to popular and recent approaches.

연구 동기 및 목표

• 결측치가 있는 데이터에서 변수 군집 간의 구조적 관계를 학습하는 도전 과제, 특히 교육과 같은 실세계 적용 사례에서의 문제를 해결하기 위해.
• 완전한 데이터가 필요 없이 결측치 보정과 군집 수준의 구조 학습을 공동으로 수행할 수 있는 확장 가능한 방법을 개발하기 위해.
• 구조화된 잠재 공간과 GNN 기반 디코더를 사용하여 변수 군집 간의 복잡한 의존성을 모델링하기 위해.
• 학생이 질문에 응답하는 방식(주제별로 그룹화됨)이 희소하고 불완전한 실세계 교육 데이터에서 모델을 평가하기 위해.
• 기존 방법들보다 더 높은 보정 정확도와 구조 학습의 정밀도를 확보하기 위해.

제안 방법

• VISL은 전역 잠재 변수(접속 행렬을 나타냄)와 각 변수 군집에 대한 국소 잠재 변수를 갖는 변분 autoencoder 프레임워크를 사용한다.
• GNN 기반 디코더를 사용하여 군집 수준의 잠재 표현 간의 상호작용을 모델링하며, GNN의 메시지 전달 메커니즘이 추론된 구조에 따라 달라진다.
• 변분 추론을 활용하여 구조와 잠재 변수의 사후 분포를 함께 최적화함으로써 결측 데이터 하에서 엔드 투 엔드 학습이 가능하다.
• 각 군집이 공유된 부분공간에 임bedding되는 구조화된 잠재 공간이 도입되며, 이에 따라 군집 간 관계는 GNN 아키텍처에 의해 규제된다.
• 관측된 값들을 잠재 변수와 전역 구조에 조건부로 모델링함으로써 명시적인 보정 단계 없이 자연스럽게 결측 데이터를 처리한다.
• 이 프레임워크는 변수와 군집의 수가 많아지는 데에도 확장 가능하여, 교육 평가 데이터와 같은 고차원 실세계 데이터에 적합하다.

실험 결과

연구 질문

• RQ1 고차원적이고 부분적으로 관측된 데이터에서 딥 생성 모델이 결측치 보정과 군집별 구조 학습을 동시에 수행할 수 있는가?
• RQ2 GNN 기반 디코더와 구조화된 잠재 공간의 통합이 기존 방법에 비해 구조 학습 및 보정 정확도를 얼마나 향상시키는가?
• RQ3 실세계 교육 데이터에서 VISL이 결측치 보정 및 구조 학습 과제에서 최신 기술 수준의 베이스라인들을 얼마나 뛰어넘는가?
• RQ4 합성 및 반합성 데이터셋에서 다양한 수준의 결측률과 군집 크기의 이질성에 대해 VISL의 성능은 얼마나 견고한가?
• RQ5 VISL이 학습한 구조는 교육 분야의 전문가가 의미 있게 해석할 수 있는가?

주요 결과

• VISL은 Eedi 교육 데이터셋에서 인과적 구조 학습에서 F1 스코어 0.615 ± 0.074를 기록하여, 모든 베이스라인(예: MMHC: 0.471 ± 0.061, DAG-GNN: 0.257 ± 0.066)을 뛰어넘는 높은 성능을 보였다.
• 구조 학습에서 VISL은 정밀도 0.588 ± 0.042와 재현율 0.698 ± 0.052를 기록하여 실세계 교육 데이터에서 정밀도와 재현율 간의 균형이 뛰어나다는 것을 입증했다.
• 확장된 합성 실험에서 VISL은 접속 행렬 예측에 대해 F1 스코어 0.635 ± 0.049를 기록하여, 강력한 MMHC 기반 베이스라인을 포함한 모든 경쟁 모델을 능가했다.
• 실세계 교육 데이터에서 VISL은 주제별로 분류된 질문들에 대한 미응답 학생 응답을 예측하는 데 있어 높은 정확도를 보이며 뛰어난 보정 성능을 입증했다.
• 도메인 전문가들이 학습된 주제 간 관계를 검토한 결과, VISL이 기초 주제가 고급 주제 이전에 오는 등 의미 있고 해석 가능한 학습 경로를 발견했다고 확인했다.
• 모델은 다양한 군집 크기와 결측률 수준에서도 일관된 성능 향상을 보이며, 구조 학습 및 보정 과제 모두에서 확장성과 견고성을 입증했다.