[논문 리뷰] MIRACLE: Causally-Aware Imputation via Learning Missing Data Mechanisms

Trent Kyono, Yao Zhang외 2명|arXiv (Cornell University)|2021. 11. 04.

Domain Adaptation and Few-Shot Learning인용 수 11

한 줄 요약

MIRACLE는 결측값의 원인을 고려한 보정 프레임워크로, 반복적으로 결측도 그래프(m-graph)를 학습하고 예측을 결측 변수의 원인 요인과 일치하도록 정규화함으로써 어떤 기초 보정 방법이라도 향상시킨다. 이는 결측도 메커니즘의 세 가지 유형—임의로 결측(MAR), 완전히 임의로 결측(MCAR), 비임의로 결측(MNAR)—모두에서 일관되게 보정 성능을 향상시키며, 기초 성능을 떨어뜨리지 않는다.

ABSTRACT

Missing data is an important problem in machine learning practice. Starting from the premise that imputation methods should preserve the causal structure of the data, we develop a regularization scheme that encourages any baseline imputation method to be causally consistent with the underlying data generating mechanism. Our proposal is a causally-aware imputation algorithm (MIRACLE). MIRACLE iteratively refines the imputation of a baseline by simultaneously modeling the missingness generating mechanism, encouraging imputation to be consistent with the causal structure of the data. We conduct extensive experiments on synthetic and a variety of publicly available datasets to show that MIRACLE is able to consistently improve imputation over a variety of benchmark methods across all three missingness scenarios: at random, completely at random, and not at random.

연구 동기 및 목표

• 결측 데이터에 의해 유도되는 잘못된 상관관계가 후속 추론과 모델 성능을 왜곡할 수 있는 문제를 해결하기 위해.
• 기본 보정 방법을 일반화된 프레임워크로 향상시키며, 기초 데이터 생성 과정과의 원인 일관성을 강제하기 위해.
• 결측도 메커니즘을 원인 그래프(m-graph)를 사용해 명시적으로 모델링하여 보정을 안내하고 관측된 데이터 의존성에 기인한 편향을 줄이기 위해.
• 결측도 메커니즘의 세 가지 모두—임의로 결측(MAR), 완전히 임의로 결측(MCAR), 비임의로 결측(MNAR)—에서 강건성을 확보하기 위해.
• MIRACLE를 통한 원인 인지 보정이 기초 결과를 떨어뜨리지 않고 일관되게 성능을 향상시킨다는 것을 입증하기 위해.

제안 방법

• MIRACLE는 기존의 어떤 보정 방법에도 적용 가능한 개선 프레임워크로, 반복적으로 학습된 m-graph를 사용해 예측을 향상시킨다.
• 보조 보정 루프를 통해 조건부 독립성과 변수 간 원인 관계를 캡슐화한 결측도 그래프(m-graph)를 학습한다.
• 두 부분으로 구성된 정규화 기법을 적용한다: 하나는 원인 그래프 구조에 기반해 예측이 원인 부모 변수에만 의존하도록 보장하고, 다른 하나는 결측도 지표에 기반한 모멘트 정규화 기법이다.
• 보정을 강건 최적화 문제로 공식화하여, 결측도 지표에 대한 간섭에 대해 최악의 예측 오차를 최소화한다.
• m-graph는 신경망의 입력 레이어에 통합되어 기울기 기반 최적화를 통한 엔드 투 엔드 학습이 가능하다.
• 에포크 단위로 반복적 개선을 수행하며, RMSE를 통해 성능을 모니터링하고 여러 데이터셋에서 수렴성을 관찰한다.

실험 결과

연구 질문

• RQ1 원인 인지 보정 프레임워크인 MIRACLE는 결측도 메커니즘의 세 유형—MAR, MCAR, MNAR—모두에서 기초 결과를 떨어뜨리지 않고 성능을 향상시킬 수 있는가?
• RQ2 m-graph를 통해 결측도 생성 메커니즘을 학습하는 것이 표준 보정 방법에 비해 보정 정확도에 어떤 영향을 미치는가?
• RQ3 MIRACLE의 성능가 결측도 그래프의 희박성과 정확도에 얼마나 의존하는가?
• RQ4 기초 보정기의 초기 성능이 서로 다를 때조차도 MIRACLE의 개선 과정이 개별 샘플 수준에서 오차를 일관되게 줄이는가?
• RQ5 보통 약한 기초로 간주되는 평균 보정조차도 원인 일관성을 강제함으로써 MIRACLE가 향상시킬 수 있는가?

주요 결과

• MIRACLE는 합성 및 실세계 데이터셋에서 여섯 가지 벤치마크 보정 방법 전반에 걸쳐 일관되게 성능을 향상시키며, 어떤 시나리오에서도 성능 저하가 발생하지 않았다.
• 학습된 m-graph가 결측 변수에 대해 희박한 원인 부모 집합을 식별할 경우 성능 향상이 가장 크게 나타나, 원인 특이성이 향상에 기여한다는 것을 시사한다.
• 원인 발견 과정에서 잘못된 엣지가 많은 m-graph를 사용할 경우 MIRACLE의 성능 향상은 미미한 편이었으며, 정확한 원인 구조 학습의 중요성을 강조한다.
• Abalone 데이터셋에서 MIRACLE는 평균 보정을 개선하여 더 강력한 기초 방법들과 비교할 만한 성능을 달성했으며, 이는 약한 보정기의 성능을 향상시킬 수 있음을 보여준다.
• 개별 샘플 분석 결과 MIRACLE는 다수의 샘플에서 오차를 개선했으며, 이미 잘 보정된 샘플에서는 오차 증가가 최소한이었다.
• 수렴 분석 결과 MIRACLE의 오차는 학습 에포크가 진행될수록 감소했으며, 개선 곡선의 기울기가 점점 줄어들어 안정적이고 점진적인 개선이 이루어졌음을 확인했다.