[논문 리뷰] Generalization and Invariances in the Presence of Unobserved Confounding.

Alexis Bellot, Mihaela van der Schaar|arXiv (Cornell University)|2020. 07. 21.

Machine Learning in Healthcare참고 문헌 45인용 수 11

한 줄 요약

이 논문은 기울기 기반 방법과 호환되는 일반 목적 함수를 제안함으로써 관측되지 않은 혼동요인 존재하에서도 분포 이동에 대해 강건한 학습이 가능하도록 하는 인과적 일반화 원칙을 제시한다. 영상 및 음성과 같은 다양한 모odal의 의료 데이터에서 예측의 안정성과 일반화 성능이 향상되었으며, 은폐된 혼동요인이 존재하는 상황에서도 효과를 입증하였다.

ABSTRACT

The ability to extrapolate, or generalize, from observed to new related environments is central to any form of reliable machine learning, yet most methods fail when moving beyond $i.i.d$ data. In some cases, the reason lies in a misappreciation of the causal structure that governs the observed data. But, in others, it is unobserved data, such as hidden confounders, that drive changes in observed distributions and distort observed correlations. In this paper, we argue that generalization must be defined with respect to a broader class of distribution shifts, irrespective of their origin (arising from changes in observed, unobserved or target variables). We propose a new learning principle from which we may expect an explicit notion of generalization to certain new environments, even in the presence of hidden confounding. This principle leads us to formulate a general objective that may be paired with any gradient-based learning algorithm; algorithms that have a causal interpretation in some cases and enjoy notions of predictive stability in others. We demonstrate the empirical performance of our approach on healthcare data from different modalities, including image and speech data.

연구 동기 및 목표

• 실제 머신러닝 환경에서 흔한 관측되지 않은 혼동요인으로 인해 데이터 분포가 이동할 때 모델의 일반화 문제를 해결하기 위해.
• 관측된 데이터 분포 이동뿐만 아니라 은폐된 변수에 의해 유도되는 더 넓은 범주에 걸친 분포 이동에 대해서도 일반화를 정의하기 위해.
• 관측되지 않은 혼동요인이 존재하는 상황에서도 예측의 안정성과 새로운 환경에 대한 일반화를 보장하는 학습 원칙을 개발하기 위해.
• 모든 기울기 기반 학습 알고리즘과 통합될 수 있는 일반적이고 미분 가능한 목적 함수를 만들기 위해, 필요에 따라 인과적 해석 가능성 또는 안정성을 유지한다.

제안 방법

• 분포 이동에 대한 관점에서의 불변성에 기반한 새로운 학습 원칙을 제안하며, 관측되지 않은 혼동요인을 명시적으로 고려하기 위해 더 넓은 범주로 확장된 환경 이동을 수용한다.
• 데이터 생성 과정의 구조적 제약 조건을 활용하여, 혼동요인이 관측되지 않더라도 환경 간의 불변성을 강제하는 일반 최적화 목적 함수를 유도한다.
• 제안된 목적 함수를 어떤 기울기 기반 학습 알고리즘과도 통합하여 엔드 투 엔드 학습을 가능하게 하며, 식별 가능한 경우 인과적 해석 가능성을 유지한다.
• 예측의 불변성을 장려하는 표현 학습 프레임워크를 사용하여, 은폐된 혼동요인이 유도하는 유사 상관관계에 대한 의존도를 최소화한다.
• 관측된 변수, 관측되지 않은 변수, 목표 변수의 변화를 통합된 일반화 프레임워크의 일부로 간주하는 분포 이동 모델링 접근법을 사용한다.
• 다양한 모달의 의료 데이터, 즉 영상 및 음성 데이터에 대해 이 방법을 적용하여 실제 분포 이동 상황에서의 성능을 평가한다.

실험 결과

연구 질문

• RQ1 은폐된 혼동요인이 환경 간에 분포 이동을 유도할 때, 어떻게 일반화를 의미 있게 정의할 수 있는가?
• RQ2 관측된 혼동요인과 관측되지 않은 혼동요인에 의해 유도된 이동에 모두 일반화를 보장하는 통합된 학습 원칙을 개발할 수 있는가?
• RQ3 은폐된 혼동요인이 존재하는 상황에서도 강건한 일반화를 가능하게 하고, 기울기 기반 학습과 호환되는 목적 함수는 무엇인가?
• RQ4 실제 의료 데이터에서 분포 이동 상황에서의 예측 안정성과 OOD 성능 측면에서 제안된 방법은 표준 기준 대비 어떻게 비교되는가?

주요 결과

• 제안된 방법은 관측되지 않은 혼동요인이 관측된 상관관계를 왜곡하는 상황에서도 의료 데이터의 OOD 테스트 세트에서 향상된 일반화 성능를 달성한다.
• 은폐된 혼동요인이 유도하는 분포 이동 상황에서도 의료 영상 및 음성과 같은 다양한 데이터 모달에서 예측의 안정성이 입증된다.
• 일반 목적 함수가 표준 딥러닝 프레임워크와 호환됨을 입증하여 기존 학습 파ip라인과 원활한 통합이 가능함을 보여준다.
• 인과적 구조가 식별 가능한 상황에서는 인과적 표현을 회복하여 예측에 대한 인과적 해석 가능성을 제공한다.
• 다중 모달 의료 데이터에 대한 실험 결과는 제안된 방법이 관측되지 않은 혼동요인이 유도하는 유사 상관관계에 대한 의존도를 감소시킴을 확인한다.
• 분포 이동 상황에서 일반화 성능 측면에서 표준적인 경험 리스크 최소화 및 다른 불변성 기반 기준 대비 제안된 방법이 뛰어난 성능을 보인다.