[논문 리뷰] Zero-shot causal learning

Hamed Nilforoshan, Michael Moor외 6명|arXiv (Cornell University)|2023. 01. 28.

Domain Adaptation and Few-Shot Learning인용 수 5

한 줄 요약

이 논문은 새로운 약물과 같은 새로운 간섭에 대해 치료 효과의 개인화된 예측을 위해 훈련 데이터 없이도 가능하게 하는 인과적 메타학습 프레임워크인 CaML을 소개한다. 간섭 특성과 개인 특성만을 사용하여, 수천 개의 이전 간섭에 대해 훈련된 통합 모델을 통해 새로운 간섭에 일반화할 수 있으며, 테스트 데이터에 대해 훈련된 기준 모델들을 능가하는 성능을 보인다.

ABSTRACT

Predicting how different interventions will causally affect a specific individual is important in a variety of domains such as personalized medicine, public policy, and online marketing. There are a large number of methods to predict the effect of an existing intervention based on historical data from individuals who received it. However, in many settings it is important to predict the effects of novel interventions (e.g., a newly invented drug), which these methods do not address. Here, we consider zero-shot causal learning: predicting the personalized effects of a novel intervention. We propose CaML, a causal meta-learning framework which formulates the personalized prediction of each intervention's effect as a task. CaML trains a single meta-model across thousands of tasks, each constructed by sampling an intervention, its recipients, and its nonrecipients. By leveraging both intervention information (e.g., a drug's attributes) and individual features~(e.g., a patient's history), CaML is able to predict the personalized effects of novel interventions that do not exist at the time of training. Experimental results on real world datasets in large-scale medical claims and cell-line perturbations demonstrate the effectiveness of our approach. Most strikingly, \method's zero-shot predictions outperform even strong baselines trained directly on data from the test interventions.

연구 동기 및 목표

• 치료된 환자로부터의 이력 데이터가 전혀 없는 새로운 간섭(예: 신약)의 인과 효과를 예측할 긴급한 필요를 해결한다.
• 예측하고자 하는 특정 간섭에 대해 훈련 데이터가 필요한 기존 CATE 추정기의 한계를 극복한다.
• 간섭 특성과 개인 수준의 특성을 활용하여 새로운 간섭과 새로운 개인에 대해 제로샷 일반화를 가능하게 한다.
• 개인화된 치료 효과를 예측하기 위해 간섭 및 개인 특성을 융합하는 확장 가능하고 효과적인 메타학습 프레임워크를 개발한다.
• 단일 메타모델이 단일 간섭에 대해서만 훈련된 경우에도 새로운 간섭의 조합에 대해 일반화할 수 있음을 입증한다.

제안 방법

• 역사적 데이터에서의 후행 자연 실험을 활용해 각 간섭의 개인화된 인과 효과 예측을 별개의 메타학습 과제로 설정한다.
• 간섭 특성(예: 약물 특성)과 개인 특성(예: 환자 이력)을 융합하여 단일 메타모델을 훈련시켜 치료 효과를 예측한다.
• RA-learner를 통한 가짜 결과 추정을 사용해 각 메타과제의 학습 타겟을 계산한다: 치료를 받은 개인에 대해 $\tilde{\tau} = Y - \hat{\mu}_0(X)$.
• 메타모델의 입력으로 간섭 정보 $W$를 통합하여, 훈련 중에 보지 못한 간섭에 대해 제로샷 일반화를 가능하게 한다.
• 메타학습 최적화(예: Reptile)를 사용해 메타모델을 훈련시켜, 간섭 특성과 개인 특성에 기반해 새로운 간섭에 적응할 수 있도록 한다.
• 모든 과제에 공통된 아키텍처(예: MLP)를 사용하며, 간섭 표현을 엔드 투 엔드로 학습시켜 다양한 간섭 간의 정렬을 가능하게 한다.

Figure 1: Overview of the zero-shot causal learning problem. Each individual has features ( $X$ ), an intervention with features ( $W$ ), and an outcome ( $Y$ ). Lightning bolts ( \faBolt ) represent interventions ( e.g. drugs). The personalized effect of an intervention ( $\tau$ ) is always unobser

실험 결과

연구 질문

• RQ1 특정 간섭에 대한 훈련 데이터 없이도 단일 메타모델이 새로운 간섭에 대해 개인화된 치료 효과를 예측할 수 있는가?
• RQ2 단일 간섭에 대해서만 훈련된 경우, CaML 프레임워크가 새로운 간섭의 조합에 대해 얼마나 잘 일반화되는가?
• RQ3 테스트 간섭 데이터에 대해 미세조정된 강력한 기준 모델들과 비교해, CaML을 사용한 제로샷 예측이 더 우수한가?
• RQ4 분자 구조, 약물 군류 등의 간섭 특성을 통합할 경우, 제로샷 인과 일반화에 어떤 영향을 미치는가?
• RQ5 예를 들어 새로운 환자 하위군이나 새로운 생물학적 맥락에서 분포 이탈 상황에서도 모델이 안정적인 성능을 유지할 수 있는가?

주요 결과

• CaML은 의료 청구 데이터와 LINCS 세포선 조작 데이터셋 모두에서 기존 기준 모델들보다 뛰어난 제로샷 성능을 달성했으며, 테스트 간섭 데이터에 직접 훈련된 기준 모델들을 능가했다.
• LINCS 데이터셋에서 CaML의 제로샷 PEHE(이종 효과 추정 정밀도)는 강력한 기준 모델들보다 유의미하게 낮아, 개인 수준의 치료 효과 추정 정확도가 높음을 시사했다.
• 단일 간섭에 대해서만 훈련된 경우에도 CaML은 추론 시 새로운 간섭의 조합 효과를 정확히 예측했으며, 강력한 복합 일반화 능력을 입증했다.
• 기존의 제로샷 방법들인 GraphITE와 Structured Intervention Networks와 유사한 능력을 지닌 유일한 다른 방법들보다도 CaML의 성능이 뛰어났다.
• 이론적 제로샷 일반화 경계가 유도되었으며, 간섭 표현을 정렬함으로써 간섭 공간과 개인 공간 간의 일반화 능력이 설명되었다.
• 하이퍼파라미터 최적화된 StarGraph 임베딩은 후속 작업에서 93% 이상의 분류 정확도를 달성해 간섭 특성에 대한 효과적인 표현 학습을 입증했다.

Figure 2: Visual illustration of the CaML (causal meta-learning) framework. (1) We sample a task (i.e., an intervention) and a natural experiment from the training data consisting of individuals who either received the intervention (W={ \faBolt }), or did not (W={}). Each individual has features ( $