[논문 리뷰] Causal Effect Inference for Structured Treatments

Jean Kaddour, Yuchen Zhu외 3명|PolyPublie (École Polytechnique de Montréal)|2021. 06. 03.

Advanced Causal Inference Techniques참고 문헌 60인용 수 8

한 줄 요약

이 논문은 그래프, 이미지, 텍스트와 같은 구조적 치료법에서 조건부 평균 치료 효과(CATE)를 추정하기 위해 일반화 로빈슨 분해(GRD)를 제안한다. 의사결정 신호를 가짜 결과 목표로 분리하고, 임의의 모델을 사용한 플러그인 학습을 가능하게 함으로써, 약간의 가정 하에 준오라클 수렴 속도를 달성하며, 분자의 및 소월드 그래프 실험에서 이전 방법들을 능가한다.

ABSTRACT

We address the estimation of conditional average treatment effects (CATEs) for structured treatments (e.g., graphs, images, texts). Given a weak condition on the effect, we propose the generalized Robinson decomposition, which (i) isolates the causal estimand (reducing regularization bias), (ii) allows one to plug in arbitrary models for learning, and (iii) possesses a quasi-oracle convergence guarantee under mild assumptions. In experiments with small-world and molecular graphs we demonstrate that our approach outperforms prior work in CATE estimation.

연구 동기 및 목표

• 기존 원인 인과 추론 방법에서 다루지 않은 바이오모델, 이미지, 텍스트와 같은 구조적 치료법(예: 분자 그래프)에서 CATE를 추정하는 문제를 해결하기 위해.
• 치료 효과의 비인과적 구성요소와 인과적 구성요소로 결과를 분해함으로써, CATE 추정에서 정규화 편향과 오염 편향을 줄이기 위해.
• 구조적 치료 환경에서 비용 함수와 목표 함수를 추정하기 위해 임의의 지도 학습 모델을 사용할 수 있는 일반적 프레임워크를 개발하기 위해.
• 모든 비용 함수에 대한 정확한 지식을 가진 오라클과 동일한 오차 경계를 달성할 수 있음을 보장하는 이론적 수렴 보장을 수립하기 위해.
• 새로운 평가 지표를 사용하여 구조적 치료법에 대해 실험적으로 평가하고, 이전 접근 방식보다 우수한 성능을 입증하기 위해.

제안 방법

• 연속적이고 구조적인 치료 임베딩에 대해 고전적 로빈슨 분해를 일반화한 일반화된 로빈슨 분해(GRD)를 도입한다.
• 편향 효과를 제거하고 인과적 성분을 분리하기 위해 관측된 결과 신호에서 인과적 성분을 분리하는 학습 가능한 가짜 결과 목표를 유도한다.
• 비용 함수(예: 성향 점수, 조건부 평균)와 CATE 함수를 임의의 지도 학습 모델을 사용해 추정하는 플러그인 학습 전략을 적용한다.
• 구조적 간섭 네트워크(SIN) 프레임워크 내에서 교차 기울기 하강법을 사용해 CATE 및 비용 추정기의 공동 최적화를 수행한다.
• 일반화된 R-러너의 벌레 기반 회귀 변형에 정규화 항을 적용하며, 이 정규화 항은 수렴 속도보다 더 빠르게 증가하여 오라클 유사 성능을 보장한다.
• 비용 추정 속도에 대한 약한 가정 하에, 실용적 추정기의 경험적 위험를 진짜 손실으로 연결함으로써 준오라클 수렴 보장을 수립한다.

실험 결과

연구 질문

• RQ1 그래프나 이미지와 같은 구조적 치료법에 대해 CATE를 추정할 수 있는 일반적인 분해 방법을 개발할 수 있는가? 이때 정규화 편향을 최소화할 수 있는가?
• RQ2 구조적 치료 환경에서 관측된 결과에서 오염 효과를 효과적으로 제거하고 인과 신호를 분리할 수 있는가?
• RQ3 CATE 추정에서 비용 함수와 목표 함수를 추정하기 위해 임의의 지도 학습 모델을 얼마나 넓게 사용할 수 있는가?
• RQ4 비용 함수가 데이터로부터 추정될 때, 실용적 추정기의 이론적 수렴 보장을 어떻게 확립할 수 있는가?
• RQ5 제안된 방법은 구조적 치료 데이터에서 이전 방법들에 비해 CATE 추정 정확도 측면에서 어떻게 비교되는가?

주요 결과

• 제안된 일반화된 로빈슨 분해(GRD)는 오염된 연관성을 제거함으로써 결과의 인과적 성분을 성공적으로 분리하여, CATE 추정에서 정규화 편향을 줄인다.
• 이 방법은 준오라클 수렴 속도를 달성한다: 비용 추정기의 수렴 속도가 $O(n^{-1/4})$일 때, CATE 추정기는 비용 함수에 대한 완전한 지식을 가진 오라클과 동일한 오차 경계를 확보한다.
• 분자 및 소월드 그래프 실험에서, 구조적 간섭 네트워크(SIN)는 이전 최고 성능 방법들보다 CATE 추정 정확도에서 뛰어난 성능을 보였다.
• 이론적 분석을 통해 실용적 추정기의 손실 수렴 속도가 $\tilde{\mathcal{O}}(n^{-1/(1+p)})$임을 입증하였으며, 이는 약한 가정 하에 오라클 최소화기의 속도와 일치한다.
• 대부분의 경우 테스트 시점에서 새로운 치료법으로의 일반화가 가능하다. 이는 표현 학습 및 구조적 치료 임베딩 접근 방식 덕분이다.
• 저자들은 이 분야에서 표준화된 벤치마크가 부족한 점을 보완하기 위해 구조적 치료법에 특화된 새로운 평가 지표를 도입하였다.