[논문 리뷰] Recursive Partitioning for Personalization using Observational Data

Nathan Kallus|arXiv (Cornell University)|2016. 08. 31.

Statistical Methods and InferenceMathematics인용 수 20

한 줄 요약

이 논문은 관찰 데이터를 이용한 개인화된 치료 선택을 위한 새로운 재귀적 분할 접근법을 제안하며, 개인화를 별도의 m개의 회귀 분석이 아닌 하나의 학습 과제로 재정의한다. 개인화를 위한 새로운 불순도 측정법을 도입하고, 혼합정수계획법을 통해 개인화 트리(PT), 개인화 숲(PF), 최적 분할(OPT)을 개발하며, 개인화 의료 및 직업 훈련 적용 사례에서 뛰어난 성능과 해석 가능성(해석 가능성)을 입증한다. 이는 완벽한 개인화에서 얻을 수 있는 잠재적 이득의 최대 47%를 달성한다.

ABSTRACT

We study the problem of learning to choose from m discrete treatment options (e.g., news item or medical drug) the one with best causal effect for a particular instance (e.g., user or patient) where the training data consists of passive observations of covariates, treatment, and the outcome of the treatment. The standard approach to this problem is regress and compare: split the training data by treatment, fit a regression model in each split, and, for a new instance, predict all m outcomes and pick the best. By reformulating the problem as a single learning task rather than m separate ones, we propose a new approach based on recursively partitioning the data into regimes where different treatments are optimal. We extend this approach to an optimal partitioning approach that finds a globally optimal partition, achieving a compact, interpretable, and impactful personalization model. We develop new tools for validating and evaluating personalization models on observational data and use these to demonstrate the power of our novel approaches in a personalized medicine and a job training application.

연구 동기 및 목표

• 랜덤화 시험이 비현실적이거나 윤리적으로 문제가 되는 관찰 데이터에서 최적의 치료 할당을 학습하는 데 도전하는 것.
• 기존의 '재귀적으로 비교' 방법의 한계를 극복하기 위해, 각 치료를 별도의 회귀 과제로 다루며 관찰 환경에서의 상호 치료 비교를 고려하지 못하는 점을 해결하는 것.
• 특정 치료가 최적임을 보장하는 영역으로 공변수 공간을 재귀적으로 분할함으로써 개인화를 직접 최적화하는 통합 학습 프레임워크를 개발하는 것.
• 혼합정수계획법과 앙상블 방법을 활용해, 설명 가능하고 간결하며 전역적으로 최적임을 보장하는 개인화 모델을 구축하는 것.
• 관찰 데이터에서 개인화 모델을 공정하게 평가하고 튜닝하기 위해, 서브매칭(submatching)과 개인화 계수(P1, P2)를 포함한 새로운 검증 기법을 도입하는 것.

제안 방법

• 개인화를 하나의 학습 과제로 재정의하기 위해, 특정 파티션 내에서 최적의 치료를 할당했을 때의 예상 결과 차이를 측정하는 새로운 불순도 측정법을 정의한다.
• 개인화 트리(PT)를 개발하며, 파티션 내 개인화 불순도의 합을 최소화하는 방식으로 최적의 치료 제도를 식별하는 탐욕적 재귀적 분할 알고리즘을 사용한다.
• 개인화 숲(PF)을 도입하며, 부트스트랩 샘플에 기반한 PT의 앙상블을 통해 정확도와 일반화 능력을 향상시킨다.
• 최적의 개인화 트리(OPT)를 제안하며, 혼합정수계획법(MIP)을 사용해 공변수 공간의 분할을 전역적으로 최적화함으로써 제약 조건 하에 가능한 한 최고의 모델을 확보한다.
• 관찰 데이터에서 일치하는 테스트 세트를 생성하기 위해 새로운 서브매칭 기법을 활용하며, 개인화 모델의 타당한 외부 샘플 평가를 가능하게 한다.
• 개인화 계수(P1, P2)를 정의하고 사용하여, 모델 성능을 완벽한 개인화에서 얻을 수 있는 최대 이득의 백분율로 정량화한다.

실험 결과

연구 질문

• RQ1 재귀적 분할 프레임워크가 관찰 데이터에서 표준적인 '재귀적으로 비교' 방법보다 개인화 성능을 뛰어나게 할 수 있는가?
• RQ2 모든 치료 옵션에 대해 동시에 치료 할당을 최적화하는 통합 학습 접근법은 개별 치료별 회귀 분석 대비 성능 향상과 해석 가능성 향상에 어떻게 기여하는가?
• RQ3 혼합정수계획법을 통한 전역 최적 분할 접근법이 탐욕적 또는 앙상블 기반 접근법보다 더 나은 개인화 모델을 도출할 수 있는 정도는 어느 정도인가?
• RQ4 실험적 제어 조건이 없는 관찰 데이터에서 개인화 모델의 타당한 평가 및 검증은 어떻게 달성할 수 있는가?
• RQ5 실제 세계에서 개인화의 영향은 무엇이며, 개인화 계수와 같은 새로운 지표를 통해 어떻게 의미 있게 정량화할 수 있는가?

주요 결과

• 와파린 복용량 조절 응용에서 최적의 개인화 트리(OPT)는 외부 샘플 리스크 0.356을 기록했으며, 이는 완벽한 개인화에서 얻을 수 있는 최대 이득의 47%에 해당한다.
• 직업 훈련 응용에서 개인화 숲(PF)은 평균 순수입 4,200.80달러를 달성했으며, 표준 치료 대비 개인화에서 얻을 수 있는 이득의 28%에 해당한다.
• 작은 표본 크기(n = 100)에서는 OPT가 단순하고 해석 가능한 트리(깊이 2~3)를 찾을 수 있어 다른 방법보다 뛰어난 성능을 보였지만, 표본 크기가 커지면서 MIP 솔버의 한계로 인해 성능이 저하되었다.
• 제안된 서브매칭 기법은 공변수 불균형이 최소화된 일치하는 테스트 세트를 생성함으로써 타당한 평가를 가능하게 하였으며, 신뢰할 수 있는 외부 샘플 평가를 보장하였다.
• 개인화 계수(P1, P2)는 이론적으로 얻을 수 있는 최대 이득의 백분율로 모델 성능을 성공적으로 정량화하였으며, 실세계 영향을 명확하고 해석 가능한 방식으로 제공하였다.
• OPT 및 PF 방법은 특히 고차원 설정에서 CART 및 인과 숲과 같은 기준 모델 대비 뛰어난 해석 가능성과 간결성을 보였다.