[논문 리뷰] Learning Optimal Prescriptive Trees from Observational Data

Nathanael Jo, Sina Aghaei외 2명|arXiv (Cornell University)|2021. 08. 31.

Advanced Causal Inference Techniques참고 문헌 39인용 수 4

한 줄 요약

이 논문은 무작위화나 강력한 가정을 필요로 하지 않고 관찰 데이터에서 최적의 해석 가능한 규정 트리를 학습하기 위한 혼합정수최적화(MIO) 기반 방법을 제안한다. 이 방법은 외부 표본 성능에서 渐近적 정확성을 달성하며, 예산 및 공정성과 같은 도메인 제약 조건을 유일하게 지원하여 유한 표본에서 최신 기술 대비 최대 3배 성능 향상을 달성한다.

ABSTRACT

We consider the problem of learning an optimal prescriptive tree (i.e., an interpretable treatment assignment policy in the form of a binary tree) of moderate depth, from observational data. This problem arises in numerous socially important domains such as public health and personalized medicine, where interpretable and data-driven interventions are sought based on data gathered in deployment -- through passive collection of data -- rather than from randomized trials. We propose a method for learning optimal prescriptive trees using mixed-integer optimization (MIO) technology. We show that under mild conditions our method is asymptotically exact in the sense that it converges to an optimal out-of-sample treatment assignment policy as the number of historical data samples tends to infinity. Contrary to existing literature, our approach: 1) does not require data to be randomized, 2) does not impose stringent assumptions on the learned trees, and 3) has the ability to model domain specific constraints. Through extensive computational experiments, we demonstrate that our asymptotic guarantees translate to significant performance improvements in finite samples, as well as showcase our uniquely flexible modeling power by incorporating budget and fairness constraints.

연구 동기 및 목표

• 무작위 시험을 시행하는 것이 비윤리적이거나 실용적이지 않은 관찰 데이터에서 최적의 해석 가능한 치료 할당 정책을 학습하는 데 목적이 있다.
• 기존 규정 트리 방법의 한계를 해결하기 위해, 무작위 데이터가 필요하거나 깊은 트리 구조를 요구하거나 도메인 특화 제약 조건을 지원하지 못하는 점을 해결하고자 한다.
• 약한 정규성 조건 하에 외부 표본 성능에서 학습된 정책이 渐近적으로 최적임을 보장하고자 한다.
• 의료 및 사회 서비스와 같은 고위험 도메인에서의 실용적 구현을 가능하게 하기 위해 공정성 및 예산 제약 조건을 통합하고자 한다.

제안 방법

• 규칙 트리의 구조와 치료 할당을 동시에 선택하기 위해 규정 트리 학습 문제를 혼합정수최적화(MIO) 문제로 공식화한다.
• 관찰 데이터에서 잠재적 결과를 추정하기 위해 双중으로 강건한 추정기(Doubly Robust Estimator)를 사용하여, 결과 모델 또는 성향 스코어 모델이 잘못 지정된 경우에도 강건성을 향상시킨다.
• 이중 강건 추정기를 기반으로 한 데이터 기반 목적 함수를 활용하여 기대 결과를 최대화하면서도 渐近적 일致성을 확보한다.
• 도메인 특화 요구 사항을 모델링하기 위해 MIO 프레임워크에 제약 조건을 통합한다. 예를 들어, 예산 제한(예: 전체 인구의 20%만 치료를 받을 수 있음)과 공정성(예: 인구 집단 간 결과 격차 ≤ δ)을 포함한다.
• 대규모 데이터셋을 처리하기 위해 반복적으로 하위 문제를 해결하는 분해 접근 방식을 사용하여 계산의 타당성을 향상시킨다.
• 유한한 역사적 데이터를 기반으로 기대 결과의 표본 기반 근사치를 사용하여 최적화를 가능하게 하되, 이론적 보장을 유지한다.

실험 결과

연구 질문

• RQ1 무작위 치료 할당이 필요 없이 관찰 데이터에서 규정 트리를 학습할 수 있으며, 외부 표본 성능에서 渐近적 최적성을 달성할 수 있는가?
• RQ2 다양한 데이터 생성 메커니즘에서 기존 최신 기술 대비 제안된 MIO 기반 방법의 외부 표본 성능는 어떻게 비교되는가?
• RQ3 실제 정책 설정에서 예산 제한 및 공정성 요구 사항과 같은 실용적 제약 조건을 얼마나 잘 통합할 수 있는가?
• RQ4 이중 강건 추정기를 사용할 경우, 결과 모델 또는 성향 스코어 모델이 잘못 지정된 경우 성능 안정성이 향상되는가?
• RQ5 이론적 渐近적 보장이 실제로 유한 표본 성능 향상으로 어떻게 번역되는가?

주요 결과

• 제안된 방법은 외부 표본 치료 할당 정확도에서 최신 기술 대비 최대 3배 성능 향상을 달성하며, 특히 무작위화되지 않은 환경에서 두드러진다.
• 이 방법은 조건부 무작위화 및 무작위화되지 않은 데이터를 포함한 다양한 실험 설계에서 높은 성능를 유지하며, 이중 강건 추정기의 경우 결과 모델 또는 성향 모델 중 하나가 잘못 지정된 경우에도 강건성을 보여준다.
• 공정성 제약 조건을 적용할 경우, 격차 임계값 δ를 0.01으로 줄이면 랜덤화 설정에서는 중앙값 수준의 결과 격차가 -0.02로 나타나고, 조건부 랜덤화 설정에서는 r=0.11일 때 완전한 평등성을 달성한다.
• 이 방법은 예산 제약 조건을 성공적으로 이행하여 치료를 받는 인구 비율을 제어할 수 있으며, 성능 저하 없이 이를 달성한다.
• DM 추정기는 진정한 기대 결과에 가장 가까운 결과 추정치를 생성하는 것으로 나타났지만, 극단적인 성향 가중치로 인한 편향 감소로 인해 실질적으로 DR 추정기가 더 뛰어난 강건성을 보였다.
• 실증 결과는 渐近적 이론적 보장이 실제로 현실적인 관찰 데이터 조건 하에서 강력한 유한 표본 성능 향상으로 이어짐을 확인한다.