[논문 리뷰] Adapting Neural Networks for Uplift Models

Mouloud Belbahri, Olivier Gandouet외 1명|arXiv (Cornell University)|2020. 10. 30.

Advanced Causal Inference Techniques참고 문헌 31인용 수 5

한 줄 요약

이 논문은 조건부 평균 회귀와 변환된 결과 회귀를 동시에 최적화하여 예측 정확도를 향상시키고 과적합을 줄이는 새로운 신경망 프레임워크 SMITE를 제안한다. 이러한 목표들을 통합함으로써 SMITE는 합성 데이터와 실제 세계 데이터에서 최신 기술 수준의 성능을 달성하며, 기존의 트리 기반 및 신경망 방법보다 업그레이드 추정에서 뚜렷한 승리를 거두었다.

ABSTRACT

Uplift is a particular case of individual treatment effect modeling. Such models deal with cause-and-effect inference for a specific factor, such as a marketing intervention. In practice, these models are built on customer data who purchased products or services to improve product marketing. Uplift is estimated using either i) conditional mean regression or ii) transformed outcome regression. Most existing approaches are adaptations of classification and regression trees for the uplift case. However, in practice, these conventional approaches are prone to overfitting. Here we propose a new method using neural networks. This representation allows to jointly optimize the difference in conditional means and the transformed outcome losses. As a consequence, the model not only estimates the uplift, but also ensures consistency in predicting the outcome. We focus on fully randomized experiments, which is the case of our data. We show our proposed method improves the state-of-the-art on synthetic and real data.

연구 동기 및 목표

• 기존의 업그레이드 모델링 방법에서 흔히 발생하는 과적합 문제를 해결하기 위해, 특히 트리 기반 및 신경망 접근 방식을 대상으로 한다.
• 업그레이드 추정과 결과 예측 일관성을 동시에 최적화하는 통합 프레임워크를 개발한다.
• 직접적인 업그레이드 추정과 일관된 결과 예측 간의 균형을 통해 일반화 성능을 향상시킨다.
• 업그레이드 모델링을 위한 대체 손실 함수를 지원하는 유연한 신경망 아키텍처를 제공한다.
• 캐나다 기업의 실생활 보험 데이터셋과 함께 합성 데이터에서 방법의 유효성을 검증한다.

제안 방법

• 제안된 SMITE 프레임워크는 두 가지 손실 함수를 동시에 최소화하는 신경망 아키텍처를 사용한다: 조건부 평균의 차이(업그레이드)와 변환된 결과 회귀 손실.
• 개별 치료 효과의 추정과 치료 및 대조 조건 하에서 잠재 결과의 예측 간 균형을 이루는 통합 최적화 목표를 도입한다.
• 백프로파게이션을 사용해 엔드 투 엔드로 훈련되며, 결과 예측의 일관성을 보장하기 위해 두 가지 회귀 목표를 조합한 맞춤형 손실 함수를 사용한다.
• 완전한 랜덤화 실험을 대상으로 설계되었으며, 잠재 결과와 치료 배정 간의 조건부 독립성을 활용한다.
• 표준 MSE 손실의 대체로, 신경망의 표현 학습을 통해 간접적으로 업그레이드를 추정할 수 있도록 하는 손실 함수를 도입한다.
• 아키텍처는 민첩하고 확장 가능하여 향후 관찰 데이터 및 다중 치료 설정에의 적응이 가능하다.

실험 결과

연구 질문

• RQ1 신경망 프레임워크가 업그레이드 추정과 결과 예측을 동시에 최적화하여 과적합을 줄일 수 있는가?
• RQ2 조건부 평균 회귀와 변환된 결과 회귀를 결합하면 업그레이드 모델링에서 더 나은 일반화 성능을 달성하는가?
• RQ3 제안된 SMITE 프레임워크는 합성 및 실제 세계 데이터에서 최신 기술 수준의 트리 기반 및 신경망 방법보다 어떻게 비교되는가?
• RQ4 통합 최적화 목표는 다양한 데이터 분포에서 업그레이드 예측의 안정성과 정확도를 향상시키는가?
• RQ5 대체 손실 함수를 사용할 경우, 모델이 설득 가능하고 간섭을 피해야 할 고객 세그먼트를 탐지하는 데 미치는 영향은 무엇인가?

주요 결과

• n=10,000 건의 관측치와 p=100개의 공변량을 가진 합성 데이터에서, SMITE (IE)는 q 지표 기준으로 검증 세트에서 2.80 ± 0.12의 성능을 기록하여 Causal Forest (H)의 2.05 ± 0.13보다 뚜렷하게 뛰어났다.
• 부트스트랩을 활용한 반합성 데이터 (n=7,000, p=40)에서, SMITE (IE)는 검증 세트에서 ρ를 0.34 ± 0.06으로 기록하여 SMITE (TO)의 0.27 ± 0.07과 Causal Forest (H)의 0.08 ± 0.11를 모두 앞섰다.
• 실생활 보험 데이터셋에서 SMITE (IE)는 높은 업그레이드를 가진 고객을 더 잘 식별하는 데 성공했으며, 예측된 업그레이드 분포가 0에서 벗어나 더 의미 있는 범위를 차지했다.
• 표준 차이의 평균 신경망에 비해 SMITE 프레임워크는 과적합을 줄였으며, 이는 업그레이드 추정의 분산이 증가하고 0을 중심으로 넓은 분포를 보이는 경향이 있었던 반면, SMITE는 이러한 경향을 완화시켰다.
• SMITE (IE)는 모든 평가 지표와 데이터셋에서 Causal Forest 및 Random Forest 변종을 포함한 모든 베이스라인 방법보다 일관되게 뛰어난 성능을 보였다.
• 결과는 업그레이드 추정과 결과 예측을 동시에 최적화하는 것이 고차원 설정에서 특히 더 안정적이고 정확한 업그레이드 추정을 가능하게 한다는 것을 시사한다.