[논문 리뷰] Parametric inference with universal function approximators

Andreas Joseph|arXiv (Cornell University)|2019. 01. 01.

Statistical Methods and Inference참고 문헌 40인용 수 5

한 줄 요약

이 논문은 Shapley-Taylor 분해를 활용하여 신경망과 같은 보편적인 함수 근사기들을 사용하여 매개변수적 추론을 가능하게 하는 프레임워크를 제안한다. 이 방법은 복잡한 모델의 해석과 가설 검정을 가능하게 하며, 이는 특히 이질적 치료 효과를 추정할 때 해석 가능성과 일반화 능력을 유지하는 데 기여한다. 이는 고차수 Shapley-Taylor 지수를 통해 달성된다.

ABSTRACT

Universal function approximators, such as artificial neural networks, can learn a large variety of target functions arbitrarily well given sufficient training data. This flexibility comes at the cost of the ability to perform parametric inference. We address this gap by proposing a generic framework based on the Shapley-Taylor decomposition of a model. A surrogate parametric regression analysis is performed in the space spanned by the Shapley value expansion of a model. This allows for the testing of standard hypotheses of interest. At the same time, the proposed approach provides novel insights into statistical learning processes themselves derived from the consistency and bias properties of the nonparametric estimators. We apply the framework to the estimation of heterogeneous treatment effects in simulated and real-world randomised experiments. We introduce an explicit treatment function based on higher-order Shapley-Taylor indices. This can be used to identify potentially complex treatment channels and help the generalisation of findings from experimental settings. More generally, the presented approach allows for a standardised use and communication of results from machine learning models.

연구 동기 및 목표

• 탄력적인 보편적인 함수 근사기와 매개변수적 통계적 추론 사이의 격차를 메우기 위해.
• 모델의 탄력성을 포기하지 않고도 기계학습 모델에서 표준 가설 검정을 가능하게 하기 위해.
• 일致하고 편향이 있는 비모수 추정기들을 사용하여 통계적 학습 과정에 대한 해석 가능한 통찰을 제공하기 위해.
• 고차수 Shapley-Taylor 지수를 통해 랜덤화 실험에서 복잡한 치료 채널을 식별하는 방법을 개발하기 위해.
• 블랙박스 기계학습 모델의 결과 통신 및 활용 방식을 표준화하기 위해.

제안 방법

• 프레임워크는 모델의 예측 함수를 입력 공간에서 다항식 형태로 전개하기 위해 Shapley-Taylor 분해를 사용한다.
• Shapley 값 전개에 기반한 서rogate 매개변수 회귀 모델을 피팅하여 표준 추론 절차를 가능하게 한다.
• 복잡한 비선형 치료 상호작용을 포착하기 위해 고차수 Shapley-Taylor 지수를 명시적으로 모델링한다.
• 비모수 추정기의 일관성과 편향 성질을 활용하여 신뢰할 수 있는 추론을 보장한다.
• 이 방법은 시뮬레이션 및 실제 랜덤화 실험에 적용되어 이질적 치료 효과를 추정한다.
• 가설 검정은 서rogate 매개변수 모델에서 수행되어 p-값과 신뢰구간을 제공한다.

실험 결과

연구 질문

• RQ1 보편적인 함수 근사기들이 비모수적 성격을 지니고 있음에도 불구하고, 유효한 매개변수적 추론에 사용될 수 있는가?
• RQ2 Shapley-Taylor 지수는 어떻게 실험 데이터에서 복잡한 치료 채널을 모델링하고 해석하는 데 사용될 수 있는가?
• RQ3 기계학습 모델에서의 고차수 상호작용 효과가 치료 효과 추정에 어떤 영향을 미치는가?
• RQ4 제안된 프레임워크는 랜덤화 실험의 결과를 더 넓은 인구 집단으로 일반화하는 데 기여할 수 있는가?
• RQ5 Shapley 값에 기반한 서rogate 매개변수 모델은 표준 매개변수 모델과 해석 가능성과 추론 타당성 측면에서 어떻게 비교되는가?

주요 결과

• 이 프레임워크는 Shapley-Taylor 분해에 기반한 서rogate 모델링을 통해 비모수적 복잡 모델에 대해 표준 매개변수적 추론을 성공적으로 가능하게 한다.
• 고차수 Shapley-Taylor 지수는 기존 모델에서 숨겨져 있던 비선형적이고 복잡한 치료 채널을 드러낸다.
• 이 방법은 시뮬레이션 및 실제 랜덤화 실험 모두에서 이질적 치료 효과에 대해 일관되고 해석 가능한 추정치를 제공한다.
• 서rogate 매개변수 모델을 통해 보편적인 함수 근사기에서 파생된 모델 구성 요소에 대해 가설 검정, 즉 p-값과 신뢰구간을 수행할 수 있다.
• 치료 반응의 복잡한 상호작용 효과를 식별하고 모델링함으로써 실험 결과의 일반화 능력을 향상시킨다.
• 이 프레임워크는 기계학습 모델의 결과를 표준화된 방식으로 공유함으로써 투명성과 재현 가능성을 향상시킨다.