[논문 리뷰] Technical Report: Higher Order Influence Functions and Minimax Estimation of Nonlinear Functionals

James M. Robins, Lingling Li외 2명|arXiv (Cornell University)|2016. 01. 07.

Control Systems and Identification참고 문헌 9인용 수 5

한 줄 요약

이 논문은 반모수적 및 비모수적 모델에서 비선형 기능의 최소화 추정을 위한 고차 영향 함수 이론을 개발하며, 1차 영향 함수 기반의 강건 추정을 복잡하고 고차원적인 설정으로 확장한다. 이는 제품 기능의 고차 영향 함수에 대한 명시적 공식을 제공하고, 단조 감소하는 누락 데이터 하에서 평균 결과와 시간에 따라 변화하는 교란 요인 하에서의 인과 효과를 추정하는 데 응용되며, 다중 강건성과 함께 최적의 비-루트-n 수렴 속도를 달성한다.

ABSTRACT

Robins et al, 2008, published a theory of higher order influence functions for inference in semi- and non-parametric models. This paper is a comprehensive manuscript from which Robins et al, was drawn. The current paper includes many results and proofs that were not included in Robins et al due to space limitation. Particular results contained in the present paper that were not reported in Robins et al include the following. Given a set of functionals and their corresponding higher order influence functions, we show how to derive the higher order influence function of their product. We apply this result to obtain higher order influence functions and associated estimators for the mean of a response Y subject to monotone missingness under missing at random. These results also apply to estimating the causal effect of a time dependent treatment on an outcome Y in the presence of time-varying confounding. Finally, we include an appendix that contains proofs for all theorems that were stated without proof in Robins et al, 2008. The initial part of the paper is closely related to Robins et al, the latter parts differ.

연구 동기 및 목표

• 비모수적 및 반모수적 모델에서 비선형 기능에 대한 고차 영향 함수 이론을 종합적으로 개발하는 것.
• 1차 강건 추정을 비-루트-n 수렴 속도를 위한 고차 U-통계량으로 확장하는 것.
• 복합 기능의 추정을 가능하게 하기 위해 기능의 곱에 대한 명시적 고차 영향 함수를 유도하는 것.
• 이론을 단조 감소하는 누락 데이터 및 시간에 따라 변화하는 교란 요인 하에서의 누락 데이터와 인과 추론 문제에 적용하는 것.
• 이중 강건성의 개념을 고차 영향 함수로 확장하는 다중 강건성 성질을 확립하는 것.

제안 방법

• 고차 영향 함수를 고차 U-통계량으로 유도하여 1차 영향 함수를 일반화한다.
• 텐서 곱 기반 전개(예: Φk2, Wk1, Zk0)를 사용하여 조건부 기대값을 비모수적으로 추정한다.
• 누락성과 교란 요인을 다루기 위해 추정된 성향 점수 π̂를 통한 반복 조건부 기대와 역확률가중법을 적용한다.
• 누락성 또는 치료 단계의 다중 단계에서 영향 함수의 재귀적 분해를 통해 추정량을 구성한다.
• 일致성과 최적 수렴 속도를 확보하기 위해 편향 보정 항(예: eτ(3)1(θ), eψ(3)j,j(θ))을 통합한다.
• 여러 불확실 모델 중 적어도 하나가 올바르게 특정될 경우 추정량이 일관성을 유지하도록 다중 강건성을 도입한다.

실험 결과

연구 질문

• RQ1 비모수적 모델에서 비선형 기능의 곱에 대해 고차 영향 함수를 어떻게 도출할 수 있는가?
• RQ2 고차원 공변량이 존재하는 단조 감소하는 누락성 하에서 반응의 평균을 추정할 때 최적의 수렴 속도는 무엇인가?
• RQ3 시간에 따라 변화하는 교란 요인과 누락 데이터를 포함한 모델에서 최소화 추정을 달성하기 위해 고차 영향 함수를 어떻게 구성할 수 있는가?
• RQ4 1차 영향 함수를 초월하여 다중 강건성의 개념을 고차 추정량으로 어떻게 확장할 수 있는가?
• RQ5 세 번째 기회에 단조 감소하는 누락성 하에서 평균 결과의 영향 함수의 명시적 형태는 무엇인가?

주요 결과

• 논문은 세 번째 기회에 단조 감소하는 누락성 하에서 평균 결과에 대한 r차 영향 함수의 명시적 형태를 도출하였으며, 이는 가중치가 부여된 반복 조건부 기대값의 복잡한 합으로 표현된다.
• 제안된 추정량은 루트-n 수렴 속도가 달성되지 않는 고차원 모델에서 최적의 비-루트-n 수렴 속도를 달성한다.
• 기능의 곱에 대한 영향 함수는 고차 U-통계량 이론을 반복 적용하여 구성되며, 분산 가중 평균 치료 효과와 같은 복잡한 기능의 추정을 가능하게 한다.
• 이 방법은 다중 강건성을 보장한다: 예를 들어 결과 회귀 모형이나 성향 점수 모형 중 적어도 하나가 올바르게 특정될 경우 추정량은 일관성을 유지한다.
• 추정량의 편향 및 분산 성질이 철저히 증명되었으며, 세 번째 기회 경우의 편향 보정 항(예: eτ(3)1(θ))에 대한 명시적 표현이 제시되었다.
• 이론은 1차 반모수적 이론을 일반화하며, 고차 스코어와 바타차리아 기저를 통합함으로써 복잡하고 고차원적인 모델에서 최적의 추론을 가능하게 한다.