[論文レビュー] Covariate Balancing Propensity Score by Tailored Loss Functions

Qingyuan Zhao|arXiv (Cornell University)|Jan 22, 2016

Advanced Causal Inference Techniques参考文献 58被引用数 18

ひとこと要約

本稿では、標準的なベルヌーイ尤度の代わりに、目的の因果効果（例：ATE や ATUT）に特化した損失関数を用いることで、共変量のバランスを直接最適化する、特化した損失関数を用いた新しいフレームワークである共変量バランススコアリングルール（CBSR）を導入する。CBSR は、有限標本におけるバランスの質とロバストネスを向上させ、特定の共変量に対して正確なバランスを達成し、逆確率重み付け推定量のバイアスを低減する。

ABSTRACT

In observational studies, propensity scores are commonly estimated by maxi- mum likelihood but may fail to balance high-dimensional pre-treatment covariates even after specification search. We introduce a general framework that unifies and generalizes several recent proposals to improve covariate balance when designing an observational study. In- stead of the likelihood function, we propose to optimize special loss functions---covariate balancing scoring rules (CBSR)---to estimate the propensity score. A CBSR is uniquely determined by the link function in the GLM and the estimand (a weighted average treatment effect). We show CBSR does not lose asymptotic efficiency to the Bernoulli likelihood in estimating the weighted average treatment effect compared, but CBSR is much more robust in finite sample. Borrowing tools developed in statistical learning, we propose practical strategies to balance covariate functions in rich function classes. This is useful to estimate the maximum bias of the inverse probability weighting (IPW) estimators and construct honest confidence interval in finite sample. Lastly, we provide several numerical examples to demonstrate the trade-off of bias and variance in the IPW-type estimators and the trade-off in balancing different function classes of the covariates.

研究の動機と目的

• 従来の傾向スコア法を用いる高次元観察的研究において、共変量バランスの悪さが持続するという課題に対処すること。
• 高次元または非線形変換された共変量のバランスをとるうえで、最大尤度推定の限界を克服すること。
• 損失関数を因果推定量と直接一致させることで、最近の共変量バランス手法を統一的かつ一般化するフレームワークを構築すること。
• バイアスの低減と誠実な信頼区間の構築により、逆確率重み付け（IPW）推定量の有限標本性能を向上させること。
• 分散とバイアスを増大させる可能性がある極端な傾向スコアや大きな逆確率重みを回避する体系的なアプローチを提供すること。

提案手法

• 一般化線形モデル（GLM）のリンク関数と目的の推定量（例：ATE、ATUT）に依存して一意に定まる損失関数の一般クラスである共変量バランススコアリングルール（CBSR）を定義する。
• 標準的なベルヌーイ尤度の代わりに、特に極端な傾向スコアにおける共変量バランスの悪化を懲罰するように設計された、特化した損失関数を導入する。
• 凸最適化を用いて特化した損失関数を最小化し、選択されたモデルにおけるアクティブな共変量に対して正確なバランスを保証する。
• 正則化やカーネル法などの統計学的学習のツールを活用し、非線形変換を含む豊かな関数クラスにおける共変量関数のバランスをとる。
• 提案された損失に基づく傾向スコア推定を用いて、IPW推定量の最大バイアスを推定することで、誠実な信頼区間を構築する。
• Beta分布の適切なスコアリングルール（例：ATE に対応する S_{-1,-1}）を活用し、極端な傾向スコアを自然に懲罰することで、大きな逆確率重みを回避する。

実験結果

リサーチクエスチョン

• RQ1 目的の推定量に特化した損失関数は、標準的な尤度ベースの手法と比較して、高次元観察研究における共変量バランスを改善できるか？
• RQ2 提案されたCBSRフレームワークは、漸近的効率性および有限標本におけるバイアスと分散のトレードオフの観点で、最大尤度法と比較してどのように異なるか？
• RQ3 特化した損失関数は、極端な傾向スコアをどれほど効果的に防ぎ、逆確率重みの大きさをどれほど低減できるか？
• RQ4 非線形変換を含む複雑な関数クラスの共変量をバランスさせるという点で、このフレームワークは有限標本のロバストネスを維持しながら一般化可能か？
• RQ5 提案された損失に基づく傾向スコア推定を用いて、IPW推定量の誠実な信頼区間をどのように構築できるか？

主な発見

• 特化した損失関数アプローチは、モデルに含まれるすべてのアクティブな共変量に対して正確なバランスを達成する。トイ・エグジザンプルでは、3ステップで8つの予測変数すべてがバランスされた。
• Kang と Schafer (2007) のシミュレーションにおいて、ベルヌーイ尤度はすべての共変量について標準化差を10％未満に低下させられなかったが、特化した損失関数は3ステップで完全なバランスを達成した。
• CBSR 法は最大尤度と同等の漸近的効率性を維持しているが、有限標本における性能とロバストネスが顕著に優れている。
• Beta族スコアリングルール S_{-1,-1}（ATE に対応）は、p=0 および p=1 の近傍で損失が無限大に発散するため、極端な傾向スコアを自然に懲罰し、大きな逆確率重みの発生を抑制する。
• ATUT推定では、スコアリングルール S_{-1,0} は p=0 の近傍でのみ無限大に発散するが、これは T_i=1 のとき小さな傾向スコアを避けることが望ましいという目的に一致する。
• このフレームワークにより、損失に基づく傾向スコアモデルを用いて IPW 推定量の最大バイアスを推定することで、誠実な信頼区間の構築が可能になる。