[論文レビュー] Conformal prediction intervals for the individual treatment effect

Danijel Kivaranovic, Robin Ristl+2 more|arXiv (Cornell University)|Jun 2, 2020

Statistical Methods and Inference参考文献 15被引用数 6

ひとこと要約

本稿は、非パラメトリック回帰設定における個別的治療効果（ITE）のためのコンフォーマル予測区間を提案する。コンフォーマル推論フレームワークを用いることで、有限標本または漸近的カバレッジ保証が得られる。大規模な標本サイズ下では、ニューラルネットワークのような複雑なモデルが線形モデルよりも狭い予測区間を生成できることを示し、個別化医療意思決定における信頼性の高い不確実性の定量化を可能にする。

ABSTRACT

We propose several prediction intervals procedures for the individual treatment effect with either finite-sample or asymptotic coverage guarantee in a non-parametric regression setting, where non-linear regression functions, heteroskedasticity and non-Gaussianity are allowed. The construct the prediction intervals we use the conformal method of Vovk et al. (2005). In extensive simulations, we compare the coverage probability and interval length of our prediction interval procedures. We demonstrate that complex learning algorithms, such as neural networks, can lead to narrower prediction intervals than simple algorithms, such as linear regression, if the sample size is large enough.

研究の動機と目的

• 個別化医療における個別的治療効果（ITE）予測の信頼性の高い不確実性の定量化のニーズに対処すること。
• 一般の非パラメトリック回帰仮定（非線形性、異分散性、非ガウス誤差を含む）の下でも有効なカバレッジを維持するITEのための予測区間を開発すること。
• 治療群と対照群の潜在的アウトカムの差にコンフォーマル推論フレームワークを拡張し、観測されない反実仮想アウトカムの課題を克服すること。
• さまざまなシミュレーション設定において、カバレッジ確率と区間長の観点から、異なる予測区間手順の性能を比較すること。
• ニューラルネットワークのような複雑な機械学習モデルが、カバレッジを維持しながら線形回帰のような単純なモデルを上回る区間幅の性能を示すかどうかを評価すること。

提案手法

• Vovkら（2005）のコンフォーマル予測フレームワークを用い、分布に関する仮定を必要とせずに個別的治療効果のための予測区間を構築する。
• 線形モデルやニューラルネットワークなどの回帰モデルを用いて、治療群および対照群のアウトカムを別々にモデル化し、予測値の差をITE推定値として算出する。
• 2段階のコンフォーマル手順を採用する：まず、各治療条件におけるアウトカムの周辺予測区間を構築し、次に、予測値および残差の差を用いてITEのための区間を組み立てる。
• 有限標本におけるコンフォーマル推論（定理1および2）と漸近的コンフォーマル推論（定理3）を適用する。後者は予測手順の一致性とガウス誤差分布を要件とする。
• トレーニングデータにおけるコンフォーマルスコアの分布を活用することで、交換性および対称性の議論を用いて有効なカバレッジを保証する。
• 漸近的設定ではスプリットサンプルアプローチ（定理5）を採用し、トレーニングセットでモデルをフィットさせ、バリデーションセットでコンフォーマルスコアを計算することで、条件付き交換性を確保する。

実験結果

リサーチクエスチョン

• RQ1 反実仮想アウトカムが観測されない状況下でも、コンフォーマル予測を個別的治療効果の有効な予測区間の構築に拡張できるか？
• RQ2 ニューラルネットワークのような複雑なモデルに基づく予測区間は、有限標本または漸近的カバレッジを維持しながら、線形モデルに比べて狭い区間を提供するか？
• RQ3 カバレッジと区間長の観点から、さまざまな回帰モデルおよび標本サイズ下でのITEのためのコンフォーマル予測区間の性能はどのように比較されるか？
• RQ4 漸近的コンフォーマル区間が、カバレッジを保持しながら短い長さを達成する理論的条件は何か？
• RQ5 ガウス誤差やモデルの一貫性といった仮定が、得られる予測区間の幅と有効性にどの程度影響を及えるか？

主な発見

• 提案された個別的治療効果のためのコンフォーマル予測区間は、非線形性、異分散性、非ガウス誤差が存在する場合でも、弱い仮定のもとで正確な有限標本カバレッジを達成する。
• 漸近的コンフォーマル区間（定理3）は、予測手順が一貫しており誤差が概ねガウス分布に従う場合、有限標本の対応物（定理1および2）よりも顕著に短い区間を提供する。
• シミュレーションでは、標本サイズが十分に大きい場合、ニューラルネットワークが線形回帰よりも狭い予測区間を生成した。これは、高標本領域における柔軟なモデルの利点を示している。
• 提案された区間のカバレッジ確率は、すべてのシミュレーション設定で名目水準（例：90% または 95%）に近く保たれ、コンフォーマルフレームワークの頑健性を確認した。
• この手法は、ITEにおけるモデル推定の不確実性と残差の変動性の両方を効果的に扱い、包括的な不確実性の定量化フレームワークを提供する。
• 理論的保証は、アウトカム分布が非ガウス的で、回帰関数が非線形であっても成立するため、実世界の個別化医療設定において広く適用可能である。