[論文レビュー] Recursive Partitioning for Personalization using Observational Data

Nathan Kallus|arXiv (Cornell University)|Aug 31, 2016

Statistical Methods and InferenceMathematics被引用数 20

ひとこと要約

本稿は、観察データを用いたパーソナライズド・トレーティング選択のための新規再帰的分割アプローチを提案する。パーソナライゼーションをm個の別個の回帰とは別個の学習タスクとして扱うのではなく、単一の学習タスクとして定式化する。治療制度における新たな不純度測度を導入し、混合整数プログラミングを用いたパーソナライズド・ツリー（PT）、フォレスト（PF）、最適分割（OPT）を構築した。個人医療および職業訓練の応用において、優れた性能と解釈可能性を示し、完全なパーソナライゼーションからの潜在的利点の最大47％を達成した。

ABSTRACT

We study the problem of learning to choose from m discrete treatment options (e.g., news item or medical drug) the one with best causal effect for a particular instance (e.g., user or patient) where the training data consists of passive observations of covariates, treatment, and the outcome of the treatment. The standard approach to this problem is regress and compare: split the training data by treatment, fit a regression model in each split, and, for a new instance, predict all m outcomes and pick the best. By reformulating the problem as a single learning task rather than m separate ones, we propose a new approach based on recursively partitioning the data into regimes where different treatments are optimal. We extend this approach to an optimal partitioning approach that finds a globally optimal partition, achieving a compact, interpretable, and impactful personalization model. We develop new tools for validating and evaluating personalization models on observational data and use these to demonstrate the power of our novel approaches in a personalized medicine and a job training application.

研究の動機と目的

• ランダム化試験が実施不可能または倫理的に不適切な観察データから最適な治療割り当てを学ぶ課題に対処すること。
• 標準的な「回帰して比較する」アプローチの限界を克服すること。このアプローチは各治療を別個の回帰タスクとして扱い、観察状況下での治療間比較を考慮しない。
• 共変量空間を再帰的に分割することで、特定の治療が最適となる領域（治療制度）を特定する統合的学習フレームワークを構築すること。
• 混合整数プログラミングとアンサンブル手法を用いて、解釈可能でコンパクトかつグローバルに最適なパーソナライズド・モデルを構築すること。
• サブマッチングとパーソナライゼーション係数を含む新規の検証手法を導入し、観察データ上でのパーソナライズド・モデルの公平な評価とチューニングを可能にすること。

提案手法

• 最適治療を割り当てた場合のパーティション内での期待結果の差を測定する新しい不純度測度を定義することで、パーソナライゼーションを単一の学習タスクとして再定式化する。
• パーソナライズド・ツリー（PT）を開発し、パーティション内でのパーソナライズド不純度の合計を最小化する貪欲な再帰的分割アルゴリズムとして、最適治療制度を特定する。
• ブートストラップ標本で訓練されたPTのアンサンブルであるパーソナライズド・フォレスト（PF）を導入し、ロバストネスと一般化性能を向上させる。
• 混合整数計画法（MIP）を用いて共変量空間の分割をグローバル最適化する最適パーソナライズド・ツリー（OPT）を提案し、制約下で可能な限り最良のモデルを保証する。
• 観察データからマッチドテストセットを生成する新規のサブマッチング技術を採用し、パーソナライズド・モデルの有効なオフ・サブセット評価を可能にする。
• パーソナライズド係数（P1、P2）を定義・適用し、モデルのパフォーマンスを完全なパーソナライゼーションからの最大可能利点のパcentで測定する。

実験結果

リサーチクエスチョン

• RQ1 再帰的分割フレームワークは、観察データからのパーソナライズド・トレーティング選択において、標準的な「回帰して比較する」手法を上回ることができるか？
• RQ2 すべての治療オプションを同時に最適化する統合的学習アプローチは、個別に治療ごとに回帰を行う方法と比較して、モデルのパフォーマンスと解釈可能性をどのように向上させるか？
• RQ3 混合整数プログラミングによるグローバル最適分割アプローチは、貪欲的またはアンサンブル的手法に比べて、どの程度優れたパーソナライズド・モデルを生み出すか？
• RQ4 実験的対照群がない観察データ上でのパーソナライズド・モデルの有効な評価と妥当なバリデーションは、どのように達成できるか？
• RQ5 パーソナライズド・モデルの実世界への影響は何か？そして、完全なパーソナライゼーションからの理論的最良利点をパーセントで測定可能な新しい指標（パーソナライズド係数）によって、どのように意味的に明確に表現できるか？

主な発見

• ワルファリン投与量決定の応用において、最適パーソナライズド・ツリー（OPT）は、0.356のオフ・サブセットリスクを達成し、完全なパーソナライゼーションからの最大利点の47％に相当した。
• 職業訓練の応用において、パーソナライズド・フォレスト（PF）は平均で4,200.80ドルの追加収入を達成し、標準的ケアに対するパーソナライズド利点の28％を示した。
• 小規模サンプルサイズ（n = 100）では、OPTがその単純かつ解釈可能なツリー（深さ2〜3）を特定できる能力のおかげで他の手法を上回ったが、サンプルサイズが大きくなるとMIPソルバーの制限により性能が低下した。
• 提案されたサブマッチング技術により、共変量の不均衡が最小限に抑えられたマッチドテストセットが作成され、信頼性の高いオフ・サブセット評価が可能になった。
• パーソナライズド係数（P1、P2）は、理論的最良利点のパーセンテージとしてモデルパフォーマンスを明確に測定でき、実世界への影響を明確かつ解釈可能な形で示した。
• OPTおよびPF手法は、CART や因果フォレストなどのベースライン手法と比較して、特に高次元設定下でも優れた解釈可能性とコンパクト性を示した。