[論文レビュー] Robust Propensity Score Computation Method based on Machine Learning with Label-corrupted Data

Chen Wang, Suzhen Wang+2 more|arXiv (Cornell University)|Jan 9, 2018

Statistical Methods and Inference参考文献 14被引用数 4

ひとこと要約

本稿では、ラベル汚染された医療データの文脈において、傾向スコアを計算するための頑健な機械学習手法を提案する。スペクトラルクラスタリングを用いて自然なデータグループを特定し、'中程度のソフトマックス'補間を介してサンプルの重みを再調整することで、よりクリーンな訓練サブセットを生成し、XGBoostを用いた傾向スコア推定の精度を向上させる。特に、40％のラベル汚染が存在する状況でも、元のデータと比較して顕著なバイアス低減効果を示す。

ABSTRACT

In biostatistics, propensity score is a common approach to analyze the imbalance of covariate and process confounding covariates to eliminate differences between groups. While there are an abundant amount of methods to compute propensity score, a common issue of them is the corrupted labels in the dataset. For example, the data collected from the patients could contain samples that are treated mistakenly, and the computing methods could incorporate them as a misleading information. In this paper, we propose a Machine Learning-based method to handle the problem. Specifically, we utilize the fact that the majority of sample should be labeled with the correct instance and design an approach to first cluster the data with spectral clustering and then sample a new dataset with a distribution processed from the clustering results. The propensity score is computed by Xgboost, and a mathematical justification of our method is provided in this paper. The experimental results illustrate that xgboost propensity scores computing with the data processed by our method could outperform the same method with original data, and the advantages of our method increases as we add some artificial corruptions to the dataset. Meanwhile, the implementation of xgboost to compute propensity score for multiple treatments is also a pioneering work in the area.

研究の動機と目的

• 傾向スコア分析に用いられるバイオスタティスティクスデータにおいて一般的ではあるが、十分に検討されていないラベル汚染問題に対処すること。
• 大多数のサンプルが正しくラベル付けされているという仮定を活用し、誤ってラベル付けされたインスタンスを特定・低重み化するデータクリーニング手法を開発すること。
• 汚染されたラベルが存在する状況下でも、XGBoostに基づく傾向スコア推定の頑健性と正確性を向上させること。
• 数学的に正当化され、バイオスタティスティクスを越えて、ラベルノイズが存在する他の機械学習タスクへも一般化可能なアプローチを提供すること。

提案手法

• データ多様体構造に基づいてサンプルをグループ化するため、スペクトラルクラスタリングを適用する。正しくラベル付けされたサンプルは、明確で一貫性のあるクラスタを形成すると仮定する。
• 各クラスタ内における治療群からのサンプルの割合を推定することで、クラスタレベルの重みを計算する。
• 外れ値やノイズへの感受性を低減するために、補間ベースの正規化を用いて、元のクラスタ重みを '中程度のソフトマックス' 分布に変換する。
• 正規化された重みに従ってクラスタからサンプリングすることで、再重み付けされた訓練データセットを構築し、より一貫性があり、おそらく正しくラベル付けされたグループを優先する。
• 再重み付けされたデータセット上でXGBoost分類器を訓練し、逆確率重み付けに適した確率出力を得る傾向スコアを計算する。
• t-SNE可視化を用いて、クラスタが意味のある治療群の多様体に対応していることを検証し、本手法の幾何的直感を裏付ける。

実験結果

リサーチクエスチョン

• RQ1 クラスタリングに基づくデータ再重み付け戦略は、傾向スコア推定におけるラベル汚染の影響を効果的に低減できるか？
• RQ2 提案手法は、元の汚染済みデータ上で標準化バイアス低減の観点から、標準的なXGBoost訓練と比較してどのように異なるか？
• RQ3 人工的なラベル汚染率が高くなるに従い、提案手法の性能優位性は増大するか？
• RQ4 '中程度のソフトマックス'再重み付け機構は数学的に正当化されており、モデルの一般化性能向上に有効であるか？
• RQ5 本データクリーニングパイプラインと組み合わせた場合、XGBoostは多治療傾向スコア推定に効果的かつ頑健に適用可能か？

主な発見

• 提案手法で処理されたデータ上で訓練されたXGBoostモデルは、元の汚染済みデータ上で訓練された同じモデルと比較して、特に汚染率が高い状況下で顕著に低い標準化バイアスを達成した。
• 40％の人工的ラベル汚染が存在する状況でも、提案手法は、元のデータ上で訓練した場合と比較して、共変量の平均で最大58％の標準化バイアス低減を達成した。
• 本手法のバイアス低減における優位性は、汚染率が高くなるに従い増大した。これは、極端なラベルノイズ下でも頑健であることを示している。
• 処理済みデータにおける最終的な訓練およびテストのmloglossは（0.244および0.553）元のデータ（0.222および0.500）よりも高かったが、このトレードオフは、優れたバイアス低減と改善されたランダマイゼーションによって正当化された。
• t-SNE可視化により、クラスタが明確に分離された治療群に対応していることが確認され、本手法が意味のあるデータ多様体を分離できることを裏付けた。
• 本研究では、XGBoostを多治療傾向スコア推定に応用した初の知られている応用例を提示した。これにより、バイオスタティスティクス分野におけるスケーラブルかつ正確な因果推論の新たな道筋が開かれた。