[論文レビュー] Using Explainable AI to Cross-Validate Socio-economic Disparities Among Covid-19 Patient Mortality

Shi Li, Redoan Rahman+4 more|PubMed|Feb 16, 2023

Machine Learning in Healthcare参考文献 15被引用数 4

ひとこと要約

本研究では、オースティンの病院から得られた匿名化された電子歴史記録（EHR）データを用いて訓練されたXGBoostモデルに対して、解釈可能なAI（XAI）手法（SHAPおよびLIME）を用い、COVID-19死亡率における社会経済的格差を調査した。メディケア加入状況、年齢、性別が死亡率の上位予測要因であることが確認され、XAI手法間で一貫した特徴重要度が得られた。これは、モデルの解釈可能性と健康格差研究における手法の相互検証に有効であることを裏付けている。

ABSTRACT

This paper applies eXplainable Artificial Intelligence (XAI) methods to investigate the socioeconomic disparities in COVID-19 patient mortality. An Extreme Gradient Boosting (XGBoost) prediction model is built based on a de-identified Austin area hospital dataset to predict the mortality of COVID-19 patients. We apply two XAI methods, Shapley Additive exPlanations (SHAP) and Locally Interpretable Model Agnostic Explanations (LIME), to compare the global and local interpretation of feature importance. This paper demonstrates the advantages of using XAI which shows the feature importance and decisive capability. Furthermore, we use the XAI methods to cross-validate their interpretations for individual patients. The XAI models reveal that Medicare financial class, older age, and gender have high impact on the mortality prediction. We find that LIME's local interpretation does not show significant differences in feature importance comparing to SHAP, which suggests pattern confirmation. This paper demonstrates the importance of XAI methods in cross-validation of feature attributions.

研究の動機と目的

• 機械学習および解釈可能なAI（XAI）を用いて、COVID-19患者の死亡率における社会経済的格差を調査すること。
• 複数のXAI手法（SHAPおよびLIME）における特徴重要度の整合性と信頼性を評価すること。
• 複数の説明可能技術を用いた相互検証を通じて、モデル解釈の妥当性を検証すること。
• 実世界の病院データセットにおける死亡率結果に影響を与える主な臨床的および社会的決定要因を同定すること。
• XAIが臨床予測モデルにおける健康格差の同定と検証にどのように有用であるかを示すこと。

提案手法

• テキサス州オースティンの病院システムから得られた匿名化された電子歴史記録（EHR）データを用いて、XGBoostモデルを訓練した。
• SHAP（Shapley Additive Explanations）を用いて、モデル予測のグローバルおよびローカル特徴重要度スコアを計算した。
• LIME（Locally Interpretable Model-agnostic Explanations）を用いて、個々の予測の周囲でモデルを局所的に近似することで、ローカルな解釈可能性を実現した。
• SHAPおよびLIMEの特徴重要度ランク付けを比較し、解釈の整合性を確認した。
• モデルは、人口統計学的、臨床的、社会経済的変数を用いて、COVID-19患者の入院内死亡率を予測した。
• XAI解釈の相互検証を実施し、特徴の帰属の堅牢性と信頼性を確保した。

実験結果

リサーチクエスチョン

• RQ1 SHAPおよびLIMEは、COVID-19死亡率予測において、どの程度一貫した特徴重要度ランク付けを生じるか？
• RQ2 どの社会経済的および臨床的特徴が、患者死亡率予測に最も顕著に影響を与えるか？
• RQ3 XAI手法は、健康格差研究におけるモデル解釈の検証と相互検証にどのように活用できるか？
• RQ4 金融的格差（例：メディケア加入状況）および年齢と関連した死亡率予測の測定可能な格差は存在するか？
• RQ5 XAI手法は、個々の患者症例における健康アウトカム格差のパターンを信頼性を持って同定・確認できるか？

主な発見

• メディケア加入状況が死亡率の上位予測要因として浮き彫りとなり、結果における顕著な社会経済的格差を示した。
• 高齢は、SHAPおよびLIME両方の解釈において一貫して死亡率予測に大きな影響を与える要因として特定された。
• 性別も死亡率予測に大きな影響を及ぼしており、モデルの解釈において差が観察された。
• LIMEとSHAPは、非常に類似したローカル特徴重要度ランク付けを示し、両手法間で強い整合性とパターンの確認が得られた。
• XAI解釈の相互検証により、モデルの特徴帰属に対する信頼性が向上し、臨床的意義も明確になった。
• 本研究では、XAIが臨床予測モデルにおける格差の同定と検証に効果的に応用可能であることが示された。