[論文レビュー] Fair Machine Learning in Healthcare: A Review

Qizhang Feng, Mengnan Du+2 more|arXiv (Cornell University)|Jun 29, 2022

Health Systems, Economic Evaluations, Quality of Life被引用数 12

ひとこと要約

本調査は、分配的正義の原則を用いて公平性の懸念を均等な割り当てと均等なパフォーマンスに分類することにより、医療分野における公平な機械学習の統一的フレームワークを提案する。公平性指標、機械学習ライフサイクル全体におけるバイアスの発生源、緩和戦略を体系的にレビューし、医療文脈における公平性手法の評価のギャップを強調するとともに、統合的で倫理的なAIフレームワークの構築を要請する。

ABSTRACT

The digitization of healthcare data coupled with advances in computational capabilities has propelled the adoption of machine learning (ML) in healthcare. However, these methods can perpetuate or even exacerbate existing disparities, leading to fairness concerns such as the unequal distribution of resources and diagnostic inaccuracies among different demographic groups. Addressing these fairness problem is paramount to prevent further entrenchment of social injustices. In this survey, we analyze the intersection of fairness in machine learning and healthcare disparities. We adopt a framework based on the principles of distributive justice to categorize fairness concerns into two distinct classes: equal allocation and equal performance. We provide a critical review of the associated fairness metrics from a machine learning standpoint and examine biases and mitigation strategies across the stages of the ML lifecycle, discussing the relationship between biases and their countermeasures. The paper concludes with a discussion on the pressing challenges that remain unaddressed in ensuring fairness in healthcare ML, and proposes several new research directions that hold promise for developing ethical and equitable ML applications in healthcare.

研究の動機と目的

• 医療分野の機械学習における倫理的公平性の懸念と技術的公平性手法の間の重要なギャップを解消すること。
• 分配的正義の原則を用いて医療分野の公平性問題を均等な割り当てと均等なパフォーマンスに分類すること。
• データ、モデル、デプロイメントの各段階において、公平性指標と緩和戦略を体系的にレビューすること。
• 医療特有の指標に適用された公平性緩和手法の評価が不十分である点を強調すること。
• 医療分野における倫理的で、公平的かつ臨床的に実用可能なAIを開発するための今後の研究方向性を提案すること。

提案手法

• 公平性問題を均等な割り当て（リソース配分）と均等なパフォーマンス（グループ間の予測精度）に分類する分配的正義の枠組みを採用すること。
• 割り当ての公平性を測る指標（例：デモグラフィックパラメータの同等性）とパフォーマンスの公平性を測る指標（例：等しいオッズ、等しい機会）に分類すること。
• 機械学習ライフサイクルの3段階（データ収集、モデル開発、モデルデプロイメント）にバイアスをマッピングすること。
• 事前処理、インプロセッシング、事後処理の公平性手法を含む緩和技術をレビューし、医療分野に特化した応用に重点を置くこと。
• 解釈可能性、プライバシー、耐性の倫理的側面を分析し、それらが公平性とどのように関係するかを検討すること。
• 複数のデータタイプ（例：画像、テキスト、ゲノム）にまたがるバイアスを有するマルチモーダル医療AIにおける新たな挑戦を指摘し、公平性に配慮したマルチモーダルモデリングの必要性を提起すること。

実験結果

リサーチクエスチョン

• RQ1 分配的正義のような倫理的原則を用いて、医療分野の機械学習における公平性を体系的に分類する方法は何か？
• RQ2 機械学習ライフサイクル全体にわたり、医療データに適用可能な主要な公平性指標と緩和戦略は何か？
• RQ3 データ収集、モデル学習、デプロイメントにおけるバイアスが、臨床的機械学習システムにおける公平性結果にどのように影響を及えるか？
• RQ4 公平性、解釈可能性、プライバシー、耐性の間にはどのような相互作用とトレードオフがあるか？
• RQ5 理論的な公平性手法と実世界の医療応用との間のギャップを埋めるために、どのような新しい研究方向性が求められるか？

主な発見

• 医療分野の機械学習における公平性は、主に均等な利益配分と、人口群間の均等なパフォーマンスという2つの視点から理解するのが最適である。
• 機械学習で用いられる既存の公平性指標は、これら2つのカテゴリーにマッピング可能であり、特に臨床予測において等しい機会や等しいオッズといったパフォーマンスベースの指標が特に関連性が深い。
• バイアスは機械学習ライフサイクルの全段階（データ収集、モデル開発、デプロイメント）に現れ、各段階に特化した緩和戦略の導入が不可欠である。
• 医療特有の公平性指標に適用された公平性緩和手法の有効性を評価する分野には、顕著なギャップが存在する。特に、実臨床環境における評価が不十分である。
• マルチモーダル医療AIシステムは、モダリティ固有のバイアスを有するため、公平性の課題が顕著であるが、現状、マルチモーダルデータ統合における公平性を扱う手法はほとんど存在しない。
• 公平性、解釈可能性、プライバシー、耐性の間の相互作用は十分に検討されておらず、例えば公平性とプライバシーのトレードオフや、耐性と公平性の相乗効果といった関係性が、統合的で倫理的なAIフレームワークの構築を要請している。