[論文レビュー] Fairness With Minimal Harm: A Pareto-Optimal Approach For Healthcare

Natalia Martínez, Martín Bertrán+1 more|arXiv (Cornell University)|Nov 16, 2019

Healthcare cost, quality, practices参考文献 12被引用数 10

ひとこと要約

本稿では、不要な被害を及えることなく感受性サブグループ間のリスク差を最小化する、公平性におけるパレート最適なアプローチを提案する。動的リスクバランス損失を用いたニューラルネットワークの訓練により、性能劣化を最小限に抑えつつ最先端の公平性を達成し、ICU死亡予測および皮膚腫瘍分類データセットで検証された。

ABSTRACT

Common fairness definitions in machine learning focus on balancing notions of disparity and utility. In this work, we study fairness in the context of risk disparity among sub-populations. We are interested in learning models that minimize performance discrepancies across sensitive groups without causing unnecessary harm. This is relevant to high-stakes domains such as healthcare, where non-maleficence is a core principle. We formalize this objective using Pareto frontiers, and provide analysis, based on recent works in fairness, to exemplify scenarios were perfect fairness might not be feasible without doing unnecessary harm. We present a methodology for training neural networks that achieve our goal by dynamically re-balancing subgroups risks. We argue that even in domains where fairness at cost is required, finding a non-unnecessary-harm fairness model is the optimal initial step. We demonstrate this methodology on real case-studies of predicting ICU patient mortality, and classifying skin lesions from dermatoscopic images.

研究の動機と目的

• 感受性サブグループ間のリスク差を最小化することで、高リスクの医療応用における公平性を改善すること。
• 公平性をパレート最適性として形式化し、他のサブグループを改善しない限り、いかなるサブグループも悪化しないようにすること。
• 事後補正を回避し、モデルの有用性を維持する訓練手法を開発すること。
• ICU死亡予測や皮膚腫瘍分類といった実世界の医療タスクにこのアプローチを適用すること。
• パレート公平モデルが全体の性能を保持しつつ、最小限のリスク差を達成することを示すこと。

提案手法

• 公平性は、サブ集団のリスクのパレートフロンティアに基づいて定義され、他のサブグループを損なわずにいかなるサブグループも改善できない状態を指す。
• 最適な分類器は、パレートフロンティア内でのサブグループ間の最大ペアワイズリスクギャップを最小化するものとして定式化される。
• 訓練中にサブグループのリスクを動的にバランスさせるため、微分可能で適応的なリスク平等化損失が導入される。
• 本手法は任意の標準分類器や回帰モデルと互換性があり、テスト時における感受性属性のアクセスを必要としない。
• グループ固有のリスク正則化を伴うクロスエントロピーおよびブリヤースコア損失を用いて、ニューラルネットワークに適用される。
• 本手法はMIMIC-III（ICU死亡予測）およびHAM10000（皮膚腫瘍）データセットを用い、正解率およびブリヤースコア指標で評価される。

実験結果

リサーチクエスチョン

• RQ1 医療機械学習における公平性は、いかなるサブグループに対しても不要な被害を及えることなく形式化可能か？
• RQ2 全体のモデル性能を低下させることなく、最小限のリスク差を達成することは可能か？
• RQ3 パレート最適性は、事後補正手法と比較して、有用性および公平性の観点でどのように異なるか？
• RQ4 本手法は、テスト時における感受性属性の情報が不要な状態で、実世界の医療タスクに適用可能か？
• RQ5 パレート公平モデルは、多様なサブグループにおいて、標準ベースラインを上回る公平性と正確性を達成できるか？

主な発見

• MIMIC-IIIデータセットでは、パレート公平分類器が0.29のブリヤースコアおよび78.9％の正解率を達成し、ナイーブおよびリバランスドナイーブベースラインを公平性面で上回りつつ、高い有用性を維持した。
• 皮膚腫瘍分類においては、パレート公平モデルがナイーブベースラインの96.0％（差異）から31.7％（差異）に精度差を低減したが、平均正解率78.6％を維持した。
• MIMIC-IIIではリスク差が0.29（最低）、HAM10000では差異が0.501（最低）を達成し、ZafarおよびReNベースラインを上回った。
• MIMIC-IIIでは、ナイーブ分類器と比較してリスク差が56.3％削減され、顕著な性能低下は認められなかった。
• HAM10000では、ブリヤースコア差異がナイーブの1.667から0.501に低下し、大幅な公平性の向上が示された。
• パレート公平モデルは、すべてのサブグループにおいてパレート最適であった。これは、他のサブグループを改善しない限り、いかなるサブグループもリスク面で悪化しなかったことを意味する。