[論文レビュー] Two-step adversarial debiasing with partial learning -- medical image case-studies

Ramón Correa, Jiwoong Jeong+4 more|arXiv (Cornell University)|Nov 16, 2021

Adversarial Robustness in Machine Learning被引用数 4

ひとこと要約

本論文は、診断性能を維持したまま医療画像AIモデルにおける人種的バイアスを低減するため、部分的微調整を組み合わせた2段階の敵対的デバイアス化手法を提案している。顕著な乖離低減が達成され、例えばチアックX線における浮腫のTPR乖離は1.33から1.11に低下したが、タスクの精度を損なわず、特にアジア系患者に対するマンモグラフィーのケースでは完全デバイアス化を上回る性能を示した。

ABSTRACT

The use of artificial intelligence (AI) in healthcare has become a very active research area in the last few years. While significant progress has been made in image classification tasks, only a few AI methods are actually being deployed in hospitals. A major hurdle in actively using clinical AI models currently is the trustworthiness of these models. More often than not, these complex models are black boxes in which promising results are generated. However, when scrutinized, these models begin to reveal implicit biases during the decision making, such as detecting race and having bias towards ethnic groups and subpopulations. In our ongoing study, we develop a two-step adversarial debiasing approach with partial learning that can reduce the racial disparity while preserving the performance of the targeted task. The methodology has been evaluated on two independent medical image case-studies - chest X-ray and mammograms, and showed promises in bias reduction while preserving the targeted performance.

研究の動機と目的

• 臨床AIモデルにおける人種的差別の問題、特に医療画像分類における人種的格差を是正すること。
• 人種などの保護属性に依存するのを減らしながらも、ターゲット診断タスクにおける高い性能を維持するデバイアス化手法を開発すること。
• 敵対的デバイアス化後に部分的微調整を適用することで、性能の回復を図りながらもバイアス低減を継続できるかを評価すること。
• チアックX線とマンモグラフィーという2つの実世界の医療画像用途において、完全デバイアス化と部分的デバイアス化の手法を比較すること。
• 勾配ベースの学習と互換性があり、アーキテクチャに依存しないスケーラブルなデバイアス化手法を提供すること。

提案手法

• 二重ブランチCNNアーキテクチャを用いる。一方のブランチはターゲット診断ラベル（y）を予測し、もう一方は保護属性（Z、例：人種）を敵対的に予測する。
• 学習段階では、L = L_predictor + λ × L_adversarial（λ = 0.53）という組み合わせ損失を最小化することで、両タスクを同時に学習する。
• 2回目のバックプロパゲーションでは、敵対的ブランチからの勾配を反転（L = -λ × L_adversarial）させ、保護属性の学習を妨げる。
• 部分的微調整は、アブレーション解析を用いて、保護属性予測の精度を最も著しく低下させるコンボリューショナル層の上位10%のフィルタを同定し、再学習することで実施する。
• このアプローチは敵対的学習後に適用され、バイアス低減を維持しながら性能回復を可能にする。
• 任意の微分可能なモデルアーキテクチャと互換性があり、人種的にバランスの取れたデータセットを必要としない。

実験結果

リサーチクエスチョン

• RQ1 敵対的デバイアス化は、診断性能を損なわず、医療画像分類における人種的格差を低減できるか？
• RQ2 敵対的デバイアス化後に部分的微調整を適用することで、性能向上が図られるとともに公平性が維持されるか？
• RQ3 チアックX線とマンモグラフィーという異なる画像モodalitiesにおいて、完全デバイアス化と部分的デバイアス化の手法を比較した場合、バイアス低減とタスク精度の両面でどのような差が生じるか？
• RQ4 モデルが人種に依存する程度が、チアックX線およびマンモグラム解釈における診断結果にどの程度関連しているか？
• RQ5 この手法は、再訓練を必要とせず、さまざまな医療画像タスクに一般化可能か？

主な発見

• チアックX線では、部分的デバイアス化により「異常なし」のAUCが0.866から0.889に向上し、浮腫のTPR乖離は1.33から1.11に低下し、許容範囲（0.8～1.25）内に収まった。
• マンモグラフィーでは、部分的デバイアス化により、低密度組織クラスにおけるアジア系患者のTPR乖離が3.37から1.67に低下し、公平性が著しく向上した。
• 部分的デバイアス化手法は、ターゲットタスクの性能を維持またはわずかに向上させたが、完全デバイアス化では一部のケース（例：組織密度クラス1のAUCが0.965から0.942に低下）で性能が低下した。
• マンモグラフィーにおける不均一に密集した組織では、アジア系患者に対して顕著な乖離改善が認められなかったが、これはこのグループに密集乳腺が一般的に多いことが要因と考えられる。
• 両データセットにおいてバイアス低減を達成するとともに、診断性能を維持または向上させた。特に、ベースラインモデルで顕著な乖離を示していたケースで顕著な改善が得られた。
• アブレーションベースの部分的微調整戦略により、敵対的デバイアス化中に失われた性能を回復させるために再学習が必要な主要なコンボリューショナル層を同定できた。