[論文レビュー] Achieving Fairness in Dermatological Disease Diagnosis through Automatic Weight Adjusting Federated Learning and Personalization

Gelei Xu, Yawen Wu+2 more|arXiv (Cornell University)|Aug 23, 2022

Cutaneous Melanoma Detection and Management被引用数 5

ひとこと要約

本稿では、皮膚疾患診断のための二段階型公平性指向フェデレーテッドラーニングフレームワークを提案する。この手法は、グローバルモデル集約時における自動損失ベースの重み調整と、FL後のパーソナライズドファインチューニングを用いて皮膚タイプバイアスを低減する。本手法は、性能が低いクライアント（例：濃い皮膚タイプ）を優先することで公平性を向上させ、皮膚タイプごとに最適なモデルを選択し、ベースラインモデルと比較して9.6%の精度向上と68%の精度分散低減を達成した。

ABSTRACT

Dermatological diseases pose a major threat to the global health, affecting almost one-third of the world's population. Various studies have demonstrated that early diagnosis and intervention are often critical to prognosis and outcome. To this end, the past decade has witnessed the rapid evolvement of deep learning based smartphone apps, which allow users to conveniently and timely identify issues that have emerged around their skins. In order to collect sufficient data needed by deep learning and at the same time protect patient privacy, federated learning is often used, where individual clients aggregate a global model while keeping datasets local. However, existing federated learning frameworks are mostly designed to optimize the overall performance, while common dermatological datasets are heavily imbalanced. When applying federated learning to such datasets, significant disparities in diagnosis accuracy may occur. To address such a fairness issue, this paper proposes a fairness-aware federated learning framework for dermatological disease diagnosis. The framework is divided into two stages: In the first in-FL stage, clients with different skin types are trained in a federated learning process to construct a global model for all skin types. An automatic weight aggregator is used in this process to assign higher weights to the client with higher loss, and the intensity of the aggregator is determined by the level of difference between losses. In the latter post-FL stage, each client fine-tune its personalized model based on the global model in the in-FL stage. To achieve better fairness, models from different epochs are selected for each client to keep the accuracy difference of different skin types within 0.05. Experiments indicate that our proposed framework effectively improves both fairness and accuracy compared with the state-of-the-art.

研究の動機と目的

• トレーニングデータに含まれない濃い皮膚タイプの欠落による皮膚科AIモデルにおける顕著な皮膚タイプバイアスを是正すること。
• データの不均衡を考慮したフェデレーテッドラーニングにおいて、皮膚タイプごとの性能格差を低減することで、皮膚科疾患診断の公平性を向上させること。
• グローバルモデル集約時に、損失が大きいクライアントを優先する動的で自動的な重み調整メカニズムを構築すること。
• グローバルモデル学習後のパーソナライズドモデル適応を可能にし、多様な皮膚タイプにおける公平性と精度のバランスを取ること。
• 皮膚タイプ間の精度ギャップを≤5%に抑えることを目標としつつ、全体のパフォーマンスを最大化すること。

提案手法

• FL内段階では、損失が大きいクライアントに高いグローバルモデル更新重みを割り当てる自動重み集約器を採用し、損失差に応じて重みの強度を動的に調整する。
• 重み調整関数は非線形の指数関数的マッピングを用い、高損失クライアントの影響を拡大する。上界Mとスケーリング係数mは最適なパフォーマンスを得るために調整される。
• FL後段階では、各クライアントがグローバルモデルを、異なるトレーニングエポックからの選択されたチェックポイントを用いてパーソナライズドファインチューニングする。
• モデル選択は公平性制約に基づく：皮膚タイプ間の精度ギャップが5%以内に保たれるように、各タイプについて0.7から0.75の精度を持つモデルを選択する。
• フレームワークはFitzpatrick 17kデータセットを用い、皮膚タイプ1〜6が異なるメラニン含有量を表し、公平性は精度ギャップと分散メトリクスで評価される。
• ハイパーパrameterであるMとmはアブレーションを用いて調整され、M=3が精度と安定性のバランスを最適化するとして特定された。

実験結果

リサーチクエスチョン

• RQ1 フェデレーテッドラーニングにおける自動的で損失ベースの重み調整は、皮膚科疾患診断における皮膚タイプごとの性能格差を低減できるか？
• RQ2 データの不均衡下で、動的重み調整は固定または静的重み設定と比較して、公平性向上にどのように寄与するか？
• RQ3 グローバルモデル学習後のパーソナライズドファインチューニングは、代表されない皮膚タイプにおける公平性と精度をどの程度向上できるか？
• RQ4 異なるトレーニングエポックからのモデル選択において、公平性（精度ギャップ≤5%）と全体の精度の最適なトレードオフは何か？
• RQ5 提案されたフレームワークは、現実世界の皮膚科データセットにおいて、最先端のフェデレーテッドラーニング手法を上回る公平性と精度を達成できるか？

主な発見

• 提案されたFedAuto手法は、ベースラインのFedAvgモデルと比較して、全体の精度が9.6%絶対的に向上した。
• 皮膚タイプ間の精度分散は、元のモデルの32%まで低減され、顕著な公平性の向上が示された。
• 皮膚タイプ6（最も濃い皮膚）は、FL後のファインチューニングで最も顕著な精度向上を示し、0.725に達した。これは、他の高性能皮膚タイプとのギャップを埋めたことを示している。
• 重み調整関数の最適上界M=3は、F1スコア（0.7003）が最も高く、精度分散（0.00015）が最小であった。
• 動的重み調整は固定ハイパーパrameter設定を上回り、損失差に応じた重み強度の自動適応の利点を示した。
• 異なるエポックからのモデル選択により、公平性と精度のトレードオフが実現可能となり、全皮膚タイプで精度が互いに0.05以内に収束した。