[論文レビュー] An Experimental Study of Data Heterogeneity in Federated Learning Methods for Medical Imaging

Liangqiong Qu, Niranjan Balachandar+1 more|arXiv (Cornell University)|Jul 18, 2021

Privacy-Preserving Technologies in Data参考文献 19被引用数 15

ひとこと要約

本論文は、医療画像におけるフェデレーテッドラーニングに影響を与えるデータの非同一性—量の偏り、ラベル分布の偏り、画像取得の偏り—の影響を調査する。本研究では、量の偏りに対して重み付き平均化、ラベルの偏りに対して重み付き損失、およびFedAVGにおけるバッチ正規化統計の平均化を含む緩和戦略を提案し、複数の医療画像データセットにおいて非同一な条件下でモデル性能を顕著に向上させる。

ABSTRACT

Federated learning enables multiple institutions to collaboratively train machine learning models on their local data in a privacy-preserving way. However, its distributed nature often leads to significant heterogeneity in data distributions across institutions. In this paper, we investigate the deleterious impact of a taxonomy of data heterogeneity regimes on federated learning methods, including quantity skew, label distribution skew, and imaging acquisition skew. We show that the performance degrades with the increasing degrees of data heterogeneity. We present several mitigation strategies to overcome performance drops from data heterogeneity, including weighted average for data quantity skew, weighted loss and batch normalization averaging for label distribution skew. The proposed optimizations to federated learning methods improve their capability of handling heterogeneity across institutions, which provides valuable guidance for the deployment of federated learning in real clinical applications.

研究の動機と目的

• 量の偏り、ラベル分布の偏り、画像取得の偏りという複数のデータ非同一性の状態が医療画像におけるフェデレーテッドラーニングに与える影響を分析すること。
• データの非同一性の度合いが増すに従ってフェデレーテッドラーニング手法の性能がどの程度低下するかを評価すること。
• 実臨床環境におけるデータ非同一性に起因する性能低下を緩和する最適化戦略を開発・検証すること。
• 複数機関にまたがる医療画像アプリケーションへのフェデレーテッドラーニングの導入に役立つ実務的ガイダンスを提供すること。

提案手法

• ADNIおよび糖尿病網膜症の2つの医療画像データセットを用いて、FedSGD、FedAVG、CWTの3つのフェデレーテッドラーニング手法を評価した。
• 解像度、SNR、ノイズタイプを含むさまざまな画像取得条件を想定し、量の偏り、ラベル分布の偏り、画像取得の偏りを有するデータパーティショニングをシミュレートした。
• ローカルデータサイズに応じてクライアントの寄与度を調整することで、量の偏りに対処するための重み付き平均化戦略をFedSGDに提案した。
• ラベル分布の偏りによって引き起こされる性能低下を軽減するために、FedAVGに重み付き損失関数を導入した。
• 訓練中に複数機関のバッチ正規化（BN）統計（平均および分散）を平均化するようにFedAVGを変更し、偏りに起因する性能低下を低減した。
• 複数のデータ分割および画像条件においてアブレーションスタディを実施し、各最適化戦略の有効性を検証した。

実験結果

リサーチクエスチョン

• RQ1 量の偏り、ラベル分布の偏り、画像取得の偏りというデータ非同一性の度合いが、医療画像におけるフェデレーテッドラーニングモデルの性能にどのように影響するか？
• RQ2 重み付き平均化によるモデル更新の平均化は、フェデレーテッドラーニングにおけるデータ量の偏りに起因する性能低下をどの程度緩和できるか？
• RQ3 重み付き損失関数は、フェデレーテッド医療画像分類においてラベル分布の偏り下でもモデルの汎化性能を向上させることができるか？
• RQ4 FedAVGにおいて機関間のバッチ正規化統計を平均化することで、画像取得の偏り下でのモデルの頑健性が向上するか？
• RQ5 異なる非同一性の状態が、実臨床環境における医療画像フェデレーテッドラーニングの設定において、モデルの収束性および精度に与える影響を比較するとどうなるか？

主な発見

• FedAVGに重み付き損失とバッチ正規化統計の平均化を組み合わせた場合、ADNIデータセットのスプリット4において、標準的なFedAVGに重み付き損失を適用した場合と比較して、テスト精度が相対的に16.0%向上した。
• FedSGDに適用された重み付き平均化戦略は、データ量の偏りに起因する性能低下を効果的に回復させ、データサイズが不均一な複数機関間でのモデルの頑健性を向上させた。
• ラベル分布の偏りはモデル性能を顕著に低下させたが、提案された重み付き損失戦略により、特にデータが不均衡なパーティションにおいてその影響が顕著に緩和された。
• FedAVGにおいて機関間のバッチ正規化統計を平均化することで、BN層に起因する偏りに起因する精度損失が低減され、標準的なBN平均化よりも優れた性能を示し、グループ正規化の柔軟な代替手段となった。
• 画像取得の偏り（解像度やノイズの変動を含む）は顕著な性能低下を引き起こし、特に実際のスキャナーメーカーに起因するデータ分割では最も顕著な低下が観察された。
• FedAVGにおける重み付き損失とBN統計の平均化の組み合わせは、ADNIおよびRetina両データセットで優れた性能を示し、多様な医療画像タスクにわたり有効性を確認した。