[論文レビュー] Federated Contrastive Learning for Dermatological Disease Diagnosis via On-device Learning

Yawen Wu, Dewen Zeng+6 more|arXiv (Cornell University)|Feb 14, 2022

Cutaneous Melanoma Detection and Management被引用数 7

ひとこと要約

本稿では、限られたラベル付きデータを用いてモデル性能を向上させる、端末内でのフェデレーテッド対照学習フレームワークを提案する。自己教師あり事前学習中にデバイス間で特徴量を共有し、ローカルネガティブを排除することで、データの多様性と表現品質を向上させ、既存のフェデレーテッドおよび対照学習ベースラインと比較して、皮膚疾患データセットにおいて最先端の再現率と適合率の向上を達成した。

ABSTRACT

Deep learning models have been deployed in an increasing number of edge and mobile devices to provide healthcare. These models rely on training with a tremendous amount of labeled data to achieve high accuracy. However, for medical applications such as dermatological disease diagnosis, the private data collected by mobile dermatology assistants exist on distributed mobile devices of patients, and each device only has a limited amount of data. Directly learning from limited data greatly deteriorates the performance of learned models. Federated learning (FL) can train models by using data distributed on devices while keeping the data local for privacy. Existing works on FL assume all the data have ground-truth labels. However, medical data often comes without any accompanying labels since labeling requires expertise and results in prohibitively high labor costs. The recently developed self-supervised learning approach, contrastive learning (CL), can leverage the unlabeled data to pre-train a model, after which the model is fine-tuned on limited labeled data for dermatological disease diagnosis. However, simply combining CL with FL as federated contrastive learning (FCL) will result in ineffective learning since CL requires diverse data for learning but each device only has limited data. In this work, we propose an on-device FCL framework for dermatological disease diagnosis with limited labels. Features are shared in the FCL pre-training process to provide diverse and accurate contrastive information. After that, the pre-trained model is fine-tuned with local labeled data independently on each device or collaboratively with supervised federated learning on all devices. Experiments on dermatological disease datasets show that the proposed framework effectively improves the recall and precision of dermatological disease diagnosis compared with state-of-the-art methods.

研究の動機と目的

• ラベル付きデータが乏しく、モバイルデバイスに分散している状況において、正確な皮膚疾患診断モデルを訓練する課題に対処すること。
• 各デバイスのデータ多様性が低いフェデレーテッド環境において、対照学習の性能が低下するという制限を克服すること。
• 生データの共有を避けることで患者のプライバシーを保護するとともに、デバイス間での特徴量交換により表現学習を強化すること。
• 事前学習モデルを用いた有効なファインチューニングにより、ラベル付けの効率を向上させること。
• フェデレーテッド自己教師あり事前学習と共同またはローカルなファインチューニングを組み合わせた二段階フレームワークを、医療画像診断に応用すること。

提案手法

• 二段階フレームワークを導入：ラベルなしデータを用いたフェデレーテッド自己教師あり事前学習（対照学習）の後、限られたラベル付きデータを用いたファインチューニング。
• 事前学習中にデバイス間で特徴量交換（FE）を実施し、生画像の共有なしにデータ多様性を向上させ、対照学習の品質を向上させる。
• 対照学習中にローカルネガティブを排除することで、学習された表現のクラスタリングを強化し、ノイズを低減する。
• 事前学習およびファインチューニングの両ステージでFedAvgを集約戦略として採用し、デバイス間でのモデル整合性を維持する。
• データオーグメンテーション（例：ランダムクロッピング、カラーのジャイタリング）を用いたシアンプルネットワークアーキテクチャを採用し、対照損失用のポジティブおよびネガティブペアを生成する。
• ローカルおよびフェデレーテッドの両方のファインチューニングをサポートし、データ可用性およびプライバシー制約に応じた展開の柔軟性を提供する。

実験結果

リサーチクエスチョン

• RQ1 各デバイスに限られたラベルなしデータしかない状況において、フェデレーテッド対照学習が皮膚疾患診断のための頑健な表現を効果的に学習できるか。
• RQ2 低データ多様性のクライアント環境におけるフェデレーテッド設定で、デバイス間の特徴量交換が対照学習の性能にどのように寄与するか。
• RQ3 ローカルネガティブの排除が、学習された表現の品質および下流の診断精度に与える影響は何か。
• RQ4 提案フレームワークが、診断性能を維持または向上させつつ、どの程度ラベル付けの要件を低減できるか。
• RQ5 皮膚疾患データセットにおける再現率と適合率の観点から、提案手法は最先端のフェデレーテッドおよび対照学習ベースラインと比較してどの程度優れているか。

主な発見

• 10%のラベルデータを用いたフェデレーテッドファインチューニングにおいて、提案手法は再現率48.03%、適合率42.87%を達成し、最良のベースライン（FedSimCLR）を再現率2.14ポイント、適合率1.43ポイント上回った。
• 40%のラベル割合では、再現率55.13%、適合率48.73%に達し、ラベル付きデータ量が2倍のベースラインの性能を同等または上回った。
• アブレーションスタディにより、特徴量交換が再現率を44.72%から47.45%に向上させ、ローカルネガティブの排除によりさらに48.03%に上昇した（10%ラベル時）。
• 本手法は、すべてのラベル割合（10%、20%、40%、80%）において、ローカルおよびフェデレーテッドファインチューニングの両設定で、すべてのベースラインを上回る再現率と適合率を一貫して向上させた。
• 評価では、色素の異なる多様な肌タイプに対してもフレームワークの頑健性が確認され、皮膚の色素沈着や疾患の表現が多様な皮膚疾患データセットで有効であった。
• 結果から、特徴量交換は、データが乏しくプライバシー制約のある環境における表現学習を顕著に向上させることを示しており、実世界のモバイル皮膚科応用に適している。