[論文レビュー] FedCV: A Federated Learning Framework for Diverse Computer Vision Tasks

Chaoyang He, Alay Shah+8 more|arXiv (Cornell University)|Nov 22, 2021

Privacy-Preserving Technologies in Data参考文献 84被引用数 42

ひとこと要約

FedCVは、three computer vision tasks（画像分類、セグメンテーション、object detection）に対するオープンソースのフェデレーテッドラーニングフレームワークとベンチマークスイートを提供し、非IIDデータと現実的なCV設定の下で複数のFLアルゴリズムの評価を可能にします。

ABSTRACT

Federated Learning (FL) is a distributed learning paradigm that can learn a global or personalized model from decentralized datasets on edge devices. However, in the computer vision domain, model performance in FL is far behind centralized training due to the lack of exploration in diverse tasks with a unified FL framework. FL has rarely been demonstrated effectively in advanced computer vision tasks such as object detection and image segmentation. To bridge the gap and facilitate the development of FL for computer vision tasks, in this work, we propose a federated learning library and benchmarking framework, named FedCV, to evaluate FL on the three most representative computer vision tasks: image classification, image segmentation, and object detection. We provide non-I.I.D. benchmarking datasets, models, and various reference FL algorithms. Our benchmark study suggests that there are multiple challenges that deserve future exploration: centralized training tricks may not be directly applied to FL; the non-I.I.D. dataset actually downgrades the model accuracy to some degree in different tasks; improving the system efficiency of federated training is challenging given the huge number of parameters and the per-client memory cost. We believe that such a library and benchmark, along with comparable evaluation settings, is necessary to make meaningful progress in FL on computer vision tasks. FedCV is publicly available: https://github.com/FedML-AI/FedCV.

研究の動機と目的

• フェデレーテッドラーニング研究とコンピュータビジョン応用のギャップを埋めるため、CVタスク向けの統一FLフレームワークを提供する。
• 画像分類、セグメンテーション、オブジェクト検出に対してFL手法を評価するためのnon-IIDベンチマークとデータセットを作成する。
• 使いやすいAPI、参照実装、マルチタスクベンチマークを提供し、CVタスク向けのFL開発を加速する。

提案手法

• FedML上に構築されたCVタスク（画像分類を超える、セグメンテーションと検出を含む）用モジュールを備えた統一FedCVフレームワークを提供する。
• 現実的なフェデレーテッドデータ分布を模倣するためnon-IID分割を備えたベンチマークデータセットとデータローダを提供する。
• 複数のFLアルゴリズム（FedAvg, FedOpt, FedNova, FedProx, FedMA, FedGKT, Split Learning, VFL, FedNAS, Turbo-Aggregate）の参照実装を含め、マルチGPU分散トレーニングを可能にする。
• カスタムFLアルゴリズム開発と柔軟なクライアント-サーバ通信プロトコルを可能にする、使いやすいAPIを公開する。
• CVタスクに合わせたデータセット/モデルバックボーンをサポート（例：CIFAR-100, GLD-23k, PASCAL VOC, COCO; EfficientNet, MobileNet, ViT; DeepLabV3+, UNet, YOLOv5）。
• LDAベースの分割によるnon-IIDを含むデータ分布制御を提供し、集中トレーニングのテクニックのFLへの移行性を評価する。

実験結果

リサーチクエスチョン

• RQ1 non-IIDデータ分布の下で、さまざまなCVタスク（分類、セグメンテーション、検出）に対してFLアルゴリズムはどのように性能を発揮するか？
• RQ2 実世界のCVタスクにおいて、集中トレーニングのコツをFLに適用する際の実用的な課題は何か？
• RQ3 複数のタスクとモデルにわたるフェデレーテッドCVトレーニングにおいて、システム効率、メモリコスト、通信オーバーヘッドはどのような影響を及ぼすか？
• RQ4 統一されたFLフレームワークとベンチマークは、CVフェデレーテッドラーニングにおける有意義な比較と進歩を可能にできるか？

主な発見

• FedCVは、統一フレームワークとnon-IIDベンチマークを用いて、三つのCVタスクのFL実行が可能であることを示している。
• Non-IIDデータはCVタスクでモデル精度をさまざまな程度低下させ、FL専用のトレーニング戦略の必要性を浮き彫りにする。
• 集中型トレーニングのコツは必ずしもFLに翻訳されず、大規模なCVモデルとクライアントごとのメモリコストがシステム効率の課題となる。
• ベンチマークは、タスク間でのバックボーン選択、モデルサイズ、通信ラウンド数のトレードオフを示す（分類、セグメンテーション、検出）。
• 微調整は、スクラッチからのトレーニングと比べて、いくつかのCV FL設定で収束を加速し、精度を向上させることが多く、特に分類実験で顕著である。
• FedCVは、複数のFLアルゴリズムと実際のCVバックボーンを備えた実践的なプラットフォームを提供し、公平な比較と研究サイクルの高速化を実現する。