[論文レビュー] Federated Active Learning (F-AL): an Efficient Annotation Strategy for Federated Learning

Jin-Hyun Ahn, Kyungsang Kim+2 more|arXiv (Cornell University)|Feb 1, 2022

Privacy-Preserving Technologies in Data参考文献 32被引用数 4

ひとこと要約

本稿では、フェデレーテッドラーニング（FL）内での協調的アクティブラーニング戦略として、Federated Active Learning（F-AL）を提案する。F-ALは、ラベル付けに最も情報量の多いサンプルを共同で選択することで、ラベル付けコストを低減する。F-ALは、分散型で協調的な不確実性ベースのサンプリングを採用することで、ラベル付きデータ数を減らしつつもグローバルモデルの精度を向上させ、ランダムサンプリングやクライアントレベルの個別的アクティブラーニング（S-AL）を上回る性能を発揮する。

ABSTRACT

Federated learning (FL) has been intensively investigated in terms of communication efficiency, privacy, and fairness. However, efficient annotation, which is a pain point in real-world FL applications, is less studied. In this project, we propose to apply active learning (AL) and sampling strategy into the FL framework to reduce the annotation workload. We expect that the AL and FL can improve the performance of each other complementarily. In our proposed federated active learning (F-AL) method, the clients collaboratively implement the AL to obtain the instances which are considered as informative to FL in a distributed optimization manner. We compare the test accuracies of the global FL models using the conventional random sampling strategy, client-level separate AL (S-AL), and the proposed F-AL. We empirically demonstrate that the F-AL outperforms baseline methods in image classification tasks.

研究の動機と目的

• 現実世界のフェデレーテッドラーニング（FL）アプリケーションにおいて、ラベル付けが主なボトル neck となることを踏まえ、その高コストを解消すること。
• アクティブラーニング（AL）がFLフレームワークに効果的に統合可能かどうかを調査すること。
• クライアントごとのラベル付け作業量を最小限に抑えつつ、グローバルFLモデルの性能を向上させる協調的AL戦略を設計すること。
• F-ALの性能を、ランダムサンプリングおよびクライアントレベルの個別的AL（S-AL）と比較すること。

提案手法

• F-ALは、クライアントが個別にサンプルを選択する代わりに、共同してラベル付けに最も情報量の高いサンプルを特定することで、協調的アクティブラーニングを実現する。
• 本手法は、不確実性ベースのサンプリング戦略（例：不確実性サンプリング、コアセット、VAAL）を分散的に適用し、クライアントがパラメータサーバーを通じてモデル更新とサンプリング意思決定を共有する。
• クライアントは、局所的な未ラベルデータに対して最新のALアルゴリズム（例：MCDAL、LL、コアセット、VAAL）を適用するが、最終的なサンプル選択はグローバルモデルの情報量に基づいて行われる。
• グローバルモデルはフェデレーテッドアベレージング（FedAvg）を用いて更新され、ALプロセスはクライアント間で計算された不確実性または代表性指標に基づいて反復的に新しいサンプルを選択する。
• 本フレームワークは、すべての局所データを中央集約しないことでFLの制約を満たし、プライバシーと通信効率を維持する。
• F-ALは、局所的な情報量とグローバルモデルの改善をバランスさせる分散最適化アプローチを採用し、個々のクライアントのデータ分布に偏らないようにする。

実験結果

リサーチクエスチョン

• RQ1 アクティブラーニングは、フェデレーテッドラーニングに効果的に統合可能か？
• RQ2 協調的アクティブラーニング（F-AL）は、ランダムサンプリングおよびクライアントレベルの個別的AL（S-AL）と比較して、グローバルモデルの精度においてどの程度優れているか？
• RQ3 F-ALは、独立したクライアントレベルのALと比較して、分散型FL環境下でのアクティブラーニングの性能を向上させるか？
• RQ4 中心化された環境では成功を収めたが、FL環境では性能を発揮しないAL戦略（例：コアセット、VAAL）の理由は何か？
• RQ5 F-ALは、クライアント1人あたりの未ラベルデータが限られている場合に生じる性能劣化をどの程度緩和できるか？

主な発見

• F-ALは、Fashion-MNIST、CIFAR-10、CIFAR-100を含む複数の画像分類ベンチマークで、テスト精度においてランダムサンプリングおよびS-ALを顕著に上回る。
• F-ALの性能向上は、不確実性ベースのAL手法（不確実性サンプリング、MCDAL、LL）において顕著であり、ベースライン手法に比べて顕著な改善を示す。
• F-ALは、グローバルモデルの精度を維持または向上させつつ、必要なラベル付きサンプル数を削減し、ラベル付けコストの効果的削減を実証した。
• コアセットおよびVAAL手法は、クライアント1人あたりの未ラベルデータが不足しているためにFL環境で性能を発揮しないが、F-ALはVAEとディスクライマーの協調学習によりVAALの性能（F-VAAL）を向上させる。
• F-ALは、独立した局所学習（IL）の性能を低下させる。これは、クライアントが局所データの情報量よりもグローバルモデルの改善を優先するためであり、クライアント間で偏ったサンプリングが生じる。
• 局所データ分布のバイアスが存在しても、F-ALが選択する集約データセットは高いグローバルモデル精度を達成しており、FLにおける協調的サンプリングの有効性を確認した。