[論文レビュー] A Survey of Fairness-Aware Federated Learning

Yuxin Shi, Han Yu+1 more|arXiv (Cornell University)|Nov 2, 2021

Privacy-Preserving Technologies in Data参考文献 72被引用数 14

ひとこと要約

本論文は、フェアネス対応型フェデレーテッドラーニング（FAFL）の包括的サーベイを提示し、クライアント選択、最適化、寄与評価、インcentive配分の4つの側面にわたる分類法を提案する。フェアネスの基本的概念、指標、および今後の研究の方向性を特定することで、FLにおけるクライアント参加の促進とシステムの持続可能性の向上を図る。

ABSTRACT

Recent advances in Federated Learning (FL) have brought large-scale machine learning opportunities for massive distributed clients with performance and data privacy guarantees. However, most current works only focus on the interest of the central controller in FL, and ignore the interests of clients. This may result in unfairness which discourages clients from actively participating in the learning process and damages the sustainability of the whole FL system. Therefore, the topic of ensuring fairness in an FL is attracting a great deal of research interest. In recent years, diverse Fairness-Aware FL (FAFL) approaches have been proposed in an effort to achieve fairness in FL from different viewpoints. However, there is no comprehensive survey which helps readers gain insight into this interdisciplinary field. This paper aims to provide such a survey. By examining the fundamental and simplifying assumptions, as well as the notions of fairness adopted by existing literature in this field, we propose a taxonomy of FAFL approaches covering major steps in FL, including client selection, optimization, contribution evaluation and incentive distribution. In addition, we discuss the main metrics for experimentally evaluating the performance of FAFL approaches, and suggest some promising future research directions.

研究の動機と目的

• フェアネス対応型フェデレーテッドラーニング（FAFL）に関する包括的サーベイの不足に応えること。FAFLは最近発展し始めた学際的分野である。
• 既存のFAFL文献で用いられる基本的仮定とフェアネス概念を特定・分析すること。
• クライアント選択、最適化、寄与評価、インセンティブ配分というフェデレーテッドラーニングの主要段階にわたる、FAFLアプローチの構造的分類法を提案すること。
• FAFL手法の実験的評価に用いられる性能指標をレビュー・比較すること。
• フェアネスとシステム全体の目標（収束速度、通信効率など）の間の関係を強調すること。
• 現在の文献におけるギャップとトレンドに基づき、今後のFAFL研究のための体系的フレームワークを提案すること。

提案手法

• フェデレーテッドラーニングパイプラインの特定段階に焦点を当てたFAFLアプローチを、クライアント選択、最適化、寄与評価、インセンティブ配分の観点から分類すること。
• 既存のFAFL研究で採用されたフェアネス概念（データフェアネス、モデルフェアネス、リソースフェアネスなど）を分析・分類すること。
• FAFL手法の背後にある仮定（クライアントの非均質性、通信制約など）を体系的に検討すること。
• フェアネスと性能の両方を評価するための実験的指標（例：正解率の差、収束安定性）をレビュー・統合すること。
• フェアネス目的とシステムレベルの目標（収束速度、通信効率）との相互作用をマッピングすること。
• 現在の文献に見られるギャップとトレンドに基づき、今後のFAFL研究のための体系的フレームワークを提案すること。

実験結果

リサーチクエスチョン

• RQ1 既存のフェアネス対応型フェデレーテッドラーニングアプローチで一般的に採用されているフェアネス概念と仮定は何か？
• RQ2 FAFL手法は、分散環境におけるクライアント間のフェアネスを確保するために、どのようにインセンティブやリソースを配分するか？
• RQ3 FAFL実験でフェアネスとシステム効率を評価するために一般的に用いられる性能指標は何か？
• RQ4 クライアント選択、最適化、寄与評価のメカニズムは、FLにおけるフェアネスにどのように寄与するか？
• RQ5 フェアネス対応型フェデレーテッドラーニングを進展させるにあたり、主な未解決課題と有望な研究方向性は何か？

主な発見

• クライアント選択、最適化、寄与評価、インセンティブ配分の4つの主要段階をカバーする、FAFLアプローチの包括的分類法が提案された。
• 既存のFAFL文献において、データフェアネス、モデルフェアネス、リソースフェアネスといった複数のフェアネス概念が特定・分析された。
• 本サーベイは、フェアネスを実現するためのインセンティブメカニズムが、クライアント参加と公平な報酬の一致を促進する形で頻繁に用いられていることを明らかにした。
• FAFLにおける性能評価は、正解率の差、収束速度、通信効率といった指標を用いて一般的に実施されている。
• 本論文は、標準化された評価プロトコルの欠如を指摘し、フェアネス対応手法の比較に向けた統一されたベンチマークの必要性を強調した。
• 今後の研究は、非均質的かつ動的変化するFL環境に適したスケーラブルで、プライバシーを保護し、適応可能なフェアネスメカニズムの設計に注力すべきである。