[論文レビュー] Incentive Mechanisms for Federated Learning: From Economic and Game Theoretic Perspective

Xuezhen Tu, Kun Zhu+4 more|arXiv (Cornell University)|Nov 20, 2021

Auction Theory and Applications被引用数 5

ひとこと要約

本論文は、フェデレーテッドラーニング（FL）における経済的・ゲーム理論的インセンティブメカニズムについて包括的なサーベイを提供し、公平性に配慮し、プライバシーを保護し、複数の目的を満たす設計を通じて、データ所有者がリソースを提供するよう動機づける方法を分析している。オークションベースのメカニズム、寄与評価のためのシャープレー値、ブロックチェーンおよび強化学習との統合をレビューし、マルチインセンティブスキームおよび敵対的耐性における未解決の課題を強調している。

ABSTRACT

Federated learning (FL) becomes popular and has shown great potentials in training large-scale machine learning (ML) models without exposing the owners' raw data. In FL, the data owners can train ML models based on their local data and only send the model updates rather than raw data to the model owner for aggregation. To improve learning performance in terms of model accuracy and training completion time, it is essential to recruit sufficient participants. Meanwhile, the data owners are rational and may be unwilling to participate in the collaborative learning process due to the resource consumption. To address the issues, there have been various works recently proposed to motivate the data owners to contribute their resources. In this paper, we provide a comprehensive review for the economic and game theoretic approaches proposed in the literature to design various schemes for stimulating data owners to participate in FL training process. In particular, we first present the fundamentals and background of FL, economic theories commonly used in incentive mechanism design. Then, we review applications of game theory and economic approaches applied for incentive mechanisms design of FL. Finally, we highlight some open issues and future research directions concerning incentive mechanism design of FL.

研究の動機と目的

• リソースコストの高さとインセンティブの欠如によるフェデレーテッドラーニングにおける参加率の低さという課題に対処する。
• 経済的およびゲーム理論的モデルが、公平で、効率的で、プライバシーを保護するインセンティブメカニズムを設計する方法を検討する。
• 現在のアプローチにおけるギャップを特定する。具体的には、プライバシー保護の欠如、単一目的の最適化、複数のインセンティブタイプの共存の制限。
• DRL、GNNs、ブロックチェーンなどの先進技術をフェデレーテッドラーニングのインセンティブ設計に統合する方法を調査する。
• マルチインセンティブスキーム、敵対的耐性、透明な寄与評価に関する今後の研究のロードマップを提示する。

提案手法

• 経済的およびゲーム理論的フレームワークを用いて、既存のFLにおけるインセンティブメカニズムをサーベイおよび分類する。
• 参加者選定および報酬配分のためのオークションメカニズム（例：オンラインオークション）を分析する。
• 公平性を確保するためのシャープレー値に基づく寄与評価をレビューする。具体的には、効率的な推定法およびブロックチェーンで保護された計算を含む。
• 局所的微分プライバシーを用いたプライバシー保護モデルを検討し、プライバシー損失を定量化・補償する。
• FLのパフォーマンスと公平性を同時に最適化する多目的インセンティブ設計を評価する。
• DRL、GANs、マルチエージェント強化学習がインセンティブメカニズム設計に統合されつつある動向を調査する。

実験結果

リサーチクエスチョン

• RQ1 経済的およびゲーム理論的モデルを用いて、フェデレーテッドラーニングにおける公平で効率的なインセンティブメカニズムを設計する方法は何か？
• RQ2 プライバシーを保護しつつ公平性を確保する中で、参加者の寄与を評価する際の主な課題は何か？
• RQ3 複数のインセンティブスキーム（例：金銭的、非金銭的）が多様な参加者に合わせて共存し、パーソナライズ可能であるにはどうすればよいか？
• RQ4 DRL やブロックチェーンといった先進技術が、インセンティブメカニズムの透明性と効率性を向上させる役割を果たす方法は何か？
• RQ5 インセンティブ駆動型のFLシステムにおいて、敵対的行動とプライバシー漏洩をどのように軽減できるか？

主な発見

• オンラインオークションは、参加者選定および報酬配分の面で有望な解決策であり、市場ベースのリソース交換を効率的に行える。
• シャープレー値に基づく寄与評価は公平性を保証しており、フェデレーテッドシャープレー値や寄与インデックスを通じてFLに適応されているが、計算コストが課題である。
• 大規模FLにおける時間計算量を低減するため、計算および通信効率の良いシャープレー値推定法が提案されている。
• ブロックチェーンを活用したシャープレー値メカニズムは、寄与評価の透明性を向上させ、独占的行動を低減する。
• 既存のメカニズムはしばしばプライバシー保護を無視しており、入札で負けたデータ所有者が報酬なしに好みを明らかにしている。
• 現在のインセンティブスキームは一般的に単一の目的（例：パフォーマンスや公平性）を最適化しているが、参加者選定、寄与評価、公平性の統合的最適化が、包括的な改善に不可欠である。