[論文レビュー] IP-FL: Incentivized and Personalized Federated Learning

Ahmad Khan, Xinran Wang+8 more|arXiv (Cornell University)|Apr 15, 2023

Privacy-Preserving Technologies in Data被引用数 5

ひとこと要約

PI-FL は、1回のスナップショットによるティアベースのパーソナライゼーションとトークンベースのインcentiveメカニズムを統合することで、モデル品質を向上させつつクライアントの自律性とプライバシーを保持する、革新的なフェデレーテッドラーニングフレームワークを提案する。データ分布に応じてクライアントが希望するティアに参加するための入札を可能にするとともに、Shapley値に基づくユーティリティを用いて貢献度の高いクライアントに報酬を支払うことで、特にデータの非独立同分布（non-IID）な状況下でも、最先端のパーソナライズドモデル精度を達成する。

ABSTRACT

Existing incentive solutions for traditional Federated Learning (FL) focus on individual contributions to a single global objective, neglecting the nuances of clustered personalization with multiple cluster-level models and the non-monetary incentives such as personalized model appeal for clients. In this paper, we first propose to treat incentivization and personalization as interrelated challenges and solve them with an incentive mechanism that fosters personalized learning. Additionally, current methods depend on an aggregator for client clustering, which is limited by a lack of access to clients' confidential information due to privacy constraints, leading to inaccurate clustering. To overcome this, we propose direct client involvement, allowing clients to indicate their cluster membership preferences based on data distribution and incentive-driven feedback. Our approach enhances the personalized model appeal for self-aware clients with high-quality data leading to their active and consistent participation. Our evaluation demonstrates significant improvements in test accuracy (8-45%), personalized model appeal (3-38%), and participation rates (31-100%) over existing FL models, including those addressing data heterogeneity and personalization.

研究の動機と目的

• クライアントが自らのデータ分布と目的に応じてモデルをパーソナライズできる仕組みを提供することで、フェデレーテッドラーニングにおけるデータの非同一性の課題に対処する。
• アグリゲーターにプライベートデータを露呈せずに、クライアントが参加するティアを自ら選択できる仕組みを提供することで、クライアントの自律性とプライバシーを維持する。
• 従来のFLシステムにおけるクライアントのインセンティブ欠如の問題を解決するため、貢献度に応じた報酬を提供するトークンベースの報酬メカニズムを導入する。
• パーソナライゼーションとインセンティブ化を統合したフレームワークを構築し、インcentiveが高品質な参加とモデルパーソナライゼーションを直接促進するようにする。
• クライアントごとの計算コストを最小限に抑えつつ、プライベートまたは新規に到着したデータに対しても、1回のスナップショットで効率的なパーソナライズドモデル生成を可能にする。

提案手法

• クライアントをデータ分布の類似性に基づいてグループ化し、そのグループの代表としてティアレベルのモデル（クラスタ中心）を訓練する。各クライアントは、ローカルデータに基づいて各ティアの重要度重みを推定する。
• クライアントが自らのデータ分布と個人的な目的に応じて、特定のティアへの参加を希望する入札を提出できるようにし、クライアントの自律性を保証する。
• アグリゲーターに統合されたスケジューラーが、クライアントの入札と歴史的パフォーマンスに基づいてティアを形成し、クライアントのデータ分布と整合させる。
• ティアレベルのモデルを用いて1回のスナップショットによるパーソナライゼーションを実行し、再訓練コストを最小限に抑えてクライアントごとのパーソナライズドモデルを生成する。
• クライアントが貢献の提供者（報酬トークンの獲得）および消費者（モデルへのアクセスにトークンを消費）として機能するトークンベースのインセンティブスキームを導入し、マージナルユーティリティをShapley値に基づいて計算して貢献に応じた報酬を提供する。
• 各クライアントがティアレベルモデルに与える貢献度に基づいて、各ティアのインセンティブを計算し、クライアントが自身のデータ分布に合ったティアに参加することで利益を最大化するよう促進する。

実験結果

リサーチクエスチョン

• RQ1 非独立同分布（non-IID）データ下において、パーソナライズドフェデレーテッドラーニングにおけるクライアントの自律性をどのように維持しつつ、効果的なモデルパーソナライゼーションを実現できるか？
• RQ2 トークンベースのインセンティブメカニズムは、非IIDデータ下での参加意欲とモデル品質をどの程度向上させるか？
• RQ3 ティアレベルモデルを用いた1回のスナップショットによるパーソナライゼーションは、従来の最先端のパーソナライズドFL手法に比べ、精度と効率性の面で優れているか？
• RQ4 インセンティブとパーソナライゼーションの統合は、ティアレベルモデルおよびクライアント固有のモデル品質にどのように影響を与えるか？
• RQ5 インセンティブの整合性が、クライアントの行動（特にティア選択や貢献度の質）に与える影響は何か？

主な発見

• 10:90のデータパーティショニング下で、c1ティアレベルモデルのテスト精度は67.4%に達し、同様の分布で49.62%にとどまるFedSoftを著しく上回る。
• CIFAR-10におけるアブレーションスタディにおいて、インセンティブ付きのPI-FL（PI-FL(I)）は10:90パーティショニングで64.54%のパーソナライズドモデル精度を達成したが、インセンティブを無効化したPI-FL(NI)では57.42%にとどまった。
• パーソナライズドモデル精度の累積分布関数（CDF）は、30:70を除くすべてのパーティショニングで、インセンティブ付きバージョンが非インセンティブ版を一貫して上回ることを示している。
• PI-FL(I)はすべてのパーティショニングでそのターゲット分布を上回り、特に訓練データと一致する分布（例：線形パーティショニングにおけるθ₀でc0が61.66%）でピーク精度を記録している。
• インセンティブメカニズムにより、クライアントが最適なティアに参加する行動が促進され、その結果、モデル品質が向上していることが示されており、関連するティアに参加するようインcentivizedされた場合に高い精度が得られている。
• EMNISTデータセットにおいて、PI-FLは10:90および線形パーティショニングのような極めて非均質な状況下で、アグリゲーター主導の手法であるDittoを著しく上回っている。これは、クライアント主導のパーソナライゼーションの優位性を示している。