[論文レビュー] Online Auction-Based Incentive Mechanism Design for Horizontal Federated Learning with Budget Constraint

Jingwen Zhang, Yuezhou Wu+1 more|arXiv (Cornell University)|Jan 22, 2022

Privacy-Preserving Technologies in Data被引用数 9

ひとこと要約

本稿では、固定予算のもとで、リアルタイムに到着するワーカーをレピュテーションと入札価格を用いて選別することで、高品質なモデル学習を実現する、オンライン逆オークションベースのインcentiveメカニズムを提案する。このメカニズムは、時間的・コスト的真実性を達成するとともに、高いモデル精度を維持し、実験的評価においてベースラインのオンラインおよびオフライン手法を上回る性能を示す。

ABSTRACT

Federated learning makes it possible for all parties with data isolation to train the model collaboratively and efficiently while satisfying privacy protection. To obtain a high-quality model, an incentive mechanism is necessary to motivate more high-quality workers with data and computing power. The existing incentive mechanisms are applied in offline scenarios, where the task publisher collects all bids and selects workers before the task. However, it is practical that different workers arrive online in different orders before or during the task. Therefore, we propose a reverse auction-based online incentive mechanism for horizontal federated learning with budget constraint. Workers submit bids when they arrive online. The task publisher with a limited budget leverages the information of the arrived workers to decide on whether to select the new worker. Theoretical analysis proves that our mechanism satisfies budget feasibility, computational efficiency, individual rationality, consumer sovereignty, time truthfulness, and cost truthfulness with a sufficient budget. The experimental results show that our online mechanism is efficient and can obtain high-quality models.

研究の動機と目的

• ワーカーのオフライン選別を仮定する既存のフェデレーテッドラーニングインcentiveメカニズムには、順次到着するワーカーに対して現実的でないというギャップがあることに対処する。
• 固定予算を尊重しながら、到着するたびに高品質なワーカーを動的に選別できるオンラインインcentiveメカニズムを設計する。
• データ品質と信頼性の代理指標としてのワーカーのレピュテーションを選別プロセスに組み込む。
• オンライン到着条件下でも、予算の実行可能性、個人的合理性、真実性といった重要な経済的性質を満たす。
• モデル精度、ユーティリティ、効率性の観点から、オフラインおよびオンラインベースラインと比較してメカニズムのパフォーマンスを評価する。

提案手法

• FLタスクは複数のグローバルイテレーションに分割され、ワーカーは異なる時刻に到着し、各イテレーションあたりのコストを示す封印された入札を提出する。
• 最初の時刻では、パブリッシャーがオフライン比例配分メカニズムを用いて、入札とレピュテーションに基づいてワーカーを選別する。
• 以降の時刻では、到着したワーカーが2つのグループに分けられ、相互サンプリングを用いて支払い密度しきい値を推定する。
• 他のグループから導出された支払い密度しきい値を下回る単位レピュテーション入札価格（入札／レピュテーション）を持つワーカーが選別される。
• メカニズムは、到着時刻の真実報告を促すことで時間的真実性を達成し、しきい値に基づく選別によってコストの真実性を保証する。
• 理論的分析により、十分な予算のもとで、予算の実行可能性、計算効率性、個人的合理性、消費者主権、時間的真実性、コストの真実性を満たすことが証明されている。

実験結果

リサーチクエスチョン

• RQ1 固定予算を尊重しながら、順次到着するワーカーを動的に選別できる、水平フェデレーテッドラーニング向けのオンライン逆オークションメカニズムを設計できるか？
• RQ2 直接的なデータ共有が不可能な状況下で、どのようにしてワーカーのレピュテーションを用いてデータ品質と信頼性を効果的に推定できるか？
• RQ3 提案されたメカニズムは、ワーカーが真実の到着時刻とコストを報告するようインcentivizeするのか、すなわち真実性を確保できるか？
• RQ4 モデル精度とパブリッシャーのユーティリティの観点から、オンラインメカニズムはオフラインベンチマークと比較してどのように性能を発揮するか？
• RQ5 予算の規模とワーカー数の変動が、高品質なワーカーの選別能力およびモデル品質の維持に与える影響は何か？

主な発見

• 提案されたオンラインメカニズムは、コストの真実性と時間的真実性を達成しており、ワーカーが真実のコストと到着時刻を報告するようインcentivizeする。
• メカニズムは高いモデル精度を維持しており、MNISTではグローバルモデル損失が0.4393、Fashion MNISTでは1.1162であり、オフライン最適ベンチマーク（0.4389および1.1376）に非常に近い。
• データ正確度が1.0（完全正確）の選別ワーカーの割合は、MNISTおよびFashion MNISTの両方で100％を維持しており、高品質な参加者の有効な選別が行われていることを示している。
• パブリッシャーの単位支払いあたりのユーティリティは、バニラFLおよびバイドグリーディベースラインを大幅に上回り、オフラインRRAFLおよび比例配分メカニズムと同等の水準に達している。
• ワーカー数や予算レベルの変動に対しても、メカニズムは頑健に機能しており、オンライン条件下でもモデル品質の低下が最小限に抑えられている。
• 実験結果により、メカニズムがリアルタイムかつ動的ワーカー選別において、予算制約、真実性、モデルパフォーマンスのバランスを効果的に果たしていることが確認された。