[論文レビュー] FedToken: Tokenized Incentives for Data Contribution in Federated Learning

Shashi Raj Pandey, Lam Duc Nguyen+1 more|arXiv (Cornell University)|Sep 20, 2022

Privacy-Preserving Technologies in Data被引用数 4

ひとこと要約

FedTokenは、フェデレーテッドラーニングにおける参加者への公平な報酬を実現するブロックチェーン基盤の貢献度ベースのトークンインセンティブスキームを提案する。Shapley値の近似を用いて、データの価値に基づきクライアントに適切にトークンを配分する。固定予算内で高品質な更新を戦略的に選択することで、通信効率とモデル収束性を向上させ、FedFomoに比べ29.47%のオーバーヘッド削減を達成し、低予算条件下では最高で12.5%高いテスト精度を達成する。

ABSTRACT

Incentives that compensate for the involved costs in the decentralized training of a Federated Learning (FL) model act as a key stimulus for clients' long-term participation. However, it is challenging to convince clients for quality participation in FL due to the absence of: (i) full information on the client's data quality and properties; (ii) the value of client's data contributions; and (iii) the trusted mechanism for monetary incentive offers. This often leads to poor efficiency in training and communication. While several works focus on strategic incentive designs and client selection to overcome this problem, there is a major knowledge gap in terms of an overall design tailored to the foreseen digital economy, including Web 3.0, while simultaneously meeting the learning objectives. To address this gap, we propose a contribution-based tokenized incentive scheme, namely exttt{FedToken}, backed by blockchain technology that ensures fair allocation of tokens amongst the clients that corresponds to the valuation of their data during model training. Leveraging the engineered Shapley-based scheme, we first approximate the contribution of local models during model aggregation, then strategically schedule clients lowering the communication rounds for convergence and anchor ways to allocate \emph{affordable} tokens under a constrained monetary budget. Extensive simulations demonstrate the efficacy of our proposed method.

研究の動機と目的

• 分散型フェデレーテッドラーニング（FL）システムにおける、公平で透明性があり信頼できる参加インcentiveの欠如を解消すること。
• クライアントのローカルモデル更新がグローバルモデルパフォーマンスに与える実際の貢献度を定量化し、報酬化すること。
• 集約プロセス中に高価値のクライアントを選択することで、通信効率を向上させ、冗長なトレーニングラウンドを削減すること。
• 時間的割引とトークンベースのペナルティを用いて、フリーライダーおよび低品質な更新に対する耐性を高めること。
• Web 3.0およびブロックチェーンネイティブなFLエコシステムに統合し、スケーラブルで信頼性のないデータ貢献を可能にする。

提案手法

• 集約プロセス中に、各クライアントのローカルモデル更新がグローバルモデルパフォーマンスに与える限界寄与度を、Shapley値の近似によって推定する。
• 貢献度に基づいて報酬を配分するためのトークン配分メカニズムを設計し、固定された金銭的予算（1ラウンドあたりの予算 $|\mathcal{Q}|$）を設定する。
• 時間的割引を適用し、低品質または古くなった更新に対しては報酬を減らすことで、フリーライディングを抑制する。
• ブロックチェーン技術を用いて、すべてのトークン取引を改ざん不能に記録し、貢献と報酬の透明性と監査可能性を保証する。
• 高貢献度の更新を優先する戦略的最適化により、クライアント選択を最適化し、通信ラウンド数とオーバーヘッドを最小限に抑える。
• 2種類のインセンティブスキーム（PF：比例資金供与、EP：均等参加）をサポートし、異なる予算および予算制約下での性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 フェデレーテッドラーニングにおけるクライアント貢献は、そのモデルパフォーマンスへの実際の影響に基づき、どのように公平に定量化され、インセンティブ化できるか？
• RQ2 固定予算内に収まるように、モデル集約時に最適なクライアント選択戦略は何か？通信効率を最大化しつつ。
• RQ3 ブロックチェーン技術を活用して、分散型FLにおける報酬分配を透明かつ信頼性のない方法で実現できるか？
• RQ4 時間的割引は、低品質または遅延した更新のインセンティブをどのように低下させ、システムの耐性を高めるか？
• RQ5 提案されたトークン化インセンティブスキームは、ベースラインのFL手法に比べ、収束速度、精度、通信オーバーヘッドの観点でどのように異なるか？

主な発見

• 予算比 $|\mathcal{Q}|/|M|$ が 0.8 未満の条件下で、FedTokenは FedAvg や FedFomo に比べ、テスト精度を最大で12.5%向上させる。
• 戦略的クライアント選択のおかげで、FedFomoに比べ平均29.47%、FedAvgに比べ72.76%の通信オーバーヘッド削減を達成する。
• トークン報酬は貢献度の質と効果的に一致しており、特にPFスキーム下で高品質な更新に対して高い報酬が支払われる。
• 時間的割引 $\zeta^t = 0.7$ を用いることで、低品質または古くなった更新に対するインセンティブが顕著に低下し、システムの耐性が向上する。
• データ汚染攻撃は、トークンの支払いを停止することで検出され、高価値の貢献者に予算を確保する。
• 予算 $\mathbb{B} = 1000$ が尽きると、通信ラウンド数とテスト精度の間に線形関係が観察され、予算制約下での最適なトークン利用が示される。