[論文レビュー] Incentive Mechanism Design for Joint Resource Allocation in Blockchain-based Federated Learning

Zhilin Wang, Qin Hu+3 more|arXiv (Cornell University)|Feb 18, 2022

Privacy-Preserving Technologies in Data被引用数 5

ひとこと要約

本稿では、ブロックチェーンベースのフェデレーテッドラーニング（BCFL）における共同リソース割り当てのインcentiveメカニズムを提案する。クライアントは共有デバイスを用いて同時にモデル学習とブロックマイニングを実行する。不完全情報下での訓練およびマイニングリソース割り当てを最適化するため、シャープレイ値に基づく報酬を用いた2段階のスタックルベルクゲームを採用し、公平でユーティリティ最大化戦略により、モデル性能の向上とクライアント参加の促進を実現する。

ABSTRACT

Blockchain-based federated learning (BCFL) has recently gained tremendous attention because of its advantages such as decentralization and privacy protection of raw data. However, there has been few research focusing on the allocation of resources for clients in BCFL. In the BCFL framework where the FL clients and the blockchain miners are the same devices, clients broadcast the trained model updates to the blockchain network and then perform mining to generate new blocks. Since each client has a limited amount of computing resources, the problem of allocating computing resources into training and mining needs to be carefully addressed. In this paper, we design an incentive mechanism to assign each client appropriate rewards for training and mining, and then the client will determine the amount of computing power to allocate for each subtask based on these rewards using the two-stage Stackelberg game. After analyzing the utilities of the model owner (MO) (i.e., the BCFL task publisher) and clients, we transform the game model into two optimization problems, which are sequentially solved to derive the optimal strategies for both the MO and clients. Further, considering the fact that local training related information of each client may not be known by others, we extend the game model with analytical solutions to the incomplete information scenario. Extensive experimental results demonstrate the validity of our proposed schemes.

研究の動機と目的

• 共有デバイス上でクライアントが同時にモデル学習とブロックチェーンマイニングを実行するBCFLにおけるリソース割り当ての課題に対処すること。
• クライアントのモデル学習およびマイニングへの貢献に基づいて公平に報酬を支給するインcentiveメカニズムを設計すること。
• クライアントのローカルデータおよび計算能力がシステムに不明である不完全情報下でも、最適なリソース割り当てを可能にすること。
• 段階的2段階スタックルベルクゲームフレームワークを用いて、モデル所有者およびクライアントの両方のユーティリティを最大化すること。
• クライアントのインcentiveをシステム全体のパフォーマンス目標と一致させることで、BCFLの持続的で効率的な運用を実現すること。

提案手法

• モデル所有者（リーダー）が報酬を設定し、クライアント（フォロワー）がこれらのインcentiveに基づいてリソース割り当てを決定する2段階のスタックルベルクゲームを定式化する。
• 各クライアントのモデル学習への貢献を公平に評価するためにシャープレイ値を適用し、報酬分配および制約設計に活用する。
• ゲームを2段階の逐次最適化問題に変換する：1つはモデル所有者の報酬設計、もう1つはクライアントのリソース割り当て意思決定。
• ラグランジュ緩和法およびKKT条件を用いて、完全情報および不完全情報の両状況下での最適化問題を解く。
• 不完全情報モデルにおいて、クライアント1人あたりの総リソース使用量を制限する修正された制約を導入し、実行可能性および公平性を確保する。
• 完全情報および不完全情報の両状況下で、最適な訓練およびマイニングパワー割り当ての解析的解を導出。実験により妥当性を検証。

実験結果

リサーチクエスチョン

• RQ1 BCFLにおいて、共有クライアントデバイス上で計算リソースをモデル学習とブロックチェーンマイニングの両方に共同で割り当てる方法は何か？
• RQ2 分散型BCFLシステムにおいて、クライアントの貢献に基づいて公平かつ効率的に報酬を分配するメカニズムは何か？
• RQ3 システムがクライアントのローカルデータおよび計算能力について完全な情報を欠いている場合、最適なリソース割り当てをどのように達成できるか？
• RQ4 不完全情報がBCFLにおけるインcentiveメカニズムの安定性およびパフォーマンスに与える影響は何か？
• RQ5 提案された2段階スタックルベルクゲームフレームワークは、ベースライン手法と比較して、システムユーティリティおよびクライアント参加をどのように向上させるか？

主な発見

• 提案されたインcentiveメカニズムは、モデル所有者とクライアントの相互作用を2段階スタックルベルクゲームとしてモデル化することで、最適なリソース割り当てを達成する。
• KKT条件を用いて、完全情報および不完全情報の両状況下で、最適な訓練およびマイニングパワー割り当ての解析的解を導出する。
• シャープレイ値に基づく報酬メカニズムにより、貢献の公平な評価が可能となり、これがクライアントの最適化問題における制約に直接影響を与える。
• 現実的な制約下でのユーティリティ最大化を通じて、システムパフォーマンスおよびクライアント参加の両方が向上することが示された。
• 広範な実験により、提案手法がモデル精度の向上およびシステムの持続可能性を高めることの有効性が検証された。
• 不完全情報下の解は、リソース使用量の上限制約を組み込むことで、実行可能性および公平性を確保しつつも、高い性能を維持している。