[論文レビュー] Estimation of Individual Device Contributions for Incentivizing Federated Learning

Takayuki Nishio, Ryoichi Shinkuma+1 more|arXiv (Cornell University)|Sep 20, 2020

Privacy-Preserving Technologies in Data参考文献 22被引用数 4

ひとこと要約

本稿では、1回のフェデレーテッドラーニング（FL）トレーニングラウンド中に得られるモデルの改善指標を活用することで、計算コストおよび通信コストを抑えた個々のデバイスの寄与度推定手法を提案する。ナイーブな手法と比較して、計算オーバーヘッドは46–49%削減され、通信オーバーヘッドはゼロとなり、MNISTデータセットにおいても高い推定精度を維持する。

ABSTRACT

Federated learning (FL) is an emerging technique used to train a machine-learning model collaboratively using the data and computation resource of the mobile devices without exposing privacy-sensitive user data. Appropriate incentive mechanisms that motivate the data and mobile-device owner to participate in FL is key to building a sustainable platform for FL. However, it is difficult to evaluate the contribution level of the devices/owners to determine appropriate rewards without large computation and communication overhead. This paper proposes a computation-and communication-efficient method of estimating a participating device's contribution level. The proposed method enables such estimation during a single FL training process, there by reducing the need for traffic and computation overhead. The performance evaluations using the MNIST dataset show that the proposed method estimates individual participants' contributions accurately with 46-49% less computation overhead and no communication overhead than a naive estimation method.

研究の動機と目的

• モバイルデバイス所有者にフェデレーテッドラーニングへの参加をインcentivize（インcentivize）する課題に対処し、彼らの寄与度に応じて公正に報酬を支給すること。
• 高い計算コストや通信コストを伴わずに、個々のデバイスの寄与度を正確に推定すること。
• 1回のFLトレーニングプロセス内で寄与度推定を可能にし、各クライアントを除外した上で繰り返しフルトレーニングを行う必要を回避すること。
• クライアント間でデータが不均衡で非i.i.d.（独立同分布でない）な分布を示しても、推定精度を維持すること。
• 持続可能なFLプラットフォームに適したスケーラブルで実用的なインcentivize（インcentivize）メカニズムを提供すること。

提案手法

• 本手法は、各クライアントの更新がグローバルモデルに集約された直後におけるグローバルモデル精度の変化に基づく段階的改善指標を用いて寄与度を推定する。
• 各クライアントのモデル更新がグローバルモデルに追加された際のモデル性能向上のマージナルゲインを測定することで、寄与度スコアを算出する。
• 推定処理は1回のFLトレーニングプロセス内で実行され、各クライアントを除外した上でモデルを再トレーニングする必要がなくなる。
• 計算コストを低減するために、勾配に基づく寄与度推定によるシャープリー値の微分可能近似を用いる。
• 標準的なFLトレーニングに追加でモデルのやり取りを必要としないため、通信オーバーヘッドを回避する。
• 本手法は軽量に設計されており、標準的なFLと比較して追加計算時間は極めて小さく（数ミリ秒未満）、ほとんど無視できる。

実験結果

リサーチクエスチョン

• RQ1 フェデレーテッドラーニングにおける個々のデバイスの寄与度を、最小限の計算コストおよび通信コストでどのように推定できるか？
• RQ2 1回のパスでFLトレーニングを実行するプロセスが、クライアントの削除後に再トレーニングを必要とせずに正確な寄与度推定を可能にするか？
• RQ3 繰り返しフルFLトレーニングを必要とするナチュラルベースライン手法と比較して、提案手法は精度および効率性においてどのように差を示すか？
• RQ4 データの多様性およびクラスの不均衡が寄与度推定に与える影響は何か？また、本手法はこうした状況をどのように処理するか？
• RQ5 クライアントが少量または重複するデータを提供する場合でも、本手法は高い精度を維持できるか？

主な発見

• 提案手法は、各クライアントの削除に伴うフル再トレーニングを要するナチュラルな手法と比較して、計算オーバーヘッドを46–49%削減した。
• 本手法は追加の通信オーバーヘッドを発生させず、複数回のフルFLトレーニングサイクルを要するベースライン手法とは対照的である。
• MNISTデータセットにおいて、本手法は真値を求めるナチュラルな手法とほぼ一致する寄与度スコア推定値を達成し、クライアントのデータサイズが大きい場合の平均誤差は1.80であった。
• クライアントのデータが少ない場合（例：50サンプル）、本手法は一部のヒューリスティクスよりも高い誤差（3.57）を示したが、これは小規模で多様なデータ貢献に起因する不安定性によるものとされた。
• 本手法は、ユニークなデータ（例：数字7–9）を提供するクライアントに高いスコアを割り当て、重複するデータを提供するクライアントに低いスコアを割り当てるなど、データの一意性に敏感であることが示された。
• 本手法は標準的なFLとほぼ同一の計算時間で実行され、寄与度追跡に起因するわずかな増加のみを示しており、その効率性が確認された。