[論文レビュー] Mechanisms that Incentivize Data Sharing in Federated Learning

Sai Praneeth Karimireddy, Wenshuo Guo+1 more|arXiv (Cornell University)|Jul 10, 2022

Privacy-Preserving Technologies in Data被引用数 14

ひとこと要約

本稿は、報酬の支払いなしにフェデレーテッドラーニングにおけるデータ共有を促すため、個々の貢献に基づいてモデルの精度を調整する契約理論にインspiredされたメカニズムを提案する。自由参画を排除し、既知のコストと未知のコストの両方において最適な精度調整により、均衡状態で完全な協力を達成する。

ABSTRACT

Federated learning is typically considered a beneficial technology which allows multiple agents to collaborate with each other, improve the accuracy of their models, and solve problems which are otherwise too data-intensive / expensive to be solved individually. However, under the expectation that other agents will share their data, rational agents may be tempted to engage in detrimental behavior such as free-riding where they contribute no data but still enjoy an improved model. In this work, we propose a framework to analyze the behavior of such rational data generators. We first show how a naive scheme leads to catastrophic levels of free-riding where the benefits of data sharing are completely eroded. Then, using ideas from contract theory, we introduce accuracy shaping based mechanisms to maximize the amount of data generated by each agent. These provably prevent free-riding without needing any payment mechanism.

研究の動機と目的

• フェデレーテッドラーニングにおける自由参画問題に対処すること。ここでは、合理的なエージェントが自身の貢献を抑えて他者の貢献から利益を得る。
• 金銭的移転に依存せず、合計データ生成量を最大化するメカニズムを設計すること。
• コストと精度のトレードオフを考慮したプリンシパルエージェントフレームワークを用いて、データ最大化インcentivization問題を形式化すること。
• エージェントのコストについて完全情報と部分情報の両方の下で、最適な精度調整メカニズムを導出すること。
• コストが適切なインcentiveによって共有される場合、困難な学習タスクにおいて協力的学習が経済的に実現可能になる条件を示すこと。

提案手法

• エージェントがデータ生成にコストを負担し、精度からコストを差し引いたものを最大化することを目的としたプリンシパルエージェントモデルを定式化する。
• エージェントのデータ貢献を、彼らが得るモデル精度にマッピングする精度調整メカニズムを導入し、区分線形関数を用いる。
• 変分法を用いて、既知のコスト下での高貢献・低貢献均衡のバランスを取る最適メカニズムを導出する。
• 最適メカニズムが、高コストエージェントに対して$\bar{c}$の勾配、低コストエージェントに対して$\underaccent{\bar}{c}$の勾配を持つことを確立し、インcentive互換性を保証する。
• 未知のコストの場合、真実のコストを報告するインcentiveを与える真実報酬型の精度曲線を設計し、情報リターンを受容する。
• 幾何的議論を用いて、いかなる最適メカニズムも導出された区分線形構造に従わなければならないことを証明する。

実験結果

リサーチクエスチョン

• RQ1 報酬なしでフェデレーテッドラーニングにおける自由参画をどのように排除できるか？
• RQ2 どのようなメカニズム設計原則が合理的エージェントからの最大データ貢献を保証するか？
• RQ3 エージェントのコストが既知である場合、モデル精度の調整は均衡状態でのデータ貢献にどのように影響するか？
• RQ4 コストが非公開情報である場合、真実のコスト報告をどのようにインcentivizeできるか？
• RQ5 協力的学習は、個別学習と比較して、どのような条件下で経済的に実現可能になるか？

主な発見

• 条件なしのモデル共有を伴う単純なフェデレーテッドラーニング設定では、エージェントが均衡状態でゼロのデータ貢献を行うという、深刻な自由参画が生じる。
• コストが既知の場合、最適な精度調整メカニズムにより、個人のインcentiveをシステム全体のデータ最大化と一致させ、完全なデータ貢献が達成される。
• 最適メカニズムは、高コストエージェントに対して$\bar{c}$、低コストエージェントに対して$\underaccent{\bar}{c}$の勾配を持つ区分線形精度曲線を用いる。
• コストが未知の場合、期待されるデータ貢献と情報リターンのトレードオフを提供することで、真実のコスト報告を誘発する。
• 精度曲線の微分係数が各点における限界コストと一致するとき、均衡状態でのデータ貢献が最大化され、インcentive互換性が保証される。
• このフレームワークにより、コストが適切に設計されたインcentiveによって共有される場合、困難な学習タスクにおいて協力的学習が経済的に実現可能であることが証明された。