[論文レビュー] Incentivizing Collaboration in Machine Learning via Synthetic Data Rewards

Sebastian Shenghong Tay, Xinyi Xu+2 more|arXiv (Cornell University)|Dec 17, 2021

Privacy-Preserving Technologies in Data被引用数 8

ひとこと要約

本稿は、最大平均差分（MMD）に基づくデータ評価関数と線形最適化に基づく報酬配分方式を用いて、合成データを報酬として分配することで、自己利益志向の参加者に対してデータ寄与を促す共同生成モデリング（CGM）フレームワークを提案する。この手法は、各参加者の寄与に比例して合成データを生成することにより、公平性とタスクに依存しない有用性を確保し、MNIST、CIFAR-10、医療画像データセットにおいて実証的に検証された。報酬の整合性は一貫している。

ABSTRACT

This paper presents a novel collaborative generative modeling (CGM) framework that incentivizes collaboration among self-interested parties to contribute data to a pool for training a generative model (e.g., GAN), from which synthetic data are drawn and distributed to the parties as rewards commensurate to their contributions. Distributing synthetic data as rewards (instead of trained models or money) offers task- and model-agnostic benefits for downstream learning tasks and is less likely to violate data privacy regulation. To realize the framework, we firstly propose a data valuation function using maximum mean discrepancy (MMD) that values data based on its quantity and quality in terms of its closeness to the true data distribution and provide theoretical results guiding the kernel choice in our MMD-based data valuation function. Then, we formulate the reward scheme as a linear optimization problem that when solved, guarantees certain incentives such as fairness in the CGM framework. We devise a weighted sampling algorithm for generating synthetic data to be distributed to each party as reward such that the value of its data and the synthetic data combined matches its assigned reward value by the reward scheme. We empirically show using simulated and real-world datasets that the parties' synthetic data rewards are commensurate to their contributions.

研究の動機と目的

• 自己利益志向の参加者に対して、データプライバシーを保ちながら共同機械学習におけるデータ寄与を促す課題に対処すること。
• 報酬として配布される訓練済みモデルの限界、例えばタスク依存性やモデルアーキテクチャ選択の柔軟性の欠如を克服すること。
• 将来の適合性と実験の可能性を高めるために、タスクおよびモデルに依存しない報酬メカニズムを開発すること。
• 理論的に根拠のあるデータ評価関数を用いてデータ寄与を定量化することで、報酬の公平性を確保すること。
• 各参加者の寄与に基づいて割り当てられた価値に一致するように、合成データ報酬を生成する重み付きサンプリングアルゴリズムを設計すること。

提案手法

• 真のデータ分布への近さを測定することで、データの質と量を評価するMMDに基づくデータ評価関数を提案し、カーネル選択に関する理論的指針を提供する。
• CGMフレームワークにおける公平性とインcentive互換性を保証するために、報酬配分を線形最適化問題として定式化する。
• 各参加者に割り当てられた価値に一致するように、合成データ報酬を生成する重み付きサンプリングアルゴリズムを導入する。
• 逆温度ハイパーパrameter β を用いて、合成サンプルの数と元のデータからの相違度のトレードオフを制御する。
• UMAPを用いて合成データの分布を可視化し、寄与度が高い参加者に、より多くかつより相違度の高い合成データが割り当てられていることを検証する。
• MNIST、CIFAR-10、医療画像データセットを含む実世界のデータセットに、GANを用いて合成データを生成することでフレームワークを適用する。

実験結果

リサーチクエスチョン

• RQ1 合成データは、共同機械学習におけるデータ共有を促す公平かつプライバシー保護型の報酬メカニズムとして利用可能か？
• RQ2 真のラベルが存在しない状況においても、量と質の両方を反映する形で、データ寄与を定量的に測定する方法は何か？
• RQ3 線形最適化フレームワークは、複数参加者環境において、寄与度に比例して報酬が公平に配分されるのを保証できるか？
• RQ4 逆温度パrameter β は、合成サンプルの数と元のデータからの多様性のトレードオフをどの程度制御できるか？
• RQ5 提案されたフレームワークは、異なるデータ分割と分布タイプ（等分 vs. 不等分）においても報酬の整合性を維持するか？

主な発見

• MMDに基づく評価関数を用いた複数のデータセットおよび分割における検証により、合成データ報酬が参加者の寄与に一貫して比例していることが確認された。
• 寄与度が高い参加者（αi）はより多くの合成データポイントを受領しており、寄与度と報酬サイズの正の相関関係が示された。
• β が増加するにつれて、各参加者あたりの合成サンプル数は減少したが、元のデータからの相違度は上昇したため、β によるトレードオフ制御が確認された。
• 等分割り当てのMNISTデータセットでは、報酬値 r_i は 0.199、0.206、0.269、0.255、0.276 であり、期待される寄与度ベースの分布と密接に一致していた。
• 不等分割り当てのCIFAR-10データセットでは、報酬値 r_i は 0.133、0.129、0.0436、0.0715、0.0307 であり、寄与の格差を正確に反映していた。
• UMAPを用いた可視化により、合成データポイントが寄与度とβ設定に一致するように分布しており、より不透明（早期にサンプリングされた）赤いドットは、より高い報酬を受け取った参加者を示していることが確認された。