[論文レビュー] A Marketplace for Data: An Algorithmic Solution

Anish Agarwal, Munther A. Dahleh+1 more|arXiv (Cornell University)|May 21, 2018

Auction Theory and Applications参考文献 41被引用数 18

ひとこと要約

本論文は、機械学習の学習データを対象としたリアルタイムでアルゴリズム的なデータ市場を提案し、データの再現性、組み合わせ的価値、検証の困難さといった課題に取り組む。Myersonの支払い関数と乗法的重みアルゴリズムを用いた真実性があり、レギュレーションに依存しないオークションメカニズムを導入するとともに、再複製可能な財を扱う協力的ゲームにおける新規な公平性の概念を提示し、効率的かつ耐障害性の高いデータ取引を可能にする。

ABSTRACT

In this work, we aim to design a data marketplace; a robust real-time matching mechanism to efficiently buy and sell training data for Machine Learning tasks. While the monetization of data and pre-trained models is an essential focus of industry today, there does not exist a market mechanism to price training data and match buyers to sellers while still addressing the associated (computational and other) complexity. The challenge in creating such a market stems from the very nature of data as an asset: (i) it is freely replicable; (ii) its value is inherently combinatorial due to correlation with signal in other data; (iii) prediction tasks and the value of accuracy vary widely; (iv) usefulness of training data is difficult to verify a priori without first applying it to a prediction task. As our main contributions we: (i) propose a mathematical model for a two-sided data market and formally define the key associated challenges; (ii) construct algorithms for such a market to function and analyze how they meet the challenges defined. We highlight two technical contributions: (i) a new notion of 'fairness' required for cooperative games with freely replicable goods; (ii) a truthful, zero regret mechanism to auction a class of combinatorial goods based on utilizing Myerson's payment function and the Multiplicative Weights algorithm. These might be of independent interest.

研究の動機と目的

• 機械学習のタスクにおける学習データの効率的で真実性があり、公平な取引を可能にするリアルタイムでアルゴリズム的なデータマーケットプレイスを設計すること。
• データがデジタル資産として持つ独自の課題に取り組むこと：自由な再複製、組み合わせ的価値、事前の評価の欠如、事前検証の困難さ。
• 買い手、売り手、中央マーケットプレイスの三者からなる二面的市場モデルを形式化し、現実世界の機械学習応用におけるデータ取引のダイナミクスを捉えること。
• 真実の入札、収益最大化、特にデータ相関や複製が存在する状況下でも、売り手間での収益配分の公平性を保証するメカニズムを開発すること。
• 効率性、真実性、複製に対する耐性について理論的保証を提供するとともに、実用的なスケーラビリティを考慮した設計を行うこと。

提案手法

• 買い手（機械学習の実務者）、売り手（データ提供者）、中央マーケットプレイスを明確に定義した二面的データ市場の数学的モデルを提案する。
• 自由に再複製可能な財を含む協力的ゲームにおける新規な公平性の概念を導入し、データの重複にもかかわらず、公正な収益分配を保証する。
• Myersonの支払い関数と乗法的重みアルゴリズムを用いて、組み合わせ的データバンドルに対する真実性があり、レギュレーションに依存しないオークションメカニズムを設計する。
• 類似度メトリクス（SM）を用いて相関する特徴を検出し、重複または高相関なデータに対してペナルティ関数を適用して低減する。これにより、独自で高価値な貢献を促進する。
• マージナル寄与度と特徴類似度に基づいた収益分配アルゴリズム（例：AF*、RF*、PF*）を開発し、計算複雑度はO(M)またはO(M²)である。
• 与えられた類似度メトリクスのもとで、ペナルティ関数が複製に対して耐性を持つための必要十分条件を確立し、市場の安定性を保証する。

実験結果

リサーチクエスチョン

• RQ1 データがデジタル的で再複製可能かつ組み合わせ的特性を持つという特徴を考慮した場合、リアルタイムのデータマーケットプレイスは、買い手と売り手をどのように公平かつ効率的にマッチングできるか？
• RQ2 データの価値が予測タスクへの適用後にのみ明らかになる状況において、買い手の真実の入札を保証するメカニズムは何か？
• RQ3 特徴が相関しており、データが自由に再複製可能な状況下で、収益をどのように公平に分配できるか？
• RQ4 同一または高類似度のデータが複製された場合に、収益分配メカニズムが依然として安定性を保つための条件は何か？
• RQ5 スケーラブルなアルゴリズムを用いて、組み合わせ的データバンドルに対する真実性があり、レギュレーションに依存しないオークションメカニズムを構築できるか？

主な発見

• Myersonの支払い関数と乗法的重みアルゴリズムを活用することで、本メカニズムは買い手に対して真実の入札とゼロレギュレーションを保証し、組み合わせ的オークションにおける効率的なオンライン学習を可能にする。
• 提示された公平性の概念は、自由に再複製可能な財を扱う協力的ゲームに特化しており、データ市場における公正な収益分配の基盤を提供する。
• アルゴリズムフレームワークは、割り当てに関してO(M)、収益分配に関してO(M²)の計算複雑度を達成し、中程度の特徴数のセットにおいてリアルタイムでの実装が可能である。
• ペナルティ関数が複製に対して耐性を持つための必要十分条件を導出しており、売り手がデータを複製しても収益分配が安定したまま保たれることを保証する。
• 命題5.1では、匿名化された売り手のアイデンティティでは、バランス性と公平性の両条件を同時に満たすことが不可能であることが示されており、重要な設計上のトレードオフを浮き彫りにしている。
• 相関する特徴を低減し、独自で予測能の高い貢献を促進することで、本フレームワークは効率的でスケーラブルかつ公平なデータ取引を実現する。