[論文レビュー] Bounding the Estimation Error of Sampling-based Shapley Value Approximation

Sasan Maleki, Tran-Thanh, Long+3 more|arXiv (Cornell University)|Jun 18, 2013

Game Theory and Voting Systems参考文献 19被引用数 64

ひとこと要約

本稿は、分散または限界寄与の範囲が既知である場合に、サンプリングに基づくシャープレイ値近似の推定誤差に対する非漸近的バウンドを提示する。チェビシェフの不等式とホーフィングの不等式を用いる。範囲がシャープレイ値に対して著しく大きい場合には、バウンドをさらに改善し、層別抽出を導入することで誤差を顕著に低減し、有利な条件下では$O(\sqrt{r/m})$のスケーリングを達成する。

ABSTRACT

The Shapley value is arguably the most central normative solution concept in cooperative game theory. It specifies a unique way in which the reward from cooperation can be "fairly" divided among players. While it has a wide range of real world applications, its use is in many cases hampered by the hardness of its computation. A number of researchers have tackled this problem by (i) focusing on classes of games where the Shapley value can be computed efficiently, or (ii) proposing representation formalisms that facilitate such efficient computation, or (iii) approximating the Shapley value in certain classes of games. For the classical extit{characteristic function} representation, the only attempt to approximate the Shapley value for the general class of games is due to Castro extit{et al.} \cite{castro}. While this algorithm provides a bound on the approximation error, this bound is extit{asymptotic}, meaning that it only holds when the number of samples increases to infinity. On the other hand, when a finite number of samples is drawn, an unquantifiable error is introduced, meaning that the bound no longer holds. With this in mind, we provide non-asymptotic bounds on the estimation error for two cases: where (i) the extit{variance}, and (ii) the extit{range}, of the players' marginal contributions is known. Furthermore, for the second case, we show that when the range is significantly large relative to the Shapley value, the bound can be improved (from $O(\frac{r}{m})$ to $O(\sqrt{\frac{r}{m}})$). Finally, we propose, and demonstrate the effectiveness of using stratified sampling for improving the bounds further.

研究の動機と目的

• 既存のサンプリングベースのシャープレイ値近似アルゴリズムにおける有限標本誤差バウンドの欠如に対処する。
• 限界寄与の分散または範囲が既知である場合のシャープレイ値推定に対する非漸近的誤差バウンドを提供する。
• 限界寄与の範囲がシャープレイ値に対して著しく大きい場合の誤差バウンドを改善する。
• 層別抽出を提案し、推定誤差バウンドをさらにタイトにする。
• 理論的分析と単純な無作為抽出との比較を通じて、層別抽出の有効性を実証する。

提案手法

• 限界寄与の分散が既知である場合に、推定誤差をバウンドするためにチェビシェフの不等式を用いる。
• 限界寄与の範囲（最大値 - 最小値）が既知である場合に、誤差をバウンドするためにホーフィングの不等式を適用する。
• 範囲$r$がシャープレイ値に対して著しく大きい場合には、$O(\sqrt{r/m})$の改善された誤差バウンドを導出する。
• 協力の大きさに基づいて協力集合を層に分割し、最適にサンプルを各層に割り当てる層別抽出を導入する。
• 全推定誤差を最小化するために、$m_k^* \propto (k+1)^{2/3}$に従ってサンプルを各層に分配する最適化問題を定式化する。
• 実用的なアルゴリズム（アルゴリズム2）を実装し、床関数と残差分配を用いて層にサンプルを割り当て、$m_k \geq m_k^*/2$を保証する。

実験結果

リサーチクエスチョン

• RQ1 分散または範囲が既知である場合に、サンプリングベースのシャープレイ値近似に対して非漸近的誤差バウンドを確立できるか？
• RQ2 限界寄与の範囲がシャープレイ値に対して著しく大きい場合、推定誤差はどのようにスケーリングされるか？
• RQ3 層別抽出は、単純な無作為抽出と比較してシャープレイ値の推定誤差を低減できるか？
• RQ4 層別抽出において、全推定誤差を最小化するための最適なサンプル割り当て戦略は何か？
• RQ5 サンプル効率の観点から、層別抽出の理論的誤差バウンドは単純な無作為抽出のものと比較してどのように異なるか？

主な発見

• 本稿は、チェビシェフの不等式とホーフィングの不等式を用いて、有限標本数に対して有効な非漸近的誤差バウンドを確立する。これは、従来の漸近的バウンドとは異なり、任意の有限の標本数に対して有効である。
• 限界寄与の範囲$r$がシャープレイ値に対して著しく大きい場合には、誤差バウンドが$O(r/m)$から$O(\sqrt{r/m})$に改善される。
• 有利な条件下では、層別抽出により全推定誤差が$O(\sqrt{r/m})$に低減され、理論的バウンドとして$|\hat{\phi} - \phi| \leq \frac{d\sqrt{-\ln{\delta/2}}}{\sqrt{m}} \cdot \frac{n+1}{2}$が得られる。
• $m > \frac{(n+1)^2}{4}$のとき、提案された層別抽出アルゴリズムは単純な無作為抽出よりもタイトな誤差バウンドを達成する。後者の誤差は少なくとも$d\sqrt{n(-\ln{\delta/2})}$に達する。
• 最適な層間サンプル割り当ては$(k+1)^{2/3}$に比例し、アルゴリズムは$m_k \geq m_k^*/2$を保証することで理論的保証を維持する。
• 理論的分析により、層別抽出が特に多くのプレイヤーを含む大規模なゲームにおいて、サンプル効率を顕著に向上させることを確認した。