[논문 리뷰] Bounding the Estimation Error of Sampling-based Shapley Value Approximation

Sasan Maleki, Tran-Thanh, Long외 3명|arXiv (Cornell University)|2013. 06. 18.

Game Theory and Voting Systems참고 문헌 19인용 수 64

한 줄 요약

이 논문은 표본 기반 샤플리 값 근사의 추정 오차에 대한 비점근적 경계를 제안한다. 분산 또는 마진 기여의 범위가 알려져 있을 때 체비셰프 부등식과 허프딩 부등식을 사용한다. 범위가 샤플리 값보다 크게 상대적으로 클 경우 경계를 더욱 향상시키며, 분류 샘플링을 도입하여 오차를 크게 감소시켜 유리한 조건 하에서 $O(\sqrt{r/m})$ 스케일링을 달성한다.

ABSTRACT

The Shapley value is arguably the most central normative solution concept in cooperative game theory. It specifies a unique way in which the reward from cooperation can be "fairly" divided among players. While it has a wide range of real world applications, its use is in many cases hampered by the hardness of its computation. A number of researchers have tackled this problem by (i) focusing on classes of games where the Shapley value can be computed efficiently, or (ii) proposing representation formalisms that facilitate such efficient computation, or (iii) approximating the Shapley value in certain classes of games. For the classical extit{characteristic function} representation, the only attempt to approximate the Shapley value for the general class of games is due to Castro extit{et al.} \cite{castro}. While this algorithm provides a bound on the approximation error, this bound is extit{asymptotic}, meaning that it only holds when the number of samples increases to infinity. On the other hand, when a finite number of samples is drawn, an unquantifiable error is introduced, meaning that the bound no longer holds. With this in mind, we provide non-asymptotic bounds on the estimation error for two cases: where (i) the extit{variance}, and (ii) the extit{range}, of the players' marginal contributions is known. Furthermore, for the second case, we show that when the range is significantly large relative to the Shapley value, the bound can be improved (from $O(\frac{r}{m})$ to $O(\sqrt{\frac{r}{m}})$). Finally, we propose, and demonstrate the effectiveness of using stratified sampling for improving the bounds further.

연구 동기 및 목표

• 기존의 표본 기반 샤플리 값 근사 알고리즘에서 유한 표본 오차 경계가 부족한 문제를 해결한다.
• 마진 기여의 분산 또는 범위가 알려져 있을 때 샤플리 값 추정에 대한 비점근적 오차 경계를 제공한다.
• 마진 기여의 범위가 샤플리 값보다 크게 상대적으로 클 경우 오차 경계를 향상시킨다.
• 추정 오차 경계를 더욱 날카롭게 하기 위해 분류 샘플링을 제안하고 평가한다.
• 이론적 분석과 단순 무작위 샘플링과의 비교를 통해 분류 샘플링의 효과성을 입증한다.

제안 방법

• 마진 기여의 분산이 알려져 있을 때 추정 오차를 제한하기 위해 체비셰프 부등식을 사용한다.
• 마진 기여의 범위(최대 - 최소)가 알려져 있을 때 오차를 제한하기 위해 허프딩 부등식을 적용한다.
• 범위 $r$ 가 샤플리 값보다 크게 상대적으로 클 경우 $O(\sqrt{r/m})$ 의 개선된 오차 경계를 유도한다.
• 협력군을 크기에 따라 분류로 나누고, 각 분류에 최적의 샘플을 할당함으로써 분류 샘플링을 도입한다.
• 전체 추정 오차를 최소화하기 위해 샘플을 분류에 따라 분배하는 최적화 문제를 수립하며, 이때 $m_k^* \propto (k+1)^{2/3}$ 를 따른다.
• 실용적인 알고리즘(알고리즘 2)을 구현하여 floor 및 잔여 분배 방식을 사용해 분류에 샘플을 할당하며, $m_k \geq m_k^*/2$ 를 보장한다.

실험 결과

연구 질문

• RQ1 마진 기여의 분산 또는 범위만 알려져 있을 때, 표본 기반 샤플리 값 근사에 대해 비점근적 오차 경계를 설정할 수 있는가?
• RQ2 마진 기여의 범위가 샤플리 값보다 크게 상대적으로 클 경우 추정 오차는 어떻게 스케일링되는가?
• RQ3 분류 샘플링은 단순 무작위 샘플링에 비해 샤플리 값의 추정 오차를 줄일 수 있는가?
• RQ4 전체 추정 오차를 최소화하기 위해 분류 간에 최적의 샘플 할당 전략은 무엇인가?
• RQ5 표본 효율성 측면에서, 분류 샘플링의 이론적 오차 경계는 단순 무작위 샘플링의 그것과 어떻게 비교되는가?

주요 결과

• 논문은 체비셰프 부등식과 허프딩 부등식을 사용하여, 이전의 점근적 경계와 달리 유한한 표본 수에 대해 유효한 비점근적 오차 경계를 수립한다.
• 마진 기여의 범위 $r$ 가 샤플리 값보다 크게 상대적으로 클 경우 오차 경계는 $O(r/m)$ 에서 $O(\sqrt{r/m})$ 로 향상된다.
• 유리한 조건 하에서 분류 샘플링은 총 추정 오차를 $O(\sqrt{r/m})$ 로 줄이며, 이론적 경계로는 $|\hat{\phi} - \phi| \leq \frac{d\sqrt{-\ln{\delta/2}}}{\sqrt{m}} \cdot \frac{n+1}{2}$ 를 제공한다.
• 제안된 분류 샘플링 알고리즘은 $m > \frac{(n+1)^2}{4}$ 일 때 단순 무작위 샘플링보다 더 날카운 오차 경계를 달성한다. 이는 후자의 오차가 최소 $d\sqrt{n(-\ln{\delta/2})}$ 이기 때문이다.
• 분류 간 최적의 샘플 할당은 $(k+1)^{2/3}$ 비례하며, 알고리즘이 $m_k \geq m_k^*/2$ 를 보장함으로써 이론적 보장을 유지한다.
• 이론적 분석은 분류 샘플링이 특히 많은 플레이어를 가진 큰 게임에서 표본 효율성을 크게 향상시킨다는 것을 확인한다.