[論文レビュー] The Shapley Value in Machine Learning

Benedek Rózemberczki, Lauren Watson+5 more|arXiv (Cornell University)|Feb 11, 2022

Auction Theory and Applications被引用数 16

ひとこと要約

本調査は、機械学習におけるシャープレー値について包括的な概要を提供し、協力ゲーム理論におけるその理論的基盤と、特徴選択、モデルの説明可能性、データ評価、マルチエージェント強化学習、アンサンブルの刈り込みにおける実用的応用を説明する。スケーラブルな計算のための主要な近似手法を強調するとともに、解釈可能性の問題や、近似手法による公理的性質の崩壊といった重要な限界を指摘し、階層的および重複するコалиション構造、およびシャープレー値を超える代替解法概念への今後の研究方向性を提案する。

ABSTRACT

Over the last few years, the Shapley value, a solution concept from cooperative game theory, has found numerous applications in machine learning. In this paper, we first discuss fundamental concepts of cooperative game theory and axiomatic properties of the Shapley value. Then we give an overview of the most important applications of the Shapley value in machine learning: feature selection, explainability, multi-agent reinforcement learning, ensemble pruning, and data valuation. We examine the most crucial limitations of the Shapley value and point out directions for future research.

研究の動機と目的

• 協力ゲーム理論におけるシャープレー値を解釈するための統一的理論的枠組みを提供し、機械学習におけるその関連性を明らかにすること。
• 特徴選択、モデルの説明可能性、データ評価、マルチエージェント強化学習を含む主要な機械学習分野におけるシャープレー値の応用を検討すること。
• 実際の応用におけるシャープレー値の核心的限界、特に計算の非効率性と解釈可能性の課題を特定・分析すること。
• シャープレー値の公理的性質が一般的な近似手法では保たれないという重要な問題を強調し、理論的根拠の損なわれることの影響を明らかにすること。
• 階層的および重複するコロニーシュチェア構造、および協力ゲーム理論におけるシャープレー値を超える代替解法概念の探索を含む、今後の研究方向性を提案すること。

提案手法

• 有限のプレーヤー集合 𝒩 と、すべてのコアリションに値を割り当てる特性関数 v: 2^𝒩 → ℝ を用いて協力ゲームを定義し、v(∅) = 0 とする。
• プレーヤー集合のすべての順列における平均限界寄与度に基づき、各プレーヤーに一意な報酬ベクトル φ(𝒩, v) を割り当てる解法概念としてシャープレー値を導入する。
• プレーヤーを特徴量、データポイント、アンサンブル内のモデル、強化学習におけるエージェントにマッピングし、特性関数をモデルの性能、予測精度、または報酬にマッピングすることで、機械学習へのシャープレー値の適用を実施する。
• シャープレー値の正確な計算における階乗的複雑性を軽減するため、モンテカルロサンプリングや勾配に基づく近似法などの近似技術をレビューする。
• コアリション構造や階層的関係を組み込むことで制約を加えたシャープレー値の変種として、オーウェン値とウィンターバリューを提示する。
• 重複するコアリション構造や、コア、ヌクレオラス、カーネルといった代替解法概念へのフレームワークの拡張を提案し、解釈可能性と耐性の向上を図る。

実験結果

リサーチクエスチョン

• RQ1 協力ゲーム理論の文脈において、シャープレー値を形式的に定義し、公理的根拠をどのように担保できるか？
• RQ2 シャープレー値の主な機械学習応用は何か？ そして、その公平性と効率性の性質はどのように活用されているか？
• RQ3 一般的なシャープレー値の近似手法が、なぜその核心的公理的性質を保持できないのか？ その結果、モデルの説明可能性にどのような影響を与えるか？
• RQ4 階層的および重複するコアリション構造は、データ共有や特徴選択といった現実の機械学習シナリオのモデリングをどのように改善できるか？
• RQ5 協力ゲーム理論におけるシャープレー値を超える代替解法概念は、特定の機械学習文脈において、より優れたパフォーマンスや解釈可能性を提供できるか？

主な発見

• シャープレー値は、効率性、対称性、加法性といった公理的性質を備えており、協力的状況における貢献の割り当てに理論的に妥当で公平な方法を提供する。
• シャープレー値の正確な計算は、O(2^n) の複雑性のため、大規模な問題では非効率的であり、モンテカルロサンプリングなどの近似手法の導入が不可欠である。
• 広範に使用されているにもかかわらず、近似手法はしばしばシャープレー値の公理的性質を保持せず、実際の応用における理論的根拠を損なう。
• 解釈可能性は依然として主要な課題である：プレーヤーのシャープレー値が2倍であっても、明確に定義された解釈可能なゲーム構造がない限り、そのプレーヤーが2倍の価値を持つとは限らない。
• 今後の研究では、階層的コアリション構造を想定した制約付き解法概念（オーウェン値、ウィンターバリュー）や、代替の公平性基準を満たすコアやヌクレオラスの活用を検討すべきである。
• シャープレー値を超える代替解法概念（コア、ヌクレオラス、カーネル）に関する文献は、機械学習分野ではまだ十分に掘り下げられておらず、今後の研究において大きな機会を秘めている。