[논문 리뷰] The Shapley Value in Machine Learning

Benedek Rózemberczki, Lauren Watson외 5명|arXiv (Cornell University)|2022. 02. 11.

Auction Theory and Applications인용 수 16

한 줄 요약

이 종합 검토는 기계학습에서 셰플리 값의 포괄적인 개요를 제공하며, 협력 게임 이론의 이론적 기초와 기능 선택, 모델 해석 가능성, 데이터 가치 평가, 다중 에이전트 강화 학습, 앙상블 정제 등 응용 분야를 설명한다. 스케일러블 계산을 위한 핵심 근사 방법을 강조하고, 특히 설명 가능성 문제와 근사화 시 축약된 공리적 성질의 붕괴와 같은 주요 한계를 밝히며, 향후 연구 방향으로 계층적 및 겹치는 협력 집합과 셰플리 값 외의 대안적 해법 개념 탐색을 제안한다.

ABSTRACT

Over the last few years, the Shapley value, a solution concept from cooperative game theory, has found numerous applications in machine learning. In this paper, we first discuss fundamental concepts of cooperative game theory and axiomatic properties of the Shapley value. Then we give an overview of the most important applications of the Shapley value in machine learning: feature selection, explainability, multi-agent reinforcement learning, ensemble pruning, and data valuation. We examine the most crucial limitations of the Shapley value and point out directions for future research.

연구 동기 및 목표

• 협력 게임 이론에서의 셰플리 값 해법 개념으로서의 이론적 통합 프레임워크를 제공하고, 기계학습과의 관련성을 이해하는 데 목적이 있다.
• 기능 선택, 모델 해석 가능성, 데이터 가치 평가, 다중 에이전트 강화 학습 등 핵심 기계학습 분야에서 셰플리 값의 응용을 검토하는 데 목적이 있다.
• 실제 응용에서 셰플리 값의 핵심 한계를 특정하고 분석하는 데 목적이 있다. 특히 계산의 비효율성과 설명 가능성의 과제를 중심으로 한다.
• 셰플리 값의 공리적 성질이 일반적인 근사 방법에서 유지되지 않아 이론적 근거가 약화된다는 중요한 문제를 부각하는 데 목적이 있다.
• 향후 연구 방향으로 계층적 및 겹치는 협력 집합의 구조와 협력 게임 이론에서 셰플리 값 외의 대안적 해법 개념 탐색을 제안하는 데 목적이 있다.

제안 방법

• 유한한 플레이어 집합 𝒩과 특성 함수 v: 2^𝒩 → ℝ를 사용하여 협력 게임을 정의하며, 이는 모든 협력 집합에 대해 값을 할당하고, v(∅) = 0을 만족한다.
• 셰플리 값을 플레이어 집합의 모든 순열에 대한 평균 마진 기여도를 기반으로 각 플레이어에게 고유한 보상 벡터 φ(𝒩, v)를 할당하는 해법 개념으로서 도입한다.
• 플레이어를 기능, 데이터 포인트, 앙상블 내 모델, 또는 강화 학습의 에이전트로 매핑하고, 특성 함수를 모델 성능, 예측 정확도 또는 보상을 할당하여 기계학습에 셰플리 값을 적용한다.
• 셰플리 값의 정확한 계산에 필요한 팩토리얼 복잡도를 줄이기 위해 몬테카를로 샘플링 및 기울기 기반 근사 기법과 같은 근사 기법을 검토한다.
• 오웬 값과 윈터 값은 협력 집합의 구조와 계층적 관계를 통합한 셰플리 값의 제약된 변형으로서 소개된다.
• 프레임워크를 겹치는 협력 집합의 구조로 확장하고, 핵심, 핵심도, 커널과 같은 대안적 해법 개념을 탐색하여 설명 가능성과 강건성을 향상시키는 데 목적이 있다.

실험 결과

연구 질문

• RQ1 협력 게임 이론의 맥락에서 셰플리 값은 어떻게 형식적으로 정의되고 공리적으로 정당화될 수 있는가? 이는 기계학습 응용에 어떻게 적용되는가?
• RQ2 셰플리 값의 핵심 기계학습 응용 분야는 무엇이며, 공정성과 효율성의 성질을 어떻게 활용하는가?
• RQ3 일반적인 셰플리 값 근사 방법이 왜 그 핵심 공리적 성질을 유지하지 못하는가? 이는 모델의 설명 가능성에 어떤 영향을 미치는가?
• RQ4 계층적 및 겹치는 협력 집합의 구조는 데이터 공유나 기능 선택과 같은 실제 기계학습 시나리오의 모델링을 어떻게 향상시킬 수 있는가?
• RQ5 협력 게임 이론에서 셰플리 값 외의 대안적 해법 개념은 어떤 기계학습 맥락에서 더 나은 성능이나 설명 가능성 제공 가능성이 있는가?

주요 결과

• 셰플리 값은 공리적 성질인 효율성, 대칭성, 가환성 등으로 인해 이론적으로 타당하고 공정한 기여 할당 방법을 제공한다.
• 셰플리 값의 정확한 계산은 O(2^n) 복잡도로 인해 대규모 문제에서는 계산이 비현실적이므로 몬테카를로 샘플링 등의 근사 기법이 필요하다.
• 광범위하게 사용되고 있음에도 불구하고, 근사 기법은 종종 셰플리 값의 공리적 성질을 유지하지 못하여 실무에서 이론적 근거가 약화된다.
• 설명 가능성은 여전히 주요 과제이다. 플레이어의 셰플리 값이 두 배이더라도, 명확하고 해석 가능한 게임 구조가 없으면 그 기여도가 두 배로 확대된다는 보장이 없다.
• 향후 연구는 계층적 협력 집합에 대한 제약된 해법 개념인 오웬 값과 윈터 값을 포함하고, 핵심 또는 핵심도를 통해 다른 공정성 기준을 고려하는 데 목적이 있다.
• 셰플리 값 외의 대안적 해법 개념에 대한 문헌—예를 들어 핵심, 핵심도, 커널—은 기계학습 분야에서 아직 다소 미비하게 다뤄져 있으며, 향후 연구에 있어 중요한 기회로 남아 있다.