[논문 리뷰] On Anomaly Interpretation via Shapley Values

Naoya Takeishi, Yoshinobu Kawahara|arXiv (Cornell University)|2020. 04. 09.

Anomaly Detection Techniques and Applications참고 문헌 30인용 수 6

한 줄 요약

이 논문은 이상치 점수의 해석을 위해 새로운 특성 함수를 정의하여 특성 부재를 이상치 점수 최소화를 통해 근사화함으로써, Shapley 값 기반 방법을 제안한다. 다양한 데이터셋과 모델을 대상으로 한 실험을 통해 Shapley 기반 할당은 이상치의 해석을 향상시키고 더 효과적인 이상치 국소화를 지원함을 보였다.

ABSTRACT

Anomaly localization is an essential problem as anomaly detection is. Because a rigorous localization requires a causal model of a target system, practically we often resort to a relaxed problem of anomaly interpretation, for which we are to obtain meaningful attribution of anomaly scores to input features. In this paper, we investigate the use of the Shapley value for anomaly interpretation. We focus on the semi-supervised anomaly detection and newly propose a characteristic function, on which the Shapley value is computed, specifically for anomaly scores. The idea of the proposed method is approximating the absence of some features by minimizing an anomaly score with regard to them. We examine the performance of the proposed method as well as other general approaches to computing the Shapley value in interpreting anomaly scores. We show the results of experiments on multiple datasets and anomaly detection methods, which indicate the usefulness of the Shapley-based anomaly interpretation toward anomaly localization.

연구 동기 및 목표

• 완전한 인과 모델이 없는 상황에서 이상치 점수를 해석하는 데 도전하는 것.
• 이상치 국소화를 지원하는 의미 있는 이상치 점수 할당 방법을 개발하는 것.
• 정확한 Shapley 값 계산을 가능하게 하는 이상치 점수에 특화된 특성 함수를 제안하는 것.

제안 방법

• 이상치 점수 전용으로 Shapley 값을 계산하기 위해 새로운 특성 함수를 설계하였으며, 이는 해당 특성에 대해 이상치 점수를 최소화함으로써 특성 부재를 모델링한다.
• 특성 부재를 근사하기 위해 최소화 기반 접근법을 사용하여 안정적이고 의미 있는 Shapley 값 추정을 가능하게 한다.
• 서브셋 형태의 특성에 대해 Shapley 값을 계산하여 이상치 점수를 개별 특성에 할당한다.
• 일반화 능력과 성능을 평가하기 위해 다양한 이상 탐지 모델과 데이터셋에서 방법을 평가한다.
• 일반 목적의 Shapley 계산 기법과의 비교를 통해 이 방법이 이상치 해석에서의 효과성을 입증한다.

실험 결과

연구 질문

• RQ1 Shapley 값은 준감독 이상 탐지에서 이상치 점수에 대해 의미 있는 특성 할당을 제공할 수 있는가?
• RQ2 제안된 특성 함수는 일반 방법에 비해 관련 특성 기여도를 얼마나 잘 포착하는가?
• RQ3 Shapley 기반 해석은 다양한 데이터셋과 모델에서 이상치의 해석 가능성과 국소화를 향상시키는가?

주요 결과

• 제안된 Shapley 기반 방법은 일반 목적의 Shapley 계산 접근법에 비해 이상치 해석 성능이 뛰어나다.
• Shapley 값에 의한 특성 할당은 이상치 점수에 기여하는 가장 영향력 있는 특성을 효과적으로 드러낸다.
• 이 방법은 여러 데이터셋과 이상 탐지 모델에 걸쳐 잘 일반화된다.
• 특성 부재의 최소화 기반 근사는 안정적이고 해석 가능한 Shapley 값을 도출한다.
• 실험 결과는 Shapley 기반 해석이 더 정확한 이상치 국소화를 지원함을 입증한다.