[논문 리뷰] Explaining Classification Models Built on High-Dimensional Sparse Data

Julie Moeyersoms, B D'Alessandro외 2명|arXiv (Cornell University)|2016. 07. 21.

Machine Learning and Data Classification참고 문헌 6인용 수 14

한 줄 요약

이 논문은 고차원적이고 희박한 행동 데이터에 대해 훈련된 선형 모델의 해석 가능성을 향상시키기 위해 두 가지 새로운 방법—증거 반사적(Counterfactual, EC) 및 셰플리 값 기반 특성 순위 매기기—을 제안한다. 특성 계수와 특성 커버리지(출현 빈도)를 조합함으로써, 이 방법들은 가장 많은 예측을 설명하는 특성을 식별하여, 표준 계수 기반 순위 매기기 대비 두 배의 '비용 대비 효과'를 달성한다.

ABSTRACT

Predictive modeling applications increasingly use data representing people's behavior, opinions, and interactions. Fine-grained behavior data often has different structure from traditional data, being very high-dimensional and sparse. Models built from these data are quite difficult to interpret, since they contain many thousands or even many millions of features. Listing features with large model coefficients is not sufficient, because the model coefficients do not incorporate information on feature presence, which is key when analysing sparse data. In this paper we introduce two alternatives for explaining predictive models by listing important features. We evaluate these alternatives in terms of explanation "bang for the buck,", i.e., how many examples' inferences are explained for a given number of features listed. The bottom line: (i) The proposed alternatives have double the bang-for-the-buck as compared to just listing the high-coefficient features, and (ii) interestingly, although they come from different sources and motivations, the two new alternatives provide strikingly similar rankings of important features.

연구 동기 및 목표

• 고차원적이고 희박한 행동 데이터에 대해 훈련된 선형 모델의 해석 문제를 다루며, 표준 계수 기반 특성 순위 매기기가 특성 커버리지가 낮아 실패하는 이유를 해결한다.
• 모델 계수의 크기와 특성 존재 여부(커버리지)를 균형 있게 고려하여, 해석 가능성과 실용적 유용성을 향상시키는 설명 방법을 개발한다.
• 특성 순위 매기기의 효율성(‘비용 대비 효과’) 측면에서 이러한 방법들의 효과를 평가하고 비교한다—즉, 나열된 특성 수당 몇 개의 예측을 설명할 수 있는가를 측정한다.
• 서로 다른 이론적 배경을 가진 두 가지 근본적으로 다른 접근 방식(예: EC 및 셰플리)이 비록 기초 이론이 다르지만, 유사하고 강건한 특성 중요도 순위를 도출하는지 조사한다.

제안 방법

• 최소한의 특성 조합을 제거했을 때 특정 인스턴스의 모델 예측이 변하는지를 분석함으로써, 예측을 변화시킬 수 있는 최소한의 특성 집합을 식별하는 증거 반사적(Counterfactual, EC) 방법을 제안한다.
• 협동 게임 이론에서 유래한 셰플리 값을 활용하여, 모든 가능한 특성 조합에서 각 특성이 예측에 기여하는 정도를 계산함으로써 공정한 기여도 할당을 보장한다.
• 모든 데이터 인스턴스에 대해 개별 인스턴스 수준의 EC 또는 셰플리 점수를 집계하고 정규화하여, 계수 크기와 커버리지 양쪽을 고려한 글로벌 특성 중요도 순위를 도출한다.
• x축은 상위 특성 수(로그 스케일), y축은 해당 특성들만으로 정확히 예측된 인스턴스 수인 '설명 곡선'(explanation curves)을 시각화 및 평가 지표로 사용한다.
• 실제 럭셔리 리테일 브라우징 데이터셋(수백만 개의 이진 특성, 방문한 URL 포함)을 대상으로 로지스틱 회귀를 기본 모델로 사용하며, 평가를 위해 임계값 기반 양성 예측을 적용한다.
• 다른 방법 간의 순위 상관관계를 분석함으로써 특성 순위의 질을 평가하며, 상위-k 특성 목록을 활용해 설명 능력을 비교한다.

실험 결과

연구 질문

• RQ1 특성 계수와 특성 커버리지 양쪽을 통합함으로써, 고차원적이고 희박한 행동 데이터에 대해 훈련된 선형 모델의 해석 가능성을 어떻게 향상시킬 수 있는가?
• RQ2 EC 및 셰플리 기반 방법은 계수 기반 순위 매기기 대비 설명 효율성(‘비용 대비 효과’) 측면에서 유의미하게 뛰어나게 되는가?
• RQ3 서로 다른 이론적 배경을 가진 EC 및 셰플리 방법이 비록 기초 이론이 다르지만, 얼마나 유사하고 강건한 특성 중요도 순위를 도출하는가?
• RQ4 특성 커버리지만을 고려한 순위 매기기는 계수 기반 또는 하이브리드 방법에 비해 예측 설명 능력에서 얼마나 떨어지는가?
• RQ5 설명 곡선은 실제 희박한 데이터 환경에서 다양한 설명 방법의 성능을 효과적으로 정량화하고 비교하는 데 유용한가?

주요 결과

• EC 및 셰플리 기반 방법은 계수 기반으로만 특성을 선택하는 것에 비해 약 두 배의 '비용 대비 효과'를 달성한다. 즉, 나열된 특성 수당 두 배의 예측을 설명할 수 있다.
• EC 및 셰플리 방법의 상위 10개 특성 순위는 거의 동일한 순서를 보이며, 스피어만 상관계수 0.97을 기록하여 두 방법 간 강력한 일致성을 확인한다.
• EC/셰플리 순위와 계수 기반 순위(β) 간의 상관계수는 중간 수준(0.60–0.75)이지만, 이는 계수 크기만으로는 희박한 데이터에서 설명의 중요도를 잘 대체하지 못함을 시사한다.
• 특성 'ebay.com'은 EC 방법에서 1위(7% 설명 기여도)로 평가되었지만, 계수 크기 기준으론 17위(0.17%)에 머물러 있어, EC 방법이 계수 순위에서 놓친 고커버리지·고영향도 특성을 효과적으로 식별할 수 있음을 보여준다.
• 커버리지 기반 순위는 계수 기반 순위보다는 성능이 뛰어나지만 여전히 EC 및 셰플리 방법에 비해 열등하며, 상관계수 각각 0.39 및 0.16을 기록한다.
• 설명 곡선 분석 결과, 계수 기반 순위는 상위 10%의 특성조차도 약 절반의 인스턴스만을 설명하는 데 그치지만, EC 및 셰플리 방법은 전체 범위에서 유의미하게 더 많은 예측을 설명한다.