[논문 리뷰] REPID: Regional Effect Plots with implicit Interaction Detection

Julia Herbinger, Bernd Bischl외 1명|arXiv (Cornell University)|2022. 02. 15.

Explainable Artificial Intelligence (XAI)인용 수 4

한 줄 요약

REPID는 의사결정 트리를 통해 특성 공간을 해석 가능한 하위군으로 분할함으로써 특성 간 상호작용을 암묵적으로 탐지하고 정량화하는 모델에 종속되지 않는 프레임워크를 도입한다. 이는 지역적 영역 내에서 특성 영향을 고립시켜 전역 해석에서의 집계 편향을 줄이며, 시뮬레이션 및 캘리포니아 주택, 당뇨병 데이터와 같은 실세계 데이터셋에서 뛰어난 상호작용 탐지 및 시각화 성능을 보여준다.

ABSTRACT

Machine learning models can automatically learn complex relationships, such as non-linear and interaction effects. Interpretable machine learning methods such as partial dependence plots visualize marginal feature effects but may lead to misleading interpretations when feature interactions are present. Hence, employing additional methods that can detect and measure the strength of interactions is paramount to better understand the inner workings of machine learning models. We demonstrate several drawbacks of existing global interaction detection approaches, characterize them theoretically, and evaluate them empirically. Furthermore, we introduce regional effect plots with implicit interaction detection, a novel framework to detect interactions between a feature of interest and other features. The framework also quantifies the strength of interactions and provides interpretable and distinct regions in which feature effects can be interpreted more reliably, as they are less confounded by interactions. We prove the theoretical eligibility of our method and show its applicability on various simulation and real-world examples.

연구 동기 및 목표

• 부분적 의존도 플롯과 같은 전역 해석 방법에서 상호작용이 존재할 경우 잘못된 특성 영향을 유도할 수 있는 집계 편향을 해결하기 위해.
• 특성 공간 내에서 특성 영향이 상호작용에 의해 더 덜 혼란스러운 이해 가능한 하위군을 식별하는 방법을 개발하기 위해.
• 특성의 관심 대상과 다른 특성 간의 상호작용 강도를 정량화하여 중요도 순으로 상호작용을 정렬하기 위해.
• 지역 해석(하위군을 통한)과 전역 통찰을 결합하여 지역적 해석과 전역적 해석 방법 사이의 균형 잡힌 접근법을 제공하기 위해.
• 복잡한 기계학습 모델에서 상호작용을 탐지하고 시각화하기 위한 이론적으로 탄탄하고 재현 가능한 프레임워크를 제공하기 위해.

제안 방법

• 이 방법은 관심 특성과 잠재적 상호작용을 바탕으로 특성 공간을 해석 가능한 하위군으로 분할하는 데 의사결정 트리를 사용한다.
• 각 하위군 내에서 지역 효과 플롯(REPs)을 계산하여 관심 특성의 마진 효과를 시각화함으로써 상호작용에 의한 혼란을 최소화한다.
• 하위군 간 예측의 분산 분해를 기반으로 하여 관심 특성과 다른 특성 간의 상호작용 강도를 정량화하는 새로운 상호작용 탐지 측정법을 제안한다.
• 모델에 종속되지 않으며, 훈련 후 어떤 블랙박스 모델에도 적용 가능하다.
• 비교 평가를 위해 SHAP 상호작용 값에서 유도된 전역 상호작용 인덱스를 도입한다.
• 지역 해석을 가능하게 하는 ICE 곡선 시각화를 통합하여 이질적인 효과를 탐지하고, 이를 하위군 내에서 국소화 및 정량화한다.

실험 결과

연구 질문

• RQ1 전역 집계에 의존함으로써 이질적인 효과가 가려지는 상황에서, 기계학습 모델의 특성 간 상호작용을 전역 집계 없이 탐지하고 정량화할 수 있는가?
• RQ2 특성 공간 내에서 관심 특성의 영향이 상호작용에 의해 덜 혼란스럽고 더 신뢰할 수 있게 해석 가능한 이해 가능한 하위군을 식별할 수 있는가?
• RQ3 제안된 상호작용 탐지 측정법은 H-통계량 및 그린웰의 상호작용 인덱스와 비교해 정확성과 해석 가능성 측면에서 어떻게 성능을 내는가?
• RQ4 복잡한 상호작용이 존재할 경우, 지역 효과 플롯은 전역 모델 해석의 신뢰성을 얼마나 향상시킬 수 있는가?
• RQ5 이 방법은 주택이나 헬스케어 응용 분야와 같은 실세계 데이터셋에서 숨겨진 편향이나 하위군별 효과를 드러낼 수 있는가?

주요 결과

• REPID는 관심 특성의 영향이 크게 달라지는 하위군을 성공적으로 식별하여 전역 해석에서의 집계 편향을 줄였다.
• 캘리포니아 주택 데이터셋에서 경도와 위도 간의 상호작용 중요도는 0.49였고, 오션 프록시미티와는 0.18였으며, 상호작용 강도의 R²는 0.67이었다.
• 당뇨병 데이터셋에서 피부 두께는 당뇨병 위험에 비단조화적인 영향을 미쳤으며, 글루코스(Glu) 기반 하위군에서는 상호작용 중요도가 0.29였고, 연령(Age) 기반 하위군에서는 0.09였으며, R²_int는 0.49였다.
• 비선형적이고 이질적인 영향이 존재하는 경우, H-통계량과 그린웰의 상호작용 인덱스보다 상호작용 탐지 및 순위 매기기에 뛰어난 성능을 보였다.
• 이 프레임워크는 경도가 주택 가격에 미치는 영향이 위도가 증가함에 따라 감소하고, 오션 근접성에 따라 다르게 변동한다는 것을 드러내었으며, 이는 전역 PD 플롯에서는 나타나지 않았다.
• 구현 코드는 공개되어 있어 연구자와 실무자 모두가 완전히 재현 가능하고 널리 접근 가능하다.