[논문 리뷰] Feature Importance for Time Series Data: Improving KernelSHAP

Mattia Villani, Joshua Lockhart외 1명|arXiv (Cornell University)|2022. 10. 05.

Time Series Analysis and Forecasting인용 수 6

한 줄 요약

이 논문은 시간적 시리즈에 적합한 KernelSHAP의 확장인 VARSHAP를 제안한다. 이는 벡터 자기회귀(VAR) 모델을 사용하여 셰플리 값(Shapley values)을 계산함으로써 시간적 시리즈에 대한 정확한 기능 중요도 추정을 가능하게 한다. 또한 시간 일관성 있는 셰플리 값(Time Consistent Shapley Values)과 예측 급증의 원인을 규명하는 데 기여하는 기능들을 식별하는 이벤트 탐지 방법을 도입하여 시간적 맥락에서의 해석 가능성(interpretability)을 크게 향상시킨다.

ABSTRACT

Feature importance techniques have enjoyed widespread attention in the explainable AI literature as a means of determining how trained machine learning models make their predictions. We consider Shapley value based approaches to feature importance, applied in the context of time series data. We present closed form solutions for the SHAP values of a number of time series models, including VARMAX. We also show how KernelSHAP can be applied to time series tasks, and how the feature importances that come from this technique can be combined to perform "event detection". Finally, we explore the use of Time Consistent Shapley values for feature importance.

연구 동기 및 목표

• 기능 독립성과 장기적인 봉우리 윈도우가 표준 구현에 도전하는 시간적 시리즈 데이터에 대해 KernelSHAP를 적응시키기 위해.
• AR, MA, ARMA, VARMA, VARMAX와 같은 일반적인 시간적 시리즈 모델에 대해 닫힌 형태의 셰플리 값을 유도하기 위해.
• 시간적 구조를 활용하여 계산 복잡도를 감소시키는 시간 일관성 있는 셰플리 값(Time Consistent Shapley Values)을 개발하기 위해.
• 예측 변화에 기여하는 기능 기여도를 식별하기 위해 시간 단위를 따라 SHAP 값을 집계하는 이벤트 탐지 기법을 도입하기 위해.
• 시간적 시리즈에서 모델에 종속되지 않은 XAI 방법의 한계를 극복하기 위해 시간적 의존성과 자기상관을 통합하기 위해.

제안 방법

• 선형 모델을 벡터 자기회귀(VAR) 모델로 대체하여 시간적 시리즈에서 셰플리 값을 근사하는 데 KernelSHAP를 적응시켜 VARSHAP를 도입한다.
• 협동 게임 이론 원리를 사용하여 AR, MA, ARMA, VARMA, VARMAX 모델에 대해 닫힌 형태의 셰플리 값을 도출한다.
• 기능 할당에서 시간 일관성을 강제함으로써 표본 공간을 줄이는 방법으로 시간 일관성 있는 셰플리 값을 제안한다.
• 시간 단위를 따라 SHAP 값을 집계하여 예측 변화의 원인이 되는 기능을 식별하는 이벤트 탐지 프레임워크를 제안한다.
• VAR 모델을 사용한 편향 기반 샘플링을 활용하여 마진 기여도를 추정함으로써 시간적 시리즈 제약 조건 하에서 진정한 셰플리 값으로 수렴함을 보장한다.
• 합성 및 실세계 시간적 시리즈 데이터를 대상으로 방법을 검증하여 해석 가능성 향상과 인과적 사건 탐지 능력을 입증한다.

실험 결과

연구 질문

• RQ1 선형 모델을 VAR 모델로 대체함으로써 KernelSHAP를 시간적 시리즈 데이터에 신뢰성 있게 확장할 수 있는가?
• RQ2 VARMAX 및 ARMA와 같은 표준 시간적 시리즈 모델에 대해 닫힌 형태의 셰플리 값을 어떻게 도출할 수 있는가?
• RQ3 기능 할당에서 시간 일관성이 계산 복잡도를 감소시키면서도 해석 가능성은 유지할 수 있는가?
• RQ4 집계된 SHAP 값은 특정 기능에 의해 유도된 의미 있는 사건(예: 예측 급증)을 탐지할 수 있는가?
• RQ5 자기상관 하에서 기능 중요도를 캡처하는 데 있어 Time Consistent Shapley Values는 VARSHAP와 어떻게 비교되는가?

주요 결과

• VARSHAP는 시간적 제약 조건 하에서도 셰플리 값으로의 수렴 보장을 유지하면서 VAR 모델을 사용하여 KernelSHAP를 시간적 시리즈로 성공적으로 확장한다.
• AR, MA, ARMA, VARMA, VARMAX 모델에 대해 닫힌 형태의 셰플리 값을 도출함으로써 근사 없이 정확한 기여도 할당이 가능해진다.
• 시간 일관성 있는 셰플리 값은 시간 일관성을 강제함으로써 계산을 위한 표본 공간을 줄여 장기적인 시퀀스에 대한 확장성 향상을 이룬다.
• 이벤트 탐지 방법은 예측 급증에 기여하는 기능 기여도를 성공적으로 식별하였으며, 하위미터링 데이터에서는 개별 가전 기기들이 목표 값의 별도 급증을 이끌고 있음을 보여주었다.
• VARSHAP와 시간 일관성 있는 셰플리 값은 기능 중요도 할당 패턴에서 뚜렷한 차이를 보이며, 서로 다른 시간적 가정 하에서 모델 행동을 캡처하는 데 각각 다른 강점을 지닌다.
• 이 방법은 기능 중요도가 시간 단위에 따라 매우 다이나믹하게 변화하며, 예측 변화가 발생할 때 특정 기능이 지배적인 영향을 미친다는 점을 드러내어 시간 인식 기반 설명 기법의 필요성을 강조한다.