[논문 리뷰] Time Interpret: a Unified Model Interpretability Library for Time Series

Joseph Enguehard|arXiv (Cornell University)|2023. 06. 05.

Explainable Artificial Intelligence (XAI)인용 수 4

한 줄 요약

Time Interpret는 시계열에서 설명 가능한 AI를 위한 통합된 파이토치 기반 라이브러리로, Captum을 확장하여 시간적 통합 기울기와 시간 전방 터널과 같은 특화된 기여도 방법을 제공한다. 이는 실시간 및 합성 데이터 세트, 평가 지표, 파이토치 라이트닝 통합을 지원하는 모델에 종속되지 않는 시간적 특성 기여도를 가능하게 하여 금융 및 헬스케어 분야의 고위험 응용 분야에서의 해석 가능성 향상에 기여한다.

ABSTRACT

We introduce $ exttt{time_interpret}$, a library designed as an extension of Captum, with a specific focus on temporal data. As such, this library implements several feature attribution methods that can be used to explain predictions made by any Pytorch model. $ exttt{time_interpret}$ also provides several synthetic and real world time series datasets, various PyTorch models, as well as a set of methods to evaluate feature attributions. Moreover, while being primarily developed to explain predictions based on temporal data, some of its components have a different application, including for instance methods explaining predictions made by language models. In this paper, we give a general introduction of this library. We also present several previously unpublished feature attribution methods, which have been developed along with $ exttt{time_interpret}$.

연구 동기 및 목표

• 금융 및 의학과 같은 고위험 도메인에서 특히 중요시되는 시계열 데이터에 대한 딥러닝 모델을 해석하기 위한 통합적이고 접근 가능한 도구의 부족을 해결한다.
• 시계열 전용 기여도 방법을 통해 Captum을 확장하여 순차적 의사결정에서 모델의 투명성과 공정성을 향상시킨다.
• 연구의 재현성과 구현을 간소화하기 위해 데이터 세트, 모델, 평가 지표, 파이토치 라이트닝 통합을 포함하는 종합적인 툴킷을 제공한다.
• 시간적 기여도(각 시간 단계의 특성 중요도)와 모델에 종속되지 않는 설명 기법을 모두 지원하여 자연어 처리 작업을 포함한 시간 시리즈 외 응용 분야에도 적용 가능하도록 한다.
• TIG, 시간 전방 터널, LOF 기반 향상된 LIME/SKAP와 같은 새로운 기여도 방법을 도입하여 설명의 강건성과 정확도를 향상시킨다.

제안 방법

• 현재 시간 단계에만 보간하면서 과거 입력은 유지하고 미래 데이터는 배제하는 방식으로, 통합 기울기의 변형인 시간적 통합 기울기(TIG)를 구현한다.
• 모든 Captum 기여도 방법을 시간 t까지 잘라낸 시퀀스에 대해 반복적으로 적용하는 데 사용되는 워핑 기법인 시간 전방 터널을 도입한다. 이는 미래 정보가 시간 t의 기여도에 영향을 주지 않도록 인과성을 보장한다.
• 기본값을 입력에 가까운 부트스트랩 분포에서 샘플링하여 분포 이탈을 줄이고 설명의 안정성을 향상시키는 보완된 오클루전(AugmentedOcclusion)을 개발한다.
• 베이지안 선형 회귀를 사용해 기여도에 대한 불확실성 추정(신뢰 구간)을 제공하는 BayesLime과 BayesKernelShap를 통합한다.
• 입력의 형태가 (T, N)일 경우 기여도 텐서의 형태를 (T, N)으로 반환함으로써 각 시간 단계의 해석 가능성을 보장하는 시간적 기여도를 지원한다.
• 모델에 종속되지 않는 설명을 가능하게 하기 위해 비선형성 터널을 통해 모델 레이어의 ReLU를 Softplus로 대체함으로써 곡률에 기인한 설명 오류를 감소시킨다.

Figure 1: Illustration of the TIG method . Given an input x and a corresponding baseline $\overline{\textbf{x}}$ , we compute the attribution as such. For each time t, we crop future times: $\textbf{x}[:t]$ , and we only compute interpolations on the last data point in time: $\textbf{x}_{\alpha}=(x_

실험 결과

연구 질문

• RQ1 기본값 선택 및 편향 전략을 수정함으로써 시계열 모델의 특성 기여도의 정확도와 강건성을 어떻게 향상시킬 수 있는가?
• RQ2 TIG 및 시간 전방 터널과 같은 시간적 기여도 방법은 표준 기여도 기법보다 더 정확하고 인과적으로 일관된 설명을 제공하는가?
• RQ3 BayesLime 및 BayesKernelShap와 같은 불확실성 인식 기법은 설명의 신뢰도를 향상시키기 위해 설명의 신뢰도를 정량화함으로써 시계열에서의 신뢰성 있는 설명을 향상시킬 수 있는가?
• RQ4 국소 설명 과정에서 외곽치 편향에 민감도를 줄이기 위해 국소 외곽도수(LOF) 기반 유사도 측정법이 얼마나 효과적인가?
• RQ5 라이브러리의 구성 요소 중 어느 정도가 시계열 외부로 일반화될 수 있는가? 예를 들어, 트랜스포머 기반 언어 모델을 설명하는 데에도 적용 가능한가?

주요 결과

• 시간적 통합 기울기(TIG)는 현재 시간 단계에만 보간하면서 과거 입력은 유지하고 미래 데이터는 배제함으로써 인과적으로 일관된 기여도 방법을 제공한다.
• 시간 전방 터널은 어떤 Captum 기여도 방법이라도 인과적이고 반복적인 방식으로 적용할 수 있도록 하여 미래 데이터가 시간 t의 기여도에 영향을 주지 않도록 보장한다.
• 보완된 오클루전은 입력에 가까운 부트스트랩 분포에서 기본값을 샘플링함으로써 분포 이탈을 줄여 설명의 안정성을 향상시킨다.
• BayesLime과 BayesKernelShap는 기여도에 대해 신뢰 구간을 제공하여 불확실성의 정도를 정량화함으로써 기여도 중요도의 해석 가능성을 향상시킨다.
• LOF 기반 향상된 LIME 및 커널 SHAP는 LOF 점수를 유사도 가중치로 사용함으로써 외곽치 편향에 민감도를 감소시켜 희소하거나 노이즈가 많은 데이터에서 강건성을 향상시킨다.
• 라이브러리는 시간적 기여도(각 시간 단계별)와 글로벌 기여도를 모두 지원하며, DynaMask, ExtremalMask, Retain 등의 방법을 통해 동적이고 맥락 인식형 설명을 가능하게 한다.