[논문 리뷰] Explaining Time Series Predictions with Dynamic Masks

Jonathan Crabbé, Mihaela van der Schaar|arXiv (Cornell University)|2021. 06. 09.

Explainable Artificial Intelligence (XAI)참고 문헌 44인용 수 26

한 줄 요약

Dynamask는 시간 인식 연산자로 입력을 교란하여 다변 시계열 예측을 설명하고자 하는 인스턴스별 동적 마스크를 도입하며, 정보 이론적 프레이밍을 통해 단순성과 가독성을 촉진합니다.

ABSTRACT

How can we explain the predictions of a machine learning model? When the data is structured as a multivariate time series, this question induces additional difficulties such as the necessity for the explanation to embody the time dependency and the large number of inputs. To address these challenges, we propose dynamic masks (Dynamask). This method produces instance-wise importance scores for each feature at each time step by fitting a perturbation mask to the input sequence. In order to incorporate the time dependency of the data, Dynamask studies the effects of dynamic perturbation operators. In order to tackle the large number of inputs, we propose a scheme to make the feature selection parsimonious (to select no more feature than necessary) and legible (a notion that we detail by making a parallel with information theory). With synthetic and real-world data, we demonstrate that the dynamic underpinning of Dynamask, together with its parsimony, offer a neat improvement in the identification of feature importance over time. The modularity of Dynamask makes it ideal as a plug-in to increase the transparency of a wide range of machine learning models in areas such as medicine and finance, where time series are abundant.

연구 동기 및 목표

• 시간 축 context를 보존하는 시계열 인식 설명의 필요성을 제시한다.
• 동적 교란 기반 마스크를 정의하여 시간 축에서 중요한 특징을 식별한다.
• 희소하고 거의 이진에 가까운 마스크를 강제하고 정보 내용을 정량화하여 단순성과 가독성을 증진한다.
• 정보 이론적 지표를 활용해 시계열에 대한 민감도 방법을 비교하는 프레임워크를 제공한다.

제안 방법

• m_{t,i}가 f(X)에 대해 시간 t에서 특징 i의 중요도를 나타내는 T x dX 모양의 마스크 M을 정의한다.
• M에 의존적으로 X를 교란하고 m_{t,i}가 높을수록 효과를 줄이는 교란 연산자 Pi_M를 사용한다. 동적 교란은 인접 시간 스텝(W1, W2) 윈도잉을 포함한다.
• 여러 교란 연산자를 제안한다: pi^g (시간적 가우시안 블러), pi^m (이동 평균으로의 페이드), pi^p (과거 중심의 이동 평균으로의 페이드).
• f(X)와 f(Pi_M(X)) 간의 예측 편향을 최소화하고 희소성과 시간적 연속성 항을 추가하여 M을 최적화한다: L_e (예측 오차), L_a (vecsort 정규화를 통한 영역 기반 희소성), L_c (시간적 연속성).
• 오차를 임계치 ε 이하로 유지하면서 면적 a*를 최소로 하는 극값 마스크 M_a*를 정의한다.
• 마스크에 대한 정보 이론적 지표를 도입한다: 마스크 정보 I_M(A) = -Σ ln(1 - m_{t,i}) 및 마스크 엔트로피 S_M(A) = -Σ [ m_{t,i} ln m_{t,i} + (1 - m_{t,i}) ln(1 - m_{t,i}) ], 양의성, 가법성, 단조성의 특성을 가진다.

실험 결과

연구 질문

• RQ1 시계열 모델의 민감도 설명에 시간적 맥락을 어떻게 통합할 수 있는가?
• RQ2 설명에 필요한 최소 입력 하위집합을 식별하는 간결하고 읽기 쉬운 마스크를 만들 수 있는가?
• RQ3 정보 이론적 지표를 사용해 시계열 민감도 마스크의 품질과 해석 가능성을 어떻게 정량화할 수 있는가?
• RQ4 Dynamask가 합성 및 실제 시계열 데이터에서 기존 민감도 방법과 어떻게 비교되는가?

주요 결과

• Dynamask는 시간 시계열 민감도 작업에서 베이스라인(FO, FP, IG, SVS)보다 더 높은 AUR 및 상당한 I_M(A)와 합리적인 AUP를 보여 화이트박스 및 블랙박스 실험에서 우수한 성능을 보인다.
• 동적 교란을 사용하면 정적 방법에 비해 시간이 지남에 따른 중요한 특징의 식별이 향상된다.
• 극값 마스크 접근법은 특정 공차 내에서 예측 정확도를 보존하면서도 강한 희소성(낮은 마스크 면적 a)을 달성한다.
• 민감 영역이 잘 포착될 때 마스크 정보 내용이 증가하고 더 이진적이고 읽기 쉬운 마스크일수록 마스크 엔트로피가 감소한다.
• 프레임워크는 의학 및 금융 시계열 설명에 적합한 모듈식 교란 설계를 갖춘 플러그인 방식의 접근 방법을 제공한다.