[논문 리뷰] Explainable Artificial Intelligence (XAI) on TimeSeries Data: A Survey

Thomas Rojat, Raphaël Puget외 4명|arXiv (Cornell University)|2021. 04. 02.

Time Series Analysis and Forecasting참고 문헌 95인용 수 118

한 줄 요약

이 설문조사는 시계열에 적용된 설명가능한 AI(XAI) 방법을 비판적으로 검토하고, 모델 유형과 설명 범주별로 분류하며, 평가, 신뢰, 로버스트니스, 인터랙티브 측면을 논의한다.

ABSTRACT

Most of state of the art methods applied on time series consist of deep learning methods that are too complex to be interpreted. This lack of interpretability is a major drawback, as several applications in the real world are critical tasks, such as the medical field or the autonomous driving field. The explainability of models applied on time series has not gather much attention compared to the computer vision or the natural language processing fields. In this paper, we present an overview of existing explainable AI (XAI) methods applied on time series and illustrate the type of explanations they produce. We also provide a reflection on the impact of these explanation methods to provide confidence and trust in the AI systems.

연구 동기 및 목표

• 시계열에 적용된 XAI 방법과 그 방법론, 범위, 대상에 대한 개요를 제공한다.
• 시계열 모델의 신뢰성, 안정성, 강인성을 높이는 접근법을 논의한다.
• 시계열 모델의 설명에 대한 정성적·정량적 방법을 평가한다.
• 시계열의 가설가능성에 대한 한계점과 향후 연구 방향을 논의한다.

제안 방법

• CNN에 대한 포스트-호크 설명(역전파 기반 및 섭동 기반)과 RNN에 대한 Ante-Hoc 설명(주의 메커니즘)을 분류한다.
• 순환 모델에 적용 가능한 모델 비의존적 설명(SHAP 등)을 설명한다.
• 시계열에 구체적으로 적용되는 데이터 마이닝 기반 XAI 방법(SAX, 퍼지 로직, 규칙 기반 시스템, shapelets)을 제시한다.
• 시계열에 대한 예시 기반 설명(프로토타입 기반 방법 및 shapelets)을 논의한다.
• 로컬 설명과 글로벌 설명을 구별하고 확장성 및 해석가능성 간의 거래를 논의한다.

실험 결과

연구 질문

• RQ1 시계열에 어떤 XAI 방법이 존재하며 서로 다른 모델 계열에서 어떻게 작동하는가?
• RQ2 이 방법들은 어떻게 설명을 제공하는가(로컬 대 글로벌) 및 그 대상은 누구인가(개발자 대 최종 사용자)?
• RQ3 시계열 모델에서 설명을 평가하기 위한 지표와 방법은 무엇인가?
• RQ4 시계열 분석에서 설명가능성의 한계와 향후 방향은 무엇인가?

주요 결과

• CNN 기반 설명에는 클래스 활성화 맵핑(CAM) 및 그래디언트 기반 방법이 포함되어 예측에 영향을 주는 시간 하위 시퀀스를 강조한다.
• 섞임 기반 설명(예: 차단 민감도)은 시계열의 일부를 변경하고 출력 변화를 관찰하여 중요한 입력 구간을 식별한다.
• RNN은 주의 메커니즘으로 설명할 수 있어, 예측에 앞서 보거나 상태 기반 해석 가능성을 모델 설계에 내재한다.
• 모델 비의존적 설명(SHAP 등)은 순환 모델도 설명할 수 있어 CNN/RNN를 넘어 적용 가능 범위를 넓힌다.
• 시계열 특화 설명 방법으로 SAX, 퍼지 로직, shapelets 등이 있어 해석 가능한 특징과 프로토타입을 가능하게 한다.
• 본 설문은 신뢰, 안정성, 강인성, 사용자 중심의 인터랙티브한 설명을 시계열 XAI의 필수적이되 아직 미개발된 측면으로 강조한다.