[논문 리뷰] EXCODER: EXplainable Classification Of DiscretE time series Representations

Yannik Hahn, Königsfeld, Antonin외 2명|arXiv (Cornell University)|2026. 02. 13.

Time Series Analysis and Forecasting인용 수 0

한 줄 요약

이 논문은 이산 잠재 표현(VQ-VAE, DVAE, SAX)이 시간 시계열 분류에 대한 설명 가능성을 향상시키는지, 그리고 잠재 공간에서 구조화된 XAI 설명을 가능하게 하는지 조사하고, 교육 패턴과의 정합성을 평가하기 위해 SSA를 도입한다.

ABSTRACT

Deep learning has significantly improved time series classification, yet the lack of explainability in these models remains a major challenge. While Explainable AI (XAI) techniques aim to make model decisions more transparent, their effectiveness is often hindered by the high dimensionality and noise present in raw time series data. In this work, we investigate whether transforming time series into discrete latent representations-using methods such as Vector Quantized Variational Autoencoders (VQ-VAE) and Discrete Variational Autoencoders (DVAE)-not only preserves but enhances explainability by reducing redundancy and focusing on the most informative patterns. We show that applying XAI methods to these compressed representations leads to concise and structured explanations that maintain faithfulness without sacrificing classification performance. Additionally, we propose Similar Subsequence Accuracy (SSA), a novel metric that quantitatively assesses the alignment between XAI-identified salient subsequences and the label distribution in the training data. SSA provides a systematic way to validate whether the features highlighted by XAI methods are truly representative of the learned classification patterns. Our findings demonstrate that discrete latent representations not only retain the essential characteristics needed for classification but also offer a pathway to more compact, interpretable, and computationally efficient explanations in time series analysis.

연구 동기 및 목표

• 고위험 도메인에서 해석 가능한 시간 시계열 분류의 필요성을 제시한다.
• 시간 시계열에 대해 이산 잠재 표현을 학습하고( VQ-VAE, DVAE, SAX ) 잠재 코드로 분류하는 파이프라인을 제안한다.
• 이산 잠재 공간에 XAI 방법을 적응시키고 적용하여 간결하고 충실한 설명을 생성한다.
• XAI 주목도와 훈련 데이터 패턴 간 정합성을 정량적으로 평가하기 위해 Similar Subsequence Accuracy (SSA)를 도입한다.
• 잠재 표현과 비잠재 표현 간의 설명을 비교하기 위해 산업 및 의료 데이터 세트에 걸친 실증 평가를 제공한다.

제안 방법

• 시간 시계열을 VQ-VAE, DVAE, SAX를 기반으로 이산 잠재 표현으로 변환한다.
• 해석 가능성을 위한 원시 시퀀스의 25-타임스텝 부분시퀀스에 각 이산 코드를 매핑하는 패칭 기법을 부착한다.
• 알 수 없는 MASK 토큰을 통해 이산 토큰에 작동하도록 Saliency Map, Integrated Gradients, Randomized Input Sampling (RISE), LIME 및 Attention Maps를 적응시킨다.
• 교란 분석, 구현 불변성, 방법 간 일치도 및 새로운 SSA 지표를 포함한 설명을 평가한다.
• 다양한 시드로 여러 모델을 학습하여 설명의 안정성(구현 불변성)을 평가하고 지표의 평균/표준편차를 보고한다.

실험 결과

연구 질문

• RQ1 이산 잠재 표현이 시간 시계열의 분류 성능을 유지하면서 설명 가능성을 향상시킬 수 있는가?
• RQ2 이산 잠재 공간에서의 XAI 설명이 원시 입력 공간보다 더 간결하고 구조화된 설명을 제공하는가?
• RQ3 진짜 클래스 구분 패턴과의 정합성을 보장하기 위해 이산 잠재 공간에서의 설명을 어떻게 정량적으로 평가할 수 있는가?
• RQ4 SSA가 XAI 주목도와 훈련 데이터의 반복 패턴 간 정합성을 신뢰할 수 있게 측정하는가?
• RQ5 설명은 모델 초기화에 따라 안정적이며 서로 다른 XAI 방법 간에도 일치하는가?

주요 결과

• 단순한 분류기와 함께 이산 표현(VQ-VAE/DVAE)은 특정 데이터 세트에서 설명 중심 지표가 경쟁력 있거나 더 우수하게 달성될 수 있다.
• 잠재 공간의 XAI 설명은 분류 성능을 희생하지 않으면서 더 간결하고 구조화되는 경향이 있다.
• SSA 지표는 주목되는 잠재 부분시퀀스와 훈련 데이터의 클래스 특이 패턴 간 정합성을 정량적으로 측정한다.
• 주요 특징을 가장 잘 밝히는 XAI 방법은 모델 아키텍처와 데이터 세트에 따라 다르지만, 일부 방법은 더 높은 강건성과 방법 간 일치를 보인다.
• 구현 불변성(시드 간 안정성)과 방법 간 일치는 설명 신뢰성에 유용한 진단이다.