[논문 리뷰] Don't Get Me Wrong: How to Apply Deep Visual Interpretations to Time Series

Christoffer Loeffler, Wei-Cheng Lai외 4명|arXiv (Cornell University)|2022. 03. 14.

Data Visualization and Analytics인용 수 5

한 줄 요약

이 논문은 시계열 분류 및 분할 작업을 위한 사후 시각적 해석 방법을 객관적으로 평가하기 위해 여섯 개인 평가 지표—합리성, 충실도, 민감도, 내구성, 안정성, 국소화—로 구성된 프레임워크를 제안한다. 연구는 다양한 시계열 데이터셋과 신경망 아키텍처에서 아홉 가지 해석 기법을 평가하여, 어떤 방법도 일관되게 뛰어나지 않음을 확인하고, 모델 및 작업에 특화된 시각화 선택을 위한 실질적인 권고안을 제공한다.

ABSTRACT

The correct interpretation of convolutional models is a hard problem for time series data. While saliency methods promise visual validation of predictions for image and language processing, they fall short when applied to time series. These tend to be less intuitive and represent highly diverse data, such as the tool-use time series dataset. Furthermore, saliency methods often generate varied, conflicting explanations, complicating the reliability of these methods. Consequently, a rigorous objective assessment is necessary to establish trust in them. This paper investigates saliency methods on time series data to formulate recommendations for interpreting convolutional models and implements them on the tool-use time series problem. To achieve this, we first employ nine gradient-, propagation-, or perturbation-based post-hoc saliency methods across six varied and complex real-world datasets. Next, we evaluate these methods using five independent metrics to generate recommendations. Subsequently, we implement a case study focusing on tool-use time series using convolutional classification models. Our results validate our recommendations that indicate that none of the saliency methods consistently outperforms others on all metrics, while some are sometimes ahead. Our insights and step-by-step guidelines allow experts to choose suitable saliency methods for a given model and dataset.

연구 동기 및 목표

• 시계열 데이터에서 인간 판단이 데이터 다양성과 낮은 직관적 해석 가능성으로 인해 신뢰할 수 없기 때문에, 시계열 분야에서 사후 해석 방법에 대한 객관적 평가 기준의 부족을 해결하기 위해.
• 도메인 전문가가 다양한 모델과 작업 간에 중요도 맵을 검증하고 비교할 수 있도록 표준화된 객관적 평가 프레임워크를 개발하기 위해.
• 모델 아키텍처, 훈련 정규화 기법, 데이터셋 특성이 해석 품질에 미치는 영향을 조사하기 위해.
• 다양한 지표에서의 실증적 성능 기반으로 적절한 시각화 기법 선택을 위한 실질적인 권고안을 제공하기 위해.

제안 방법

• 저자들은 여섯 개인 평가 지표를 정의한다: 합리성(모델 파라미터 의존성), 충실도(입력 변형에 따른 예측 정확도와의 상관관계), 민감도(정확한 클래스 대비 잘못된 클래스에 대한 차별적 중요도), 내구성(작은 입력 변화가 중요도 이동에 미치는 영향), 안정성(동일한 클래스 샘플에 대해 일관된 중요도), 국소화(예측된 세그먼트에 중요도 집중).
• 이 프레임워크는 FCN, TCN, U-Net, bi-LSTM 네 가지 딥 러닝 아키텍처에서 작동하며, 기울기 기반, 활성도 기반, 변형 기반의 아홉 가지 사후 해석 기법에 적용된다.
• 평가 대상은 12개의 UCR 시계열 데이터셋과 하나의 실생활 산업 데이터셋(도구 추적)이며, 각 샘플별로 지표를 계산하고 데이터셋 및 모델 간 집계된다.
• 데이터셋 편향을 제어하기 위해, 각 {지표, 데이터셋} 별로 점수를 정규화하여 상대적 성능을 산출함으로써, 다양한 방법 간 공정한 비교가 가능하도록 한다.
• 저자들은 쌍별 상관관계 분석을 통해 지표의 상호 독립성을 검증하여, 어떤 두 지표 사이에도 유의미한 상관관계가 없음을 확인함으로써, 각 지표가 독립적인 특성을 캡처하고 있음을 입증한다.
• 추가로, 드롭아웃, 가중치 감쇠 등의 정규화 기법에 대한 아블레이션 연구를 수행하여, 이들이 해석 품질에 미치는 영향을 평가한다.

실험 결과

연구 질문

• RQ1 다양한 객관적 지표에서 시계열 분류 및 분할 작업에서 가장 우수한 성능을 보이는 시각적 해석 방법은 무엇인가?
• RQ2 모델 아키텍처와 훈련 정규화 기법은 다양한 해석 기법이 생성하는 중요도 맵의 품질에 어떻게 영향을 미치는가?
• RQ3 기존의 평가 지표들(합리성, 충실도, 내구성 등)은 해석 품질에 대해 서로 독립적이고 중복되지 않는 신호를 제공하는가?
• RQ4 상호 독립적인 지표로 구성된 통합 프레임워크는 시계열 딥 러닝 모델의 시각화 방법 선택을 신뢰성 있게 안내할 수 있는가?
• RQ5 다양한 시계열 데이터셋은 해석 기법의 상대적 성능에 어떤 영향을 미치는가?

주요 결과

• 어느 한 방법도 모든 여섯 지표에서 일관되게 뛰어나지 않음을 확인하여, 방법의 성능이 특정 평가 기준과 작업에 크게 의존함을 시사한다.
• 국소화 지표 분석 결과, bi-LSTM 모델에서 도구 추적 분할 작업에 대해 어떤 방법도 만족스러운 중요도 맵을 생성하지 못함을 확인하여, 현재 기법들 사이에 심각한 격차가 있음을 드러냈다.
• 충실도와 내부 클래스 안정성은 데이터셋 선택에 특히 민감하여, 일부 데이터셋은 다른 데이터셋보다 해석 품질에 더 큰 도전 과제를 제기한다.
• 모델 아키텍처는 해석 품질에 비교적 작은 영향을 미치며, 이는 해석 기법이 다양한 네트워크 설계 간에 상당히 일반화됨을 시사한다.
• 여섯 지표는 상호 독립적이다—어느 두 지표 사이에도 유의미한 상관관계가 없으며, 각 지표가 중요도 품질의 독립적이고 고유한 측면을 캡처하고 있음을 입증한다.
• 지표 및 데이터셋 별 정규화 점수 분석 결과, 방법의 상대적 성능 순위가 안정적이고 의미 있는 것으로 나타나, 다양한 데이터셋 간 공정한 비교가 가능함을 확인했다.