[논문 리뷰] Dimension Reduction Approach for Interpretability of Sequence to Sequence Recurrent Neural Networks.

Kun Su, Eli Shlizerman|arXiv (Cornell University)|2019. 05. 29.

Neural Networks and Applications인용 수 2

한 줄 요약

이 논문은 시퀀스-투-시퀀스 RNN의 은닉 상태 다이나믹스를 시각화하고 해석하기 위해 적절한 직교 분해(POD)를 사용한 차원 축소 기법을 제안한다. 인코더 및 디코더 은닉 상태를 저차원 임bedding 공간에 투영함으로써, 서로 다른 다이나믹스 패턴에 대응하는 명확하게 분리된 클러스터가 드러나며, 인코더가 궤적을 초기화하고 디코더가 액트로포어를 형성함으로써, 이해 가능성과 학습 최적성 평가가 가능해진다.

ABSTRACT

Encoder-decoder recurrent neural network models (Seq2Seq) have achieved great success in ubiquitous areas of computation and applications. It was shown to be successful in modeling data with both temporal and spatial dependencies for translation or prediction tasks. In this study, we propose a dimension reduction approach to visualize and interpret the representation of the data by these models. We propose to view the hidden states of the encoder and the decoder as spatio-temporal snapshots of network dynamics and to apply proper orthogonal decomposition to their concatenation to compute a low-dimensional embedding for hidden state dynamics. Projection of the decoder states onto such interpretable embedding space shows that Seq2Seq training to predict sequences using gradient-descent back propagation effectively performs dimension reduction consisting of only a small percentage of dimensions of the network's hidden units. Furthermore, sequences are being clustered into well separable clusters in the low dimensional space each of which corresponds to a different type of dynamics. The projection methodology also clarifies the roles of the encoder and the decoder components of the network. We show that the projection of encoder hidden states onto the low dimensional space provides an initializing trajectory directing the sequence to the cluster which corresponds to that particular type of distinct dynamics and the projection of the decoder hidden states constitutes the embedded cluster attractor. Inspection of the low dimensional space and the projections onto it during training shows that the estimation of clusters separability in the embedding can be utilized to estimate the optimality of model training. We test and demonstrate our proposed interpretability methodology on synthetic examples (dynamics on a circle and an ellipse) and on 3D human body movement data.

연구 동기 및 목표

• 은닉 상태 다이나믹스를 시각화함으로써 시퀀스-투-시퀀스 RNN의 이해 가능성을 향상시키기 위해.
• 시퀀스 다이나믹스의 핵심 특성을 포착하는 은닉 상태 표현 내의 저차원 구조를 식별하기 위해.
• 인코더 및 디코더 구성 요소가 시퀀스 생성을 형성하는 데 기여하는 역할을 명확히 하기 위해.
• 임bedding 공간 내의 클러스터 분리도를 모델 학습 최적성의 지표로 사용하기 위해.
• 합성 다이나믹스와 실제 3D 인간 운동 시퀀스에 대해 방법을 검증하기 위해.

제안 방법

• 네트워크 다이나믹스를 나타내는 공간-시간 데이터 행렬을 만들기 위해 인코더 및 디코더의 은닉 상태를 연결한다.
• 결합된 행렬에 적절한 직교 분해(POD)를 적용하여 주요 다이나믹스 모드를 포착하는 저차원 임베딩 공간을 계산한다.
• 디코더 은닉 상태를 POD로 유도된 임베딩 공간에 투영하여, 서로 다른 동적 행동에 대응하는 클러스터 액트로포어를 드러낸다.
• 동일한 공간에 인코더 은닉 상태를 투영하여, 특정 동적 클러스터로 향하는 경로를 유도하는 초기화 궤적을 관찰한다.
• 투영된 클러스터의 분리도를 모델 학습 품질과 수렴성의 Proxy로 사용한다.
• 합성 데이터(원운동 및 타원운동 다이나믹스)와 3D 인간 운동 시퀀스에 대해 접근 방식을 검증한다.

실험 결과

연구 질문

• RQ1 시퀀스-투-시퀀스 RNN의 은닉 상태 다이나믹스는 차원 축소를 통해 어떻게 효과적으로 시각화되고 해석될 수 있는가?
• RQ2 인코더와 디코더는 저차원 임베딩 공간 내의 궤적 및 액트로포어 다이나믹스를 형성하는 데 어떤 역할을 하는가?
• RQ3 임베딩 공간 내의 클러스터 분리도는 시퀀스-투-시퀀스 모델의 학습 최적성 지표로 사용될 수 있는가?
• RQ4 제안된 방법은 합성 및 실제 세계 시퀀스 데이터 양쪽에서 명확한 동적 패턴을 얼마나 잘 드러내는가?
• RQ5 저차원 표현은 시퀀스 생성의 의미 있는 구조적 및 시간적 관계를 어느 정도 유지하는가?

주요 결과

• POD 임베딩 공간에 디코더 은닉 상태를 투영하면, 각각 서로 다른 유형의 동적 행동에 대응하는 잘 분리된 클러스터가 드러난다.
• 인코더 은닉 상태의 투영은 특정 동적 클러스터로 향하는 경로를 유도하는 초기화 궤적을 보여주며, 이는 시퀀스의 방향성을 결정한다.
• 디코더 상태는 저차원 공간에서 안정적인 액트로포어 구조를 형성하여 특정 다이나믹스 모드로 수렴함을 나타낸다.
• 임베딩 공간 내의 클러스터 분리도는 학습 품질과 관련이 있으며, 모델 수렴성과 최적성의 조기 평가가 가능하게 한다.
• 이 방법은 합성 원운동 및 타원운동 시퀀스뿐 아니라 3D 인간 신체 운동 데이터에서도 기저의 다이나믹스를 성공적으로 포착하고 시각화한다.
• 이 접근법은 경사 하강법에 의한 시퀀스-투-시퀀스 학습이 의미 있는 다이나믹스를 유지하기 위해 원래 은닉 유닛 차원의 소수의 비율만을 실제로 활용한다는 점을 보여준다.