[논문 리뷰] Understanding Hidden Memories of Recurrent Neural Networks

Yao Ming, Shaozu Cao외 5명|arXiv (Cornell University)|2017. 10. 30.

Topic Modeling참고 문헌 40인용 수 27

한 줄 요약

이 논문은 순환 신경망(RNN)의 은닉 상태를 입력 단어에 대한 기대 반응을 측정함으로써 해석하는 시각적 분석 시스템인 RNNVis를 소개한다. 이러한 반응을 바탕으로 은닉 단위와 단어를 동시 클러스터링함으로써 시스템은 메모리 칩과 단어 구름 형태로 이를 시각화하여, 사용자가 문장 분석에서 특히 감성 분석에 있어 RNN의 행동을 상호작용 기반의 기호 기반 문장 시각화와 전문가 검증을 통해 진단하고 비교할 수 있도록 한다.

ABSTRACT

Recurrent neural networks (RNNs) have been successfully applied to various natural language processing (NLP) tasks and achieved better results than conventional methods. However, the lack of understanding of the mechanisms behind their effectiveness limits further improvements on their architectures. In this paper, we present a visual analytics method for understanding and comparing RNN models for NLP tasks. We propose a technique to explain the function of individual hidden state units based on their expected response to input texts. We then co-cluster hidden state units and words based on the expected response and visualize co-clustering results as memory chips and word clouds to provide more structured knowledge on RNNs' hidden states. We also propose a glyph-based sequence visualization based on aggregate information to analyze the behavior of an RNN's hidden state at the sentence-level. The usability and effectiveness of our method are demonstrated through case studies and reviews from domain experts.

연구 동기 및 목표

• RNN이 자연어 처리 작업에서 성공을 거두었음에도 불구하고 '검은 상자'로 간주되는 경향이 있는 RNN의 해석 가능성 격차를 해소하기 위해.
• 은닉 상태 단위와 입력 단어 간에 분산된 의미 정보가 매우 분산되어 있는 문제를 극복하기 위해.
• 이해, 비교, 진단을 지원하는 확장 가능한 상호작용 가능한 시각화 시스템을 제공하기 위해.
• 도메인 전문가와 실무자가 은닉 상태가 시퀀스 전반에 걸쳐 정보를 어떻게 인코딩하고 업데이트하는지 탐색할 수 있도록 하기 위해.
• 직관적인 데이터 기반의 은닉 메모리 동적 표현을 통해 모델 디버깅과 가설 검증을 지원하기 위해.

제안 방법

• 입력 시퀀스에 대한 통계적 기대값을 사용하여, 입력 단어에 대한 기대 반응을 측정함으로써 개별 은닉 상태 단위를 해석하는 새로운 기법을 제안한다.
• 은닉 단위와 단어 간의 관계를 기대 반응을 기반으로 한 가중치가 부여된 간선을 가진 이분 그래프로 모델링하여 체계적인 분석을 가능하게 한다.
• 유사한 은닉 상태 단위와 단어를 공통 클러스터링하여 메모리 칩과 단어 구름 형태로 조직화함으로써 시각적 탐색을 가능하게 한다.
• 은닉 상태 통계를 집계하여 문장 수준의 행동과 동적 변화를 표현하는 기호 기반 문장 시각화를 설계한다.
• 다양한 RNN 모델 간의 은닉 상태 반응을 탐색, 비교, 해석할 수 있도록 rich한 상호작용 기능을 통합한다.
• 파rameter 조정, 반응 분포 점검, 단위 해석을 지원하는 제어 패널과 디테일 뷰를 구현한다.

실험 결과

연구 질문

• RQ1 RNN의 개별 은닉 상태 단위가 입력 단어에 대해 얼마나 반응하는가에 따라 그 기능적 역할을 어떻게 해석할 수 있는가?
• RQ2 RNN에서 은닉 상태와 단어 간의 의미 정보 분포의 구조는 무엇이며, 이를 의미 있게 어떻게 시각화할 수 있는가?
• RQ3 은닉 단위와 단어의 동시 클러스터링이 RNN 메모리 표현에서 해석 가능한 패턴을 드러내는가?
• RQ4 시각적 분석 기법이 NLP 작업에서 다양한 RNN 아키텍처(예: GRU 대비 LSTM)의 진단과 비교에 얼마나 효과적으로 기여하는가?
• RQ5 RNNVis와 같은 시각 도구가 딥러닝에서 모델의 해석 가능성 향상과 전문가의 가설 검증을 어느 정도 지원할 수 있는가?

주요 결과

• 모든 전문가 참가자들이 감성 분석 사례 연구에서 성능이 더 뛰어난 모델을 정확히 식별했으며, 그 성공의 이유로 RNNVis가 부정 감성 단어를 더 강하게 포착할 수 있었음을 기인했다.
• 전문가들은 시스템의 사용성과 효과성을 일치로 확인했으며, P2는 탄력적인 가설 검증을 가능하게 한다고 평가했고, P1은 훈련 로그를 넘어서 디버깅에 있어 시스템의 가치를 강조했다.
• 기호 기반 시각화는 문장 수준의 RNN 행동을 효과적으로 전달했고, 동시 클러스터링 결과(메모리 칩과 단어 구름)는 은닉 상태 내 기능적 클러스터의 직관적 탐색을 가능하게 했다.
• 초기 학습 곡선 이후 전문가들은 낮은 인지 부하를 경험했으며, P4는 시스템의 미적이고 상호작용 가능한 설계를 칭찬했다.
• 피드백에 따르면 RNNVis는 LSTMs가 보편적인 RNN보다 장기 의존성 처리에서 뛰어난 성능을 보임을 드러내는 등 모델 비교를 지원한다.
• 전문가들은 향후 버전에서 학습 메트릭스에 대한 프로그래밍적 접근, 추론 결과 통합, 어텐션 메커니즘과 메모리 네트워크의 지원을 위한 개선 사항을 제안했다.