[論文レビュー] Understanding Hidden Memories of Recurrent Neural Networks

Yao Ming, Shaozu Cao+5 more|arXiv (Cornell University)|Oct 30, 2017

Topic Modeling参考文献 40被引用数 27

ひとこと要約

この論文では、入力語に対する応答の期待値を測定することで、再帰的ニューラルネットワーク（RNN）の隠れ状態を解釈する可視化分析システムRNNVisを紹介する。これらの応答に基づいて隠れユニットと語を同時にクラスタリングすることで、システムはそれらをメモリチップと語のクラウドとして可視化し、ユーザーが感情分析を含むRNNの動作を、インタラクティブなギフトベースの文可視化と専門家による検証を通じて診断・比較できるようにする。

ABSTRACT

Recurrent neural networks (RNNs) have been successfully applied to various natural language processing (NLP) tasks and achieved better results than conventional methods. However, the lack of understanding of the mechanisms behind their effectiveness limits further improvements on their architectures. In this paper, we present a visual analytics method for understanding and comparing RNN models for NLP tasks. We propose a technique to explain the function of individual hidden state units based on their expected response to input texts. We then co-cluster hidden state units and words based on the expected response and visualize co-clustering results as memory chips and word clouds to provide more structured knowledge on RNNs' hidden states. We also propose a glyph-based sequence visualization based on aggregate information to analyze the behavior of an RNN's hidden state at the sentence-level. The usability and effectiveness of our method are demonstrated through case studies and reviews from domain experts.

研究の動機と目的

• RNNが自然言語処理タスクで成功を収めているにもかかわらず、しばしば「ブラックボックス」として扱われる解釈可能性のギャップを解消すること。
• 隠れ状態ユニットと入力語の間で分散された意味情報の扱いの難しさを克服すること。
• 理解、比較、診断の支援を可能にするスケーラブルでインタラクティブな可視化システムを提供すること。
• ドメインの専門家や実務家が、シーケンス全体にわたる隠れ状態の情報のエンコードと更新の仕組みを探索できるようにすること。
• 直感的でデータ駆動型の可視化表現を通じて、モデルのデバッグと仮説検証を支援すること。

提案手法

• 入力シーケンス全体の統計的期待値を用いて、入力語に対する応答の期待値を測定することで、個々の隠れ状態ユニットの解釈を可能にする新規技術を提案する。
• 期待応答に基づく重み付きエッジを有する二部グラフとして、隠れユニットと語の関係をモデル化し、構造的な分析を可能にする。
• 共通クラスタリングを適用して関連する隠れ状態ユニットと語をグループ化し、視覚的探索のためのメモリチップと語のクラウドに整理する。
• 隠れ状態統計を集約して文レベルの挙動とダイナミクスを表すギフトベースのシーケンス可視化を設計する。
• 異なるRNNモデル間での隠れ状態応答の探索、比較、解釈を可能にする豊富なインタラクティブ機能を統合する。
• パrameterチューニング、応答分布の点検、ユニットの解釈を支援するコントロールパネルと詳細表示を採用する。

実験結果

リサーチクエスチョン

• RQ1 RNNの個々の隠れ状態ユニットの機能的役割は、入力語への応答性という観点からどのように解釈できるか？
• RQ2 RNNにおける隠れ状態と語の間で意味情報がどのように分布しているか、そしてその分布を意味的に明確に可視化する方法は何か？
• RQ3 隠れ状態ユニットと語の共通クラスタリングは、RNNメモリ表現に解釈可能なパターンを明らかにできるか？
• RQ4 可視化分析は、感情分析タスクにおける異なるRNNアーキテクチャ（例：GRU対LSTM）の診断と比較にどの程度効果的に機能するか？
• RQ5 RNNVisのような視覚的ツールは、深層学習におけるモデルの解釈性をどの程度向上させ、専門家の仮説検証を支援できるか？

主な発見

• 全員の専門家参加者が感情分析の事例研究でより優れたモデルを正しく特定し、その成功の理由としてRNNVisが否定的感情語の強力な捉え込みを明らかにできたことに起因すると述べた。
• 専門家はシステムの使いやすさと有効性を一致して確認した。P2は柔軟な仮説検証を可能にすると評価し、P1は訓練ログを超えたデバッグの価値を強調した。
• ギフトベースの可視化は文レベルのRNN挙動を効果的に伝えることができ、共通クラスタリングの結果（メモリチップと語のクラウド）は隠れ状態内の機能的クラスタの直感的発見を可能にした。
• 初期の学習曲線を除き、参加者は認知的負荷が低かったと報告した。P4は、システムの美的でインタラクティブなデザインを称賛した。
• フィードバックでは、RNNVisがモデル比較を支援でき、例えばLSTMがバニラRNNに比べて長期依存性の処理に優れていることを明らかにした。
• 今後のバージョンでは、訓練メトリクスへのプログラム的アクセス、推論結果の統合、アテンション機構やメモリネットワークのサポートを含む改善点が専門家から提案された。