[論文レビュー] Dimension Reduction Approach for Interpretability of Sequence to Sequence Recurrent Neural Networks.

Kun Su, Eli Shlizerman|arXiv (Cornell University)|May 29, 2019

Neural Networks and Applications被引用数 2

ひとこと要約

本稿では、sequence-to-sequence RNNの隠れ状態ダイナミクスを可視化および解釈するために、適切直交分解（POD）を用いた次元削減手法を提案する。エンコーダおよびデコーダの隠れ状態を低次元埋め込み空間に投影することにより、異なるダイナミックスパターンに対応する明確に分離されたクラスタが明らかになり、エンコーダが軌道を初期化し、デコーダがアトラクタを形成する。これにより、解釈可能性とトレーニング最適性の評価が可能になる。

ABSTRACT

Encoder-decoder recurrent neural network models (Seq2Seq) have achieved great success in ubiquitous areas of computation and applications. It was shown to be successful in modeling data with both temporal and spatial dependencies for translation or prediction tasks. In this study, we propose a dimension reduction approach to visualize and interpret the representation of the data by these models. We propose to view the hidden states of the encoder and the decoder as spatio-temporal snapshots of network dynamics and to apply proper orthogonal decomposition to their concatenation to compute a low-dimensional embedding for hidden state dynamics. Projection of the decoder states onto such interpretable embedding space shows that Seq2Seq training to predict sequences using gradient-descent back propagation effectively performs dimension reduction consisting of only a small percentage of dimensions of the network's hidden units. Furthermore, sequences are being clustered into well separable clusters in the low dimensional space each of which corresponds to a different type of dynamics. The projection methodology also clarifies the roles of the encoder and the decoder components of the network. We show that the projection of encoder hidden states onto the low dimensional space provides an initializing trajectory directing the sequence to the cluster which corresponds to that particular type of distinct dynamics and the projection of the decoder hidden states constitutes the embedded cluster attractor. Inspection of the low dimensional space and the projections onto it during training shows that the estimation of clusters separability in the embedding can be utilized to estimate the optimality of model training. We test and demonstrate our proposed interpretability methodology on synthetic examples (dynamics on a circle and an ellipse) and on 3D human body movement data.

研究の動機と目的

• 隠れ状態ダイナミクスの可視化を通じて、sequence-to-sequence RNNの解釈性を向上させること。
• シーケンスの本質的ダイナミクスを捉える、隠れ状態表現における低次元構造を同定すること。
• エンコーダおよびデコーダのコンポーネントが、シーケンス生成のダイナミクスをどのように形作っているかを明確にすること。
• 埋め込み空間におけるクラスタの分離度を、モデルのトレーニング最適性の指標として用いること。
• 本手法を合成ダイナミクスおよび実際の3次元人体運動シーケンスに対して検証すること。

提案手法

• ネットワークのダイナミクスを表すスパティオテンポラルデータ行列として、エンコーダおよびデコーダの隠れ状態を連結する。
• 連結された行列に適切直交分解（POD）を適用し、支配的ダイナミクスモードを捉える低次元埋め込み空間を計算する。
• デコーダの隠れ状態をPODによって得られた埋め込み空間に投影し、明確なダイナミックス行動に対応するクラスタアトラクタを明らかにする。
• 同じ空間にエンコーダの隠れ状態を投影し、特定のダイナミックスクラスタへ向かうようにシーケンスを誘導する初期化軌道を観察する。
• 投影されたクラスタの分離度を、モデルのトレーニング品質および収束の代理指標として用いる。
• 合成データ（円および楕円ダイナミクス）および3次元人体運動シーケンスに対して、本アプローチを検証する。

実験結果

リサーチクエスチョン

• RQ1 sequence-to-sequence RNNの隠れ状態ダイナミクスは、どのように次元削減を通じて効果的に可視化および解釈できるか？
• RQ2 エンコーダおよびデコーダは、低次元埋め込み空間における軌道およびアトラクタダイナミクスをどのように形作っているか？
• RQ3 埋め込み空間におけるクラスタの分離度は、sequence-to-sequenceモデルのトレーニング最適性の指標として機能できるか？
• RQ4 提案手法は、合成データおよび実世界のシーケンスデータの両方において、明確なダイナミックスパターンをどれほど効果的に明らかにできるか？
• RQ5 低次元表現は、シーケンス生成における意味のある構造的および時間的関係をどれほど保持しているか？

主な発見

• POD埋め込み空間へのデコーダの隠れ状態の投影により、それぞれが明確なダイナミクス行動に対応する、よく分離されたクラスタが得られる。
• エンコーダの隠れ状態の投影は、特定のダイナミクスクラスタへ向かうようにシーケンスを誘導する初期化軌道を示している。
• デコーダの状態は低次元空間で安定したアトラクタ構造を形成しており、特定のダイナミクスモードへの収束を示している。
• 埋め込み空間におけるクラスタの分離度はトレーニング品質と相関しており、モデルの収束および最適性の早期評価が可能になる。
• 本手法は、合成的な円運動および楕円運動シーケンス、ならびに3次元人体の動きデータの両方において、下位のダイナミクスを効果的に捉え、可視化している。
• 勾配降下によるSeq2Seqトレーニングは、意味のあるダイナミクスを保持するにあたり、元の隠れユニット次元のわずか数パーセントにまで次元を削減する効果的な次元削減を暗黙的に行っていることが示された。