[論文レビュー] State-Regularized Recurrent Neural Networks

Cheng Wang, Mathias Niepert|arXiv (Cornell University)|Jan 25, 2019

Machine Learning and Algorithms参考文献 61被引用数 9

ひとこと要約

本稿では、状態を有限の学習可能な状態に制約するための確率的状態遷移機構を用いる状態正則化再帰ニューラルネットワーク（sr-RNN）を提案する。これにより、解釈可能性と長期記憶が向上する。この手法により、訓練済みモデルから決定的有限オートマトン（DFAs）を正確に抽出でき、隠れ状態からセル状態への記憶のシフトによって、バランス括弧やコピータスクなどのタスクにおける外挿性能が向上する。

ABSTRACT

Recurrent neural networks are a widely used class of neural architectures. They have, however, two shortcomings. First, it is difficult to understand what exactly they learn. Second, they tend to work poorly on sequences requiring long-term memorization, despite having this capacity in principle. We aim to address both shortcomings with a class of recurrent networks that use a stochastic state transition mechanism between cell applications. This mechanism, which we term state-regularization, makes RNNs transition between a finite set of learnable states. We evaluate state-regularized RNNs on (1) regular languages for the purpose of automata extraction; (2) nonregular languages such as balanced parentheses, palindromes, and the copy task where external memory is required; and (3) real-word sequence learning tasks for sentiment analysis, visual object recognition, and language modeling. We show that state-regularization (a) simplifies the extraction of finite state automata modeling an RNN's state transition dynamics; (b) forces RNNs to operate more like automata with external memory and less like finite state machines; (c) makes RNNs have better interpretability and explainability.

研究の動機と目的

• 長期間のシーケンスタスクにおける標準RNNの解釈性の低さと外挿性能の限界を改善すること。
• 訓練済みRNNから有限状態オートマトン（DFA）を抽出する手順を簡素化し、精度を向上させること。
• 記憶の負荷を隠れ状態からセル状態に移動させることで、隠れ状態への依存度を低減すること。
• RNNを外部記憶を持つオートマトンに近い挙動にすること。
• 実世界のシーケンスタスクにおける性能を損なわせることなく、モデルの説明可能性を向上させること。

提案手法

• 学習可能な有限状態集合間の確率的遷移をモデル化するための確率的状態遷移機構を導入し、隠れ状態の間の状態遷移を制御する。
• エンド・ツー・エンド微分可能な最適化を用いて、基本RNNパラメータと状態遷移パラメータを同時に学習する。
• 隠れ状態の重心ベースクラスタリングを用いて離散状態を定義し、学習されたダイナミクスから直接DFAを抽出可能にする。
• LSTMおよびGRUに状態正則化を適用し、事前に定義された状態間の遷移を優遇するように隠れ状態の更新を変更する。
• 現在の状態と入力を入力として、次状態の確率分布を出力する確率的遷移関数を採用し、構造的で確率的な状態進化を可能にする。
• 従来の後処理クラスタリング手法とは異なり、RNNの状態遷移行動を忠実に再現する決定的有限オートマトン（DFAs）を正確に抽出可能にする。

実験結果

リサーチクエスチョン

• RQ1 状態正則化RNNは、訓練済みモデルから有限状態オートマトンをより正確かつ直接に抽出可能か？
• RQ2 状態正則化は、記憶を要する長期間シーケンスタスクにおける一般化性能と外挿性能を向上させるか？
• RQ3 LSTMにおける状態正則化は、記憶を隠れ状態からセル状態にどの程度シフトさせるか？
• RQ4 確率的状態遷移機構は、モデルの解釈性と説明可能性にどのような影響を与えるか？
• RQ5 sr-RNNは、実世界のNLPおよびビジョンタスクにおいて、競争力のある性能を発揮しながらも、より解釈可能になるか？

主な発見

• 状態正則化LSTMは、隠れ状態からの記憶を完全にセル状態に移行させ、非構造的記憶の低減を実現する。
• 従来のトレーニング後クラスタリング手法とは異なり、RNNの状態遷移ダイナミクスを忠実にモデル化する決定的有限オートマトン（DFAs）を正確に抽出可能である。
• sr-RNNは、バランス括弧、回文、コピータスクなどの合成タスクにおいて顕著な外挿性能の向上を示す。
• センチメント分析や言語モデリングなどの実世界タスクでは、sr-RNNは優れた性能を発揮し、解釈性も向上している。
• sr-RNNの計算オーバーヘッドは限定的であるが、トレーニング時間は依然として高く、収束速度の向上は一貫していない。
• このアプローチにより、RNNは外部記憶を持つオートマトンに近い挙動を示し、有限状態機械に近い挙動を示す傾向が軽減される。