[論文レビュー] The neural network pushdown automation: model, stack and learning simulations

Guo-Zheng Sun, C. Lee Giles+2 more|arXiv (Cornell University)|Aug 1, 1993

Machine Learning and Algorithms参考文献 41被引用数 32

ひとこと要約

本稿では、再帰的ニューラルネットワークと連続的で微分可能なスタックを組み合わせたニューラルネットワーク・プッシュダウンオートマトン（NNPDA）を提案する。勾配降下法を用いてアナログスタック上で結合誤差関数を最適化することで、訓練後、任意の長さの未観測文字列を正しく認識する離散的PDAに変換可能であり、元の文法のPDA構造と一致する。

ABSTRACT

In order for neural networks to learn complex languages or grammars, they must have sufficient computational power or resources to recognize or generate such languages. Though many approaches have been discussed, one ob- vious approach to enhancing the processing power of a recurrent neural network is to couple it with an external stack memory - in effect creating a neural network pushdown automata (NNPDA). This paper discusses in detail this NNPDA - its construction, how it can be trained and how useful symbolic information can be extracted from the trained network. In order to couple the external stack to the neural network, an optimization method is developed which uses an error function that connects the learning of the state automaton of the neural network to the learning of the operation of the external stack. To minimize the error function using gradient descent learning, an analog stack is designed such that the action and storage of information in the stack are continuous. One interpretation of a continuous stack is the probabilistic storage of and action on data. After training on sample strings of an unknown source grammar, a quantization procedure extracts from the analog stack and neural network a discrete pushdown automata (PDA). Simulations show that in learning deterministic context-free grammars - the balanced parenthesis language, 1*n0*n, and the deterministic Palindrome - the extracted PDA is correct in the sense that it can correctly recognize unseen strings of arbitrary length. In addition, the extracted PDAs can be shown to be identical or equivalent to the PDAs of the source grammars which were used to generate the training strings.

研究の動機と目的

• 複雑な文法を学習するための計算能力を向上させるために、外部スタックメモリを備えた再帰的ニューラルネットワークを拡張すること。
• 勾配降下法によるエンドツーエンド学習を可能にする、微分可能なスタック機構を開発すること。
• 訓練済みのニューラルネットワークおよびスタックシステムから離散的で記号的なプッシュダウンオートマトン（PDA）を抽出すること。
• 抽出されたPDAが、決定的文脈自由文法からの未観測文字列を正しく認識できることを示すこと。
• 抽出されたPDAが、学習データの生成に用いられた元の文法のPDAと同等または同一であることを検証すること。

提案手法

• スタック操作（プッシュ/ポップ）とデータ保存を連続関数としてモデル化する連続的で微分可能なスタックを設計すること。
• ニューラルネットワーク状態オートマトンの学習とスタック操作の学習を結合する誤差関数を定義すること。
• 誤差関数を勾配降下法で最小化し、ネットワークおよびスタックの両方に対して誤差逆伝播を可能にすること。
• アナログスタックおよび訓練済みネットワークを離散的プッシュダウンオートマトン（PDA）に変換する量子化手順を適用すること。
• 1*n0*n や回文などの、未知の決定的文脈自由文法からのサンプル文字列でNNPDAを訓練すること。
• 未観測の任意長の文字列の認識能力をテストすることで、抽出されたPDAの妥当性を検証すること。

実験結果

リサーチクエスチョン

• RQ1 微分可能なスタックを備えたニューラルネットワークは、括弧のバランスや回文といった決定的文脈自由言語を認識できるか？
• RQ2 訓練済みのニューラルネットワークおよびアナログスタックシステムから記号的で離散的なPDAを抽出できるか？
• RQ3 抽出されたPDAは、ターゲット文法からの未観測文字列を任意の長さで正しく認識できるか？
• RQ4 抽出されたPDAは、学習データの生成に使われた元の文法のPDAと同等または同一か？
• RQ5 勾配ベースの学習は、統合フレームワーク内でニューラルネットワークとスタック操作の両方を効果的に訓練できるか？

主な発見

• NNPDAは、1*n0*n や決定的回文を含む、決定的文脈自由文法からの未観測文字列を任意の長さで正しく認識する能力を効果的に学習した。
• 訓練後、量子化手順により抽出された離散的PDAは、ターゲット文法からのすべての未観測テスト文字列を正しく分類した。
• 抽出されたPDAは、学習文字列の生成に使われた元の文法のPDAと同一または同等であることが判明した。
• 連続的スタックにより、スタック操作を介した誤差逆伝播が効果的に可能となり、ネットワークとスタック動作の共同最適化が実現された。
• 本モデルは、外部記憶を持つ微分可能なニューラルネットワークから記号的知識（すなわち離散的PDA）を抽出できることを示した。
• 本アプローチは、トレーニング中に観測されたものより長い文字列に対しても正しく一般化することを示しており、基礎となる文法の学習が堅牢であることを示している。