[論文レビュー] Training with Exploration Improves a Greedy Stack-LSTM Parser

Miguel Ballesteros, Yoav Goldberg+2 more|arXiv (Cornell University)|Mar 11, 2016

Topic Modeling参考文献 37被引用数 21

ひとこと要約

本論文では、静的オラクルの代わりに動的オラクルを用いて、グリーディスタックLSTM依存解析器を訓練することを提案しており、これによりモデルが自身の予測誤差から学習できるようになる。ゴールスタンダードとモデルが生成するパーサー状態の間を補間することで一般化性能が向上し、英語では93.56 UASを達成し、グリーディパーサーにおける新たなSOTAを樹立した。なお、線形の解析速度を維持している。

ABSTRACT

We adapt the greedy Stack-LSTM dependency parser of Dyer et al. (2015) to support a training-with-exploration procedure using dynamic oracles(Goldberg and Nivre, 2013) instead of cross-entropy minimization. This form of training, which accounts for model predictions at training time rather than assuming an error-free action history, improves parsing accuracies for both English and Chinese, obtaining very strong results for both languages. We discuss some modifications needed in order to get training with exploration to work well for a probabilistic neural-network.

研究の動機と目的

• グリーディニューラル依存解析器におけるトレーニングと推論の不一致を解消すること。具体的には、トレーニングでは完全な歴史的アクションを仮定しているが、テストではモデルが予測したアクションが使用される。
• 非ゴールスタンダードでモデルが生成するパーサー状態を用いて、グリーディスタックLSTMパーサーのロバスト性を向上させること。
• GolbergとNivre（2013）が提唱した動的オラクルフレームワークを、確率的ニューラルネットワーク遷移ベースパーサーに適応すること。
• トレーニング中に探索を組み込むことで、推論速度を損なわずにパーサーの精度が向上するかどうかを評価すること。
• 多言語依存解析ベンチマークにおいて、グリーディパーサーのSOTAパフォーマンスを確立すること。

提案手法

• ゴールスタンダードのアクションを仮定するのではなく、不完全（モデル予測）されたパーサー歴史に基づいて最適なアクションを選択する動的オラクルに、静的オラクルを置き換える。
• トレーニング中にゴールスタンダードとモデル生成パーサー状態の間を混合係数αで補間し、英語ではα=0.75が最適であると特定された。
• スタックLSTMを用いてパーサー状態を固定次元ベクトルp_tに符号化し、これによりアクション埋め込みg_zとバイアスq_zを用いたソフトマックスによってアクション確率を計算する。
• ゴールシーケンスではなく、動的オラクルが選択したアクションシーケンスの負の対数尤度に基づいてバックプロパゲーションでモデルを訓練する。
• スタックLSTMを用いて定数時間の状態更新を実現することで、テスト時のグリーディデコードの効率を保ちながら、線形の解析時間を維持する。
• Dyerら（2015）のスタックLSTMパーサーにこの手法を適用し、同じアーキテクチャとトレーニング設定を用いながら、監視信号を探索を含むものに変更する。

実験結果

リサーチクエスチョン

• RQ1 非ゴールスタンダードでモデルが生成するパーサー状態を用いてトレーニングすることで、テスト時の予測性能が向上するか？
• RQ2 予測誤差をトレーニング時に考慮する動的オラクルを用いることで、完全な歴史を仮定する静的オラクルよりも一般化性能が向上するか？
• RQ3 ゴール状態とモデル生成状態の補間（αで制御）が、言語ごとのパーサー精度にどのように影響するか？
• RQ4 この手法は、推論時間の増加を伴わずにグリーディパーサーにおけるSOTAパフォーマンスを達成できるか？
• RQ5 事前学習済み単語埋め込みを用いることで、探索を含むトレーニングの利点がさらに強化されるか？

主な発見

• 動的オラクルトレーニング手法は、静的オラクルトレーニングよりもパーサー精度を向上させ、英語CoNLL 2009テストセットで93.56 UASを達成した。これは、グリーディパーサーにおいて報告された最高の結果である。
• 中国語CoNLL 2009ツリーベンチマークにおいても、グリーディパーサーにおける新たなSOTAを樹立し、92.62 UASを達成した。
• 事前学習済み単語埋め込みを用いる場合、その効果が顕著に現れ、英語では最適な補間係数α=0.75が得られた。
• アーキテクチャの違いにより、アーキテクチャハイブリッド遷移システムは静的オラクルトレーニング下ではややアーキテクチャスタンダードシステムに劣るが、動的オラクルトレーニングでは顕著な向上を示した。
• 動的オラクルアプローチは、英語、中国語、ドイツ語、スペイン語の全言語で、静的オラクルベースラインと比較して一貫して性能向上を示した。ビームサーチを用いても同様の結果が得られた。
• この手法は、元のグリーディスタックLSTMパーサーと同様に線形の解析速度を維持しており、高スループット応用に適している。