[論文レビュー] Cooperative Learning of Disjoint Syntax and Semantics

Serhii Havrylov, Germán Kruszewski+1 more|arXiv (Cornell University)|Feb 25, 2019

Topic Modeling参考文献 46被引用数 6

ひとこと要約

本論文は、構文と意味を別々のモジュールに分離し、混合連続（勾配降下法）および離散的（強化学習）最適化で訓練する協調学習フレームワークを提案する。モデルは文脈自由文法からのネストされた数学的式の構文解析でほぼ完璧な正確性を達成し、構文的監視を必要とせず、自然言語誘導（NLI）およびセンチメント分析タスクでも競争力ある性能を示す。

ABSTRACT

There has been considerable attention devoted to models that learn to jointly infer an expression's syntactic structure and its semantics. Yet, \citet{NangiaB18} has recently shown that the current best systems fail to learn the correct parsing strategy on mathematical expressions generated from a simple context-free grammar. In this work, we present a recursive model inspired by ewcite{ChoiYL18} that reaches near perfect accuracy on this task. Our model is composed of two separated modules for syntax and semantics. They are cooperatively trained with standard continuous and discrete optimization schemes. Our model does not require any linguistic structure for supervision and its recursive nature allows for out-of-domain generalization with little loss in performance. Additionally, our approach performs competitively on several natural language tasks, such as Natural Language Inference or Sentiment Analysis.

研究の動機と目的

• 構文的監視を必要とせず、単純な文脈自由文法から正しい構文構造を学習できる既存モデルの限界を克服すること。
• 離散的パーサーと連続的合成関数の共同学習における共適応問題を克服すること。
• 分離されたモジュールを備えた再帰的でエンドツーエンド微分可能なアーキテクチャにより、ドメイン外一般化を可能にすること。
• 自然言語誘導（NLI）およびセンチメント分析といった標準的NLPタスクで競争力ある性能を示しつつ、意味的な構文構造を学習できることを実証すること。
• 再帰的モデルと潜在的木構造を、下流タスクの事前学習手法として使用可能かどうかを検討すること。

提案手法

• モデルを2つの明確に分離したモジュールに分解する：離散的パーサー（木構造生成）と連続的合成関数（意味的表現学習）。
• 訓練の安定化と学習速度の制御を目的に、Proximal Policy Optimization（PPO）を用いてパーサーを強化学習で訓練する。
• 入力依存の制御変数を用いて、強化学習の目的関数における勾配の分散を低減する。
• PPOにおける1回のポリシー更新ごとに複数の勾配ステップを適用し、サンプル効率とポリシー学習を向上させる。
• 合成関数に対する勾配降下法とパーサーに対する強化学習を組み合わせ、両者の学習率を同期させることで共適応を回避する。
• 構文木からの意味的表現を生成するために、構造を介した逆誤差伝搬（BPTS）が可能なTree-LSTMを合成関数として使用する。

実験結果

リサーチクエスチョン

• RQ1 構文的監視を必要とせず、単純な文脈自由文法から正しい構文構造を共同で学習できるエンドツーエンドモデルは可能か？
• RQ2 離散的（パーサー）と連続的（合成関数）なコンponentsは、一方が他方を支配しないようにどのように協調して学習できるか？
• RQ3 構文と意味を分離することで、より長いまたは未学習の数学的式などのドメイン外シーケンスへの一般化が向上するか？
• RQ4 潜在的構文構造を学習することで、NLI やセンチメント分析などの下流NLPタスクでの性能向上はどの程度達成できるか？
• RQ5 自然言語データで学習する際、モデルは自明なパーサー戦略（例：左枝付き木）に陥らないか？

主な発見

• MultiNLIベンチマークでは70.7% ± 0.3の正確性を達成し、先行の非監視的潜在木モデルを上回り、最先端の結果と同等である。
• SST-2およびSST-5のセンチメント分析タスクでは、それぞれ90.2% ± 0.2および51.5% ± 0.4の正確性を達成し、潜在木を備えた先行RvNNベースのモデルと同等またはそれを上回る。
• ListOpsタスクではほぼ完璧な正確性（99.8%）に達し、文脈自由文法からのネストされた数学的式を正しく解析している。
• パーサーは監視なしにバランスの取れた意味的な構文構造を学習しており、パーサー方策のエントロピーが高く、より長いシーケンスへの一般化が確認された。
• PPOに複数の勾配ステップと制御変数を適用することで、共適応問題が効果的に緩和され、パーサーが合成関数を単に模倣するのを防いだ。
• 形式的文法タスクでは優れた性能を示したが、自然言語タスクでは自明なパーサー戦略に後退する傾向が強く、先行研究の結果と整合的である。