[論文レビュー] Syntactic Scaffolds for Semantic Structures

Swabha Swayamdipta, Sam Thomson+4 more|arXiv (Cornell University)|Aug 30, 2018

Topic Modeling参考文献 52被引用数 7

ひとこと要約

この論文では、木構造語彙から得られるスパンレベルの句構造注釈を用いてトレーニングする multitask learning の手法、構文的スケルトンを導入する。この手法は、実行時における構文解析のコストを伴わず、意味的モデルに構文的バイアスを注入する。このアプローチにより、PropBank SRL（+1.1 F1）、FrameNet SRL（+3.6 F1）、コアリソリューション（+0.6 F1）の最先端性能が向上した。トレーニング中は文脈を考慮した表現が構文構造に沿うよう誘導されるが、推論時には構文的に自由なままに保たれる。

ABSTRACT

We introduce the syntactic scaffold, an approach to incorporating syntactic information into semantic tasks. Syntactic scaffolds avoid expensive syntactic processing at runtime, only making use of a treebank during training, through a multitask objective. We improve over strong baselines on PropBank semantics, frame semantics, and coreference resolution, achieving competitive performance on all three tasks.

研究の動機と目的

• 実行時における構文解析の計算コストを負担せずに、意味的モデルに構文的インダクティブバイアスを統合する課題に対処すること。
• 構文情報が、SRL やコアリソリューションのような意味的タスクにおける一般化を向上させるかどうかを検証すること。
• 構文的タスクと意味的タスクの間でデータセットが重複しなくてもよい方法を開発することにより、より広範な適用可能性を実現すること。
• 構文的スケルトンが、構文的に自由なベースラインを上回り、パイプラインベースの構文特徴手法と同等またはそれを上回ることを示すこと。
• 意味的タスクにおける構文的監視のための、軽量で効率的な手法を提供すること。

提案手法

• 構文的スケルトンは、トレーニング中に木構造語彙のスパンレベルの構文的ラベル（例：NP、VP）を予測するマルチタスク学習の目的関数を用いる。この際、完全な解析木を生成する必要はない。
• この手法は、構文解析を独立したスパンレベル分類タスクの集合として扱い、完全な解析アルゴリズムや有効な木構造制約の必要性を回避する。
• スケルトン損失は、OntoNotes 5.0 に含まれる構文構造注釈から導出され、主な意味的タスク（例：SRL やコアリソリューション）と同じ入力を用いる。
• 意味的タスクと構文的スケルトンの間でパラメータを共有することで、バックプロパゲーション中に意味的ヘッドが構文的監視の恩恵を受ける。
• 推論時には、構文的処理は一切実行されず、意味的モデルヘッドのみが使用される。これにより、効率性が保たれる。
• このアプローチは柔軟であり、構文的データと意味的データの間でアライメントがなくてもよい。したがって、データセットが重複しない場合でも利用可能である。

実験結果

リサーチクエスチョン

• RQ1 実行時における構文解析を要件としない状況で、構文情報が意味的モデルの性能を向上させられるか？
• RQ2 スパンレベルの構文的ラベルを用いたマルチタスクアプローチが、構文的に自由なベースラインを上回るか？
• RQ3 構文的スケルトンは、データセットが重複しない場合（例：FrameNet SRL に OntoNotes でトレーニングした場合）にも一般化可能か？
• RQ4 パイプライン手法が意味的モデルに構文特徴を組み込む場合と比較して、構文的スケルトンはどのように性能を発揮するか？
• RQ5 構文的スケルトンは、異なる文法的構成要素やフレーム要素に対して、どの程度性能を向上させるか？

主な発見

• 構文的スケルトンは、強力な構文的に自由なベースラインに対して、FrameNet SRL で 3.6 の絶対的 F1 の向上を達成し、困難な意味的役割ラベル付けタスクにおける顕著な向上を示した。
• PropBank SRL では、1.1 の絶対的 F1 の向上を達成し、構文的タスクと意味的タスクのデータセットが完全に重複する状況でも一貫した向上が得られた。
• コアリソリューションでは、MUC、B3、CEAFφ4 のスコアの平均で F1 スコアが 0.6 ポints 向上し、構文的に自由なベースラインを上回った。
• 性能向上は、一般的な構文的構成要素（例：NP や PP）に対して顕著であり、特に「主題（Theme）」や「目的（Goal）」といったフレーム要素（多くの場合、名詞句や前置詞句として現れる）で顕著であった。
• 推論時にいかなる構文解析も行わず、構文的に自由なモデルと同等の効率性を維持しながら、一般化性能を向上させた。
• 上昇効果は、ELMo などの文脈を考慮した埋め込みの使用とは直交的であり、構文的スケルトンは他の最先端技術と組み合わせてさらなる向上が得られることを示唆している。