[論文レビュー] Graph-based Neural Sentence Ordering

Yongjing Yin, Linfeng Song+4 more|arXiv (Cornell University)|Dec 16, 2019

Topic Modeling参考文献 21被引用数 7

ひとこと要約

本稿では、共有されるエンティティを通じて意味的整合性を捉えるために文-エンティティグラフを構築するグラフベースのニューラル文書順序付けモデルを提案する。グラフ再帰ネットワーク（GRN）を用いて依存関係を符号化し、不要な文のペairからのノイズを低減するとともに、エンティティ情報を効果的に活用することで整合性モデリングを向上させる。このモデルは、ベンチマークデータセットにおいて、先行する最先端（SOTA）システムを上回る性能を発揮する。

ABSTRACT

Sentence ordering is to restore the original paragraph from a set of sentences. It involves capturing global dependencies among sentences regardless of their input order. In this paper, we propose a novel and flexible graph-based neural sentence ordering model, which adopts graph recurrent network \cite{Zhang:acl18} to accurately learn semantic representations of the sentences. Instead of assuming connections between all pairs of input sentences, we use entities that are shared among multiple sentences to make more expressive graph representations with less noise. Experimental results show that our proposed model outperforms the existing state-of-the-art systems on several benchmark datasets, demonstrating the effectiveness of our model. We also conduct a thorough analysis on how entities help the performance.

研究の動機と目的

• 完全接続グラフに依存する既存の文書順序付けモデルの限界、特にエンティティレベルの情報を柔軟にモデル化できない点を是正すること。
• 共有されるエンティティを用いてより表現力が高くノイズの少ないグラフ表現を構築することで、段落の整合性モデリングを向上させること。
• グラフ再帰ネットワーク（GRN）が文書順序付けにおいて、長距離依存関係や意味的遷移を捉える能力を評価すること。
• エンティティ情報が文書順序付けタスクにおける性能と頑健性を著しく向上させることを実証すること。

提案手法

• 文とエンティティをノードとする文-エンティティグラフを構築し、共有されるエンティティを介して文同士を接続する。
• 段落全体の文脈を要約する段落レベルのノードを用いて、グラフ再帰ネットワーク（GRN）により接続されたノード間での意味的遷移を実行する。
• 符号化プロセスにおける役割を明確に分けるために、文ノードとエンティティノードの別々のパラメータ化を導入する。
• 最終的な段落表現に基づいて正しい文の順序を予測するために、ポインタネットワークデコーダーを用いる。
• エンティティの共起を組み込むことでGRNを最適化し、整合性のない文ペアからのノイズを低減する。
• エッジラベル、エンティティの削除、パラメータ共有の影響を評価するためのアブレーションスタディを実施する。

実験結果

リサーチクエスチョン

• RQ1 共有されるエンティティを活用するグラフベースのニューラルモデルは、完全接続グラフモデルを上回る性能を発揮できるか？
• RQ2 エンティティレベルの情報を統合することで、段落の整合性モデリングはどの程度向上するか？
• RQ3 すべてのペア間接続と比較して、エンティティ共起に基づくグラフ構造は、ノイズをどの程度低減できるか？
• RQ4 文ノードとエンティティノードの間でパラメータを共有するのではなく、別々にパラメータ化することで性能は向上するか？
• RQ5 不完全な解析によるエンティティ抽出のノイズに対して、モデルはどの程度頑健か？

主な発見

• 提案モデルは、arXiv要約データセットにおいて58.91%の正確度と44.33%のPMRを達成し、SOTAモデルであるATTOrderNetを上回る最先端の性能を発揮した。
• エンティティの50%を削除すると顕著な性能低下が生じ、エンティティ情報がモデルの有効性にとって不可欠であることを示している。
• 文レベルのグラフ（S-Graph）のみを用いたモデルバージョンでもATTOrderNetを上回る性能を示しており、エンティティがなくてもGRN自体の強力な性能が裏付けられている。
• 文ノードとエンティティノードの間でパラメータ共有を行うと、性能が著しく低下するため、異なるノードタイプの別々のモデリングが不可欠であることが確認された。
• 10%のエンティティ削除やエッジラベルのシャッフルに対してもモデルは頑健であることが示され、わずかな解析ノイズに対しても耐性があることがわかった。
• アブレーションスタディの結果、エンティティに基づくグラフ構築が、完全接続グラフと比較してノイズを低減し、性能向上に寄与することが確認された。