[論文レビュー] Title-Guided Encoding for Keyphrase Generation

Wang Chen, Yifan Gao+3 more|arXiv (Cornell University)|Aug 26, 2018

Advanced Text Analysis Techniques参考文献 55被引用数 3

ひとこと要約

本稿では、ドキュメントのタイトルをクエリのような入力として扱い、タイトル情報を用いて文脈符号化をガイドする注目メカニズムを備えた、新しいエンコーダ・デコーダモデルであるTitle-Guided Network (TG-Net) を提案する。TG-Net は最先端のモデルを著しく上回り、欠落したキーフレーズ予測において最大で F1@10 が 9.4% 向上し、Recall@50 が 19.1% 向上しており、特にタイトルが非常に短いまたは非常に長いドキュメントにおいて顕著な性能向上を示す。

ABSTRACT

Keyphrase generation (KG) aims to generate a set of keyphrases given a document, which is a fundamental task in natural language processing (NLP). Most previous methods solve this problem in an extractive manner, while recently, several attempts are made under the generative setting using deep neural networks. However, the state-of-the-art generative methods simply treat the document title and the document main body equally, ignoring the leading role of the title to the overall document. To solve this problem, we introduce a new model called Title-Guided Network (TG-Net) for automatic keyphrase generation task based on the encoder-decoder architecture with two new features: (i) the title is additionally employed as a query-like input, and (ii) a title-guided encoder gathers the relevant information from the title to each word in the document. Experiments on a range of KG datasets demonstrate that our model outperforms the state-of-the-art models with a large margin, especially for documents with either very low or very high title length ratios.

研究の動機と目的

• 既存の生成型キーフレーズモデルがタイトルと本文を同等に扱うという限界を是正し、タイトルの要約的役割を無視しないこと。
• 本文の符号化を明示的にタイトルをクエリとして活用することで、キーフレーズ生成を改善すること。
• 特にタイトルが非常に短いまたは非常に長いドキュメントにおいて、存在するキーフレーズおよび欠落したキーフレーズの両方の予測性能を向上させること。
• タイトルガイドド符号化が、タイトルとキーフレーズの間の意味的関連性をよりよく捉えられることを検証すること。

提案手法

• モデルは二重のGRUエンコーダを用いる：一つは本文用、もう一つはタイトル用で、両方とも文脈表現を生成する。
• 注目ベースのマッチング層により、各文脈語とタイトル間の関連性を計算し、タイトル情報が文脈内の各語の符号化をガイドする。
• オリジナルの文脈表現とタイトルに注目された表現を、追加の双方向GRU層を介して連結することで、タイトルガイドド表現を形成する。
• デコーダは注目メカニズムとコピーメカニズムの両方を用い、事前に定義された語彙からキーフレーズを生成するとともに、元のテキストから直接語句をコピーする。
• タイトルをクエリのような入力として扱うことで、距離に関係なくタイトルに関連する内容に注目できる。
• モデルは、シーケンス生成のための交差エントロピー損失を用いて、5つのベンチマークデータセット上でエンド・ツー・エンドに訓練される。

実験結果

リサーチクエスチョン

• RQ1 標準的なエンコーダ・デコーダモデルと比較して、タイトルをクエリのような入力として扱うことで、キーフレーズ生成性能が向上するか？
• RQ2 タイトルガイドド符号化は、タイトル長比が極端なドキュメントにおけるキーフレーズ生成にどのように影響するか？
• RQ3 タイトルガイドド注目が、テキスト中に明示的に存在しない欠落したキーフレーズの生成にどの程度向上効果をもたらすか？
• RQ4 タイトルガイドド符号化と組み合わせた場合、デコーダにコピーメカニズムを組み込むことで、性能がさらに向上するか？

主な発見

• TG-Net は、最大のデータセットにおいて、最良のベースラインと比較して、存在するキーフレーズ予測の F1@10 が 9.4% 向上し、欠落したキーフレーズ予測の Recall@50 が 19.1% 向上した。
• モデルは、タイトル長比が 3% 未満および 12% 超のドキュメントで最も顕著な性能向上を示し、これは長大な文脈や短いタイトルの状況でタイトル情報が最も重要であるためである。
• アブレーションスタディの結果、タイトルガイドド符号化コンponentを削除すると性能が著しく低下することが確認され、これが存在するキーフレーズおよび欠落したキーフレーズ生成において中心的な役割を果たしていることが裏付けられた。
• コピーメカニズムは性能向上に大きく寄与しており、その削除により、あらゆるタスクで F1 およびリコールスコアが急激に低下した。
• 事例スタディでは、TG-Net が 'stochastic delay systems' といったタイトルの手がかりを活用して 'time-delay systems' といった欠落したキーフレーズを正しく生成した一方、CopyRNN は失敗した。
• 本モデルは、5つのベンチマークデータセットすべてで強力なベースラインを上回り、多様なドキュメントタイプにわたる堅牢性と一般化性能を示した。