[論文レビュー] Read, Retrospect, Select: An MRC Framework to Short Text Entity Linking

Yingjie Gu, Xiaoye Qu+4 more|arXiv (Cornell University)|Jan 7, 2021

Topic Modeling参考文献 26被引用数 8

ひとこと要約

本稿では、短いテキストのエンティティリンクに特化したマルチターン複数選択型機械読解フレームワークM3を提案する。M3は、エンティティの曖昧性解消を照合クエリ生成と候補選択の問題として定式化する。文脈に適したクエリ、候補とのトークンレベルの相互作用、マルチターン履歴に依存するメカニズムを活用することで、先行手法に比べWechatでF1スコアを5.62ポイント、Webscopeで5.03ポイント向上させ、最先端の性能を達成した。

ABSTRACT

Entity linking (EL) for the rapidly growing short text (e.g. search queries and news titles) is critical to industrial applications. Most existing approaches relying on adequate context for long text EL are not effective for the concise and sparse short text. In this paper, we propose a novel framework called Multi-turn Multiple-choice Machine reading comprehension (M3}) to solve the short text EL from a new perspective: a query is generated for each ambiguous mention exploiting its surrounding context, and an option selection module is employed to identify the golden entity from candidates using the query. In this way, M3 framework sufficiently interacts limited context with candidate entities during the encoding process, as well as implicitly considers the dissimilarities inside the candidate bunch in the selection stage. In addition, we design a two-stage verifier incorporated into M3 to address the commonly existed unlinkable problem in short text. To further consider the topical coherence and interdependence among referred entities, M3 leverages a multi-turn fashion to deal with mentions in a sequence manner by retrospecting historical cues. Evaluation shows that our M3 framework achieves the state-of-the-art performance on five Chinese and English datasets for the real-world short text EL.

研究の動機と目的

• 検索クエリやニュース見出しのような短いテキストにおける低文脈エンティティリンクの課題に対処すること。
• 照合文脈と候補エンティティとの間で細かく分類可能な相互作用を可能にすることで、曖昧性解消の正確性を向上させること。
• 二段階の検証戦略を用いて、リンク不能な照合（NILエンティティ）を処理すること。
• マルチターンの後向き再考メカニズムにより、複数の照合間のトピック的依存関係をモデル化することで、全体の整合性を高めること。
• 実世界の短いテキストエンティティリンクベンチマークにおいて、既存手法を上回ること。

提案手法

• 照合の文脈からクエリを生成することで、短いテキストのエンティティリンクをマルチターン複数選択型機械読解タスクとして定式化する。
• クエリと候補エンティティのトークンごとの相互作用を実行するオプション選択モジュールを採用し、語彙的・構文的・意味的類似性を捉える。
• 粗い段階から細かい段階へと読み進める戦略を採用した二段階のNIL検出器を導入し、耐障害性を高める。
• 履歴のエンティティの手がかりを、現在のデコードステップに選択的に統合する制御可能なゲートメカニズムを用い、ノイズ情報をフィルタリングする。
• 動的かつ累積的に曖昧性解消の意思決定を文脈として後続の照合に活用するマルチターン符号化戦略を適用する。
• 事前学習された言語モデルを用いてクエリと候補の符号化を行い、エンティティリンク損失関数に基づくエンドツーエンドの学習を実施する。

実験結果

リサーチクエスチョン

• RQ1 複数選択型MRCの定式化は、二値分類やランク付けベースの手法と比較して、エンティティリンクの正確性を向上させることができるか？
• RQ2 二段階のNIL検出器は、短いテキストにおけるリンク不能な照合を検出・処理する上で、どの程度有効であるか？
• RQ3 マルチターンの後向き再考によって照合間のトピック的整合性をモデル化することで、曖昧性解消性能はどの程度向上するか？
• RQ4 履歴のエンティティ情報の統合は、誤り訂正および全体の整合性にどのような影響を与えるか？
• RQ5 M3フレームワークは、多様な短いテキストのドメインおよび言語に一般化可能か？

主な発見

• M3は、前回のSOTAモデル（Cheng et al., 2019）と比較して、WechatデータセットでF1スコアを5.62ポイント向上させた。
• Webscopeデータセットでは、5回の実行平均でF1スコアが平均5.03ポイント向上し、優れた一般化性能を示した。
• 複数選択パラダイムは、語彙的類似性の状況下でも、曖昧な候補間の微細な差をよりよく捉えることができるため、二値分類手法を著しく上回った。
• 定性的な分析では、NIL検出器によりKBエンティティへの誤ったリンクが30%削減され、NIL検出の正確性が向上した。
• マルチターン戦略は、ドメイン内テキストでは平均1.65%、ドメイン外テキストでは1.68%の性能向上をもたらし、5照合および2照合のテキストではそれぞれピークで2.1%および2.6%の向上を記録した。
• 除去実験の結果、制御可能なゲート機構と完全な履歴フローの両方が重要であることが確認され、それらを削除すると正確性がそれぞれ0.44ポイントずつ低下した。