[論文レビュー] Neural Entity Reasoner for Global Consistency in NER

Xiaoxiao Yin, Daqi Zheng+2 more|arXiv (Cornell University)|Sep 30, 2018

Topic Modeling参考文献 22被引用数 8

ひとこと要約

本稿では、名前付きエンティティ認識（NER）におけるグローバルな一貫性を向上させるために、シンボリックな候補プールと段階的な推論メカニズムを用いた、マルチレイヤー構造のニューラルネットワークフレームワークであるNeural Entity Reasoner（NE-Reasoner）を提案する。このフレームワークは、文間をまたがる推論を可能にし、層間で予測を精緻化することで、CoNLL-2003英語NERベンチマークで最先端の性能を達成するとともに、中国語の裁判判決文におけるNERの再現率を向上させる。

ABSTRACT

We propose Neural Entity Reasoner (NE-Reasoner), a framework to introduce global consistency of recognized entities into Neural Reasoner over Named Entity Recognition (NER) task. Given an input sentence, the NE-Reasoner layer can infer over multiple entities to increase the global consistency of output labels, which then be transfered into entities for the input of next layer. NE-Reasoner inherits and develops some features from Neural Reasoner 1) a symbolic memory, allowing it to exchange entities between layers. 2) the specific interaction-pooling mechanism, allowing it to connect each local word to multiple global entities, and 3) the deep architecture, allowing it to bootstrap the recognized entity set from coarse to fine. Like human beings, NE-Reasoner is able to accommodate ambiguous words and Name Entities that rarely or never met before. Despite the symbolic information the model introduced, NE-Reasoner can still be trained effectively in an end-to-end manner via parameter sharing strategy. NE-Reasoner can outperform conventional NER models in most cases on both English and Chinese NER datasets. For example, it achieves state-of-art on CoNLL-2003 English NER dataset.

研究の動機と目的

• ドキュメント全体にわたるエンティティの整合性を維持できない、順序付きラベル付けモデルの局所的意思決定の限界を是正する。
• ニューラルモデルが文をまたがる複数のエンティティについて推論できるようにし、文書全体の文脈を統合する人間の読解行動を模倣する。
• 層間でエンティティレベルの情報を保存・参照できるようにするため、シンボリックメモリ（候補プール）を導入する。
• ニューラル学習とシンボリック推論を統合した、エンドツーエンドで学習可能なフレームワークを構築し、希少または曖昧なエンティティの一般化性能を向上させる。
• 文間の一貫性を活用して予測を精緻化することで、英語および中国語のNERベンチマークでより優れた性能を達成する。

提案手法

• 各レイヤーが独立してNERを実行するマルチレイヤー構造を採用し、各レイヤーの結果を共有された候補プールに渡す。
• シンボリックメモリ（候補プール）を用いて、以前のレイヤーで認識されたエンティティを保存し、層間での参照を可能にする。
• 類似度スコアを用いて、局所的な単語表現とグローバルなエンティティを接続するインタラクションプーリング機構を実装する。
• 局所的予測と候補エンティティとの類似度スコアを計算する推論モジュールを導入し、より深いレイヤーでの意思決定を精緻化する。
• パラメータ共有を活用することで、エンドツーエンド学習を可能にしつつも、シンボリック推論の能力を維持する。
• 深層構造を活用し、粗いものから細かいものへと段階的にエンティティセットを精緻化する。

実験結果

リサーチクエスチョン

• RQ1 文をまたがる複数のエンティティについて推論することで、ニューラルモデルがNERにおいてグローバルな一貫性を効果的に維持できるか。
• RQ2 シンボリックな候補プールを組み込むことで、曖昧または希少な名前エンティティの認識がどの程度向上するか。
• RQ3 マルチレイヤー推論機構は、単一パスの順序付きラベル付けモデルに比べて、どの程度優れた性能を発揮するか。
• RQ4 提案された推論機構は、リソースが限られた環境や未知語（ out-of-vocabulary ）エンティティの認識に効果を発揮するか。
• RQ5 本フレームワークは、中国語の法的文書のように複雑なエンティティパターンを示す言語やドメインにも汎用的に適用可能か。

主な発見

• NE-Reasonerは、CoNLL-2003英語NERデータセットで最先端のF1スコアを達成し、優れたグローバル一貫性を示した。
• 中国語の裁判判決NERデータセットでは、再現率を96.13%から97.26%まで向上させつつも高い正確率を維持しており、見逃されたエンティティの検出が向上した。
• 以前に特定されたエンティティからの文脈を活用することで、後続のレイヤーでレアまたは未発見の名前（例：「広」を姓として認識）を正しく認識できた。
• 類似度スコアの比較により、推論機構が誤分類を是正した（例：「Salem Bitar」を組織から人物に修正）。
• アブレーションスタディの結果、推論モジュールが性能向上の要因であることが確認され、名前や類似度スコアを手動で変更しても結果に変化がなかった。
• 特に一度しか出現しないが、既知のエンティティと強い文脈的類似性を示すエンティティに対して、文間の文脈を活用することで偽陰性を低減した。