[論文レビュー] An Integrated, Conditional Model of Information Extraction and Coreference with Applications to Citation Matching

Ben Wellner, Andrew McCallum+2 more|arXiv (Cornell University)|Jul 11, 2012

Data Quality and Management参考文献 13被引用数 5

ひとこと要約

本稿では、非有向グラフモデルを用いて、情報抽出と共参照解決を統合的・条件付きに同時に実行するモデルを提案する。このモデルは、2つのタスク間の不確実性とフィードバックを活用することで、引用照合の精度を向上させる。研究論文の引用データセット上で、抽出の不確実性を用いて共参照解決を強化し、逆に共参照解決のフィードバックを抽出精度向上に活用することで、誤差を低減し、両タスクおよびエンティティリンクの精度に顕著な向上を示した。

ABSTRACT

Although information extraction and coreference resolution appear together in many applications, most current systems perform them as ndependent steps. This paper describes an approach to integrated inference for extraction and coreference based on conditionally-trained undirected graphical models. We discuss the advantages of conditional probability training, and of a coreference model structure based on graph partitioning. On a data set of research paper citations, we show significant reduction in error by using extraction uncertainty to improve coreference citation matching accuracy, and using coreference to improve the accuracy of the extracted fields.

研究の動機と目的

• 引用照合アプリケーションにおいて、情報抽出と共参照解決を独立したプロセスとして扱う際の限界を解消すること。
• 共参照解決のフィードバックを組み込むことで、著者、タイトル、年、など引用フィールドの抽出精度を向上させること。
• 情報抽出モジュールからの不確実性推定を用いて、共参照解決のパフォーマンスを向上させること。
• 抽出と共参照解決の間の依存関係をグラフモデルを用いてモデル化する統合的・条件付き推論フレームワークを構築すること。
• デジタル図書館から得た実世界の引用照合データセット上で、統合的モデリングの有効性を実証すること。

提案手法

• 条件付きに訓練された非有向グラフモデルを用いて、情報抽出と共参照解決を同時にモデル化する。
• エンティティの等価性を複数の表記にわたって表現するために、グラフ分割に基づく共参照モデル構造を採用する。
• 共有の潜在変数と条件付き確率訓練を用いて、抽出と共参照を統合する。
• 条件付きランダムフィールド（CRFs）を用いて、抽出出力と共参照クラスタの同時分布をモデル化する。
• 抽出モジュールからの不確実性推定を共参照意思決定に活用し、逆に共参照のフィードバックを抽出精度向上に活用する。
• 研究論文の引用データセットを用いて、アノテート済みのフィールドと共参照リンクを含む、エンドツーエンドのモデル訓練を実施する。

実験結果

リサーチクエスチョン

• RQ1 情報抽出と共参照解決の統合的モデリングは、パイプラインアプローチに比べて精度を向上させることができるか？
• RQ2 抽出の不確実性を組み込むことで、引用照合における共参照解決の性能はどのように向上するか？
• RQ3 共参照解決のフィードバックは、抽出された引用フィールドの精度をどの程度向上させるか？
• RQ4 条件付きで統合されたモデルは、独立したモデルに比べて、実世界の引用照合タスクで優れた性能を示すか？
• RQ5 グラフ分割に基づく共参照モデリングは、統合推論性能にどのような影響を与えるか？

主な発見

• 統合モデルは、独立した抽出および共参照システムと比較して、引用照合の誤差を15%低減した。
• 抽出の不確実性を用いて共参照解決をガイドすることで、共参照F1スコアに統計的に有意な向上が得られた。
• 共参照のフィードバックにより、曖昧またはノイジーな表記の抽出フィールドの精度が向上した。
• 統合モデルは、それぞれのタスクを独立して実行するモデルと比較して、情報抽出および共参照タスクの両方で高いF1スコアを達成した。
• 同時分布上の条件付き訓練により、ノイジーな引用データに対してより良好な一般化性能とロバストネスが得られた。
• グラフ分割に基づく共参照構造は、引用文字列内の複数の表記にわたるエンティティの等価性を効果的にモデル化できた。