[論文レビュー] Knowledge Graph Anchored Information-Extraction for Domain-Specific Insights

Vivek Khetan, K. M. Annervaz+4 more|arXiv (Cornell University)|Apr 18, 2021

Topic Modeling参考文献 6被引用数 4

ひとこと要約

本論文では、最先端のNLPモデル（エンティティ抽出にbi-LSTM-CRF、SRLにアテンションベースの手法、関係抽出に動詞ベースの手法を用いて）を活用し、非構造化金融文書からタスク固有の規制変更を自動で抽出する知識グラフアンカード情報抽出パイプラインを提案する。この手法により、抽出データをドメイン固有の知識グラフに統合することで、規制更新の監視にかかる人的作業を顕著に削減し、リアルタイムのインサイトを可能にし、要約効率の面でも有望である。

ABSTRACT

The growing quantity and complexity of data pose challenges for humans to consume information and respond in a timely manner. For businesses in domains with rapidly changing rules and regulations, failure to identify changes can be costly. In contrast to expert analysis or the development of domain-specific ontology and taxonomies, we use a task-based approach for fulfilling specific information needs within a new domain. Specifically, we propose to extract task-based information from incoming instance data. A pipeline constructed of state of the art NLP technologies, including a bi-LSTM-CRF model for entity extraction, attention-based deep Semantic Role Labeling, and an automated verb-based relationship extractor, is used to automatically extract an instance level semantic structure. Each instance is then combined with a larger, domain-specific knowledge graph to produce new and timely insights. Preliminary results, validated manually, show the methodology to be effective for extracting specific information to complete end use-cases.

研究の動機と目的

• 金融分野のように急速に変化する分野における規制変更のタイムリーな検出という課題に対処すること。
• 膨大な量の非構造化規制テキストからタスク関連の情報のみを抽出することで、人的認知的負荷を軽減すること。
• 抽出情報をドメイン固有の知識グラフに統合するスケーラブルで準自動化されたシステムを構築すること。
• ユーザー定義の基準と意味的類似度に基づいたアクション可能な通知および動的更新を可能にすること。
• 金融分野に限らず、規制およびコンプライアンス分野に応用可能な再利用可能なフレームワークの開発

提案手法

• エンティティ抽出のパフォーマンス向上を目的に、独自ラベル付与の規制関連記事とCoNLL 2017データを統合したデータセット上でbi-LSTM-CRFモデルを学習する。
• アテンションベースの深層SRLモデルが、文内のトークンに対して述語を特定し、意味的役割（例：主体、対象）を割り当てる。
• 動詞からの句構造的および意味的手がかりを用いて、エンティティペア間の複数の関係を特定する動詞ベースの関係抽出手法を採用する。
• SRLとカスタムエンティティ抽出器の両方で検出されたエンティティのみを保持するフィルタリングステップを実施し、精度を向上させる。
• 抽出された三項組を、OpenIEおよびClauseIEからのヒューリスティクスを用いて拡張し、データモデルの範囲を超えて知識グラフを拡充する。
• 最終的な知識グラフは、NICデータベースから得られるドメイン固有のデータ（機関、資産、規制関係など）を統合し、新規記事ストリームに応じて継続的に更新される。

実験結果

リサーチクエスチョン

• RQ1 ハイブリッドNLPパイプラインは、法的・規制的テキストの非構造化文書から、特にしきい値変更を含むタスク固有の規制イベントを効果的に抽出できるか？
• RQ2 抽出された意味的三項組に anchored された知識グラフは、ドメイン固有のインサイトのタイムリネスと関連性をどの程度向上できるか？
• RQ3 複数のNLPモデル（エンティティ抽出、SRL、関係抽出）を統合することで、規制監視における人的作業をどの程度削減できるか？
• RQ4 意味的類似度とルールベースのシステムは、完全なドメインオントロジー設計を要せず、正確でパーソナライズされた通知を生成できるか？
• RQ5 実世界の規制利用事例において、抽出情報の要約比（入力ドキュメントサイズ ÷ 抽出構造サイズ）は、オリジナル文書サイズと比べてどの程度効果的か？

主な発見

• 本システムは、131件の規制関連記事に含まれる約4,500文から7種類のエンティティタイプを抽出した。インスタンス数は「regulated_activity_threshold」が561件、「regulatory_authority」が6,752件と変動した。
• 高い再現率を達成しつつも、許容可能な精度を維持しており、ユーザーが不要な結果を容易に除外できるため、人的作業の削減という目的を満たしている。
• 要約比（入力ドキュメントサイズ ÷ 出力抽出構造サイズ）は、有望な結果が得られたが、正確な数値は現在評価中である。
• ヒューリスティクスベースのOpenIEおよびClauseIEの三項組統合により、初期データモデルの範囲を超えて知識グラフが大幅に拡充され、ノードおよび関係のカバレッジが向上した。
• ユーザー定義のサブスクリプションルールとWordNetベースの意味的類似度を用いた通知生成が成功裏に実装され、役割ベースのアラートが可能になった。
• 時間の経過とともに、進化を続ける知識グラフは、継続的なデータインジェストとクエリ処理を通じて、ドメインレベルのインサイト生成を可能にした。