[論文レビュー] A Neural Architecture for Person Ontology population

Balaji Ganesan, Riddhiman Dasgupta+3 more|arXiv (Cornell University)|Jan 22, 2020

Data Quality and Management参考文献 15被引用数 4

ひとこと要約

本稿では、細粒度エンティティ分類モデルと関係抽出モデルを用いて、非構造化テキストから自動的に人物オントロジーを構築するニューラルパイプラインを提案する。本研究では、36種類の個人データエンティティタイプと9種類の関係を含む新しいデータセットを構築し、軽量特徴量を統合することで最先端のモデル性能を向上させ、グラフニューラルネットワークを用いたリンク予測を実施。UDBMSデータセットにおいて64.56%のROC AUCを達成した。

ABSTRACT

A person ontology comprising concepts, attributes and relationships of people has a number of applications in data protection, didentification, population of knowledge graphs for business intelligence and fraud prevention. While artificial neural networks have led to improvements in Entity Recognition, Entity Classification, and Relation Extraction, creating an ontology largely remains a manual process, because it requires a fixed set of semantic relations between concepts. In this work, we present a system for automatically populating a person ontology graph from unstructured data using neural models for Entity Classification and Relation Extraction. We introduce a new dataset for these tasks and discuss our results.

研究の動機と目的

• 手動による人物オントロジーの構築は時間がかかり、誤りが生じやすいという課題に対処すること。
• 非構造化テキストから個人データエンティティ（PDE）を自動的に抽出・分類するシステムを開発すること。
• ニューラルモデルに軽量特徴量を統合することで、細粒度エンティティ分類の性能を向上させること。
• 文単位の埋め込み表現とグラフニューラルネットワークを用いて、人物間の関係抽出を向上させること。
• 生テキストから意味的でスケーラブルな人物オントロジー・グラフを構築するパイプラインを構築すること。

提案手法

• システムは、ルールベースのアノテーター（SystemT）、Stanford NER、およびエンティティ分類・関係抽出のためのニューラルモデルを組み合わせたパイプラインを採用する。
• 細粒度エンティティ分類モデルに軽量特徴量を統合し、OntoNotesデータセット上でF1スコアを0.678から0.740に向上させた。
• 関係抽出には、Universal Sentence Encoder（USE）から得られる文の埋め込み表現を用いたOn2Vecを採用したが、文単位の入力を用いた場合、性能が低下した。
• 抽出された人物エンティティに対して、グラフニューラルネットワーク（P-GNN）を用いてリンク予測を実施し、UDBMSおよびElected Repsデータセットの両方でGCNを上回った。
• 抽出されたエンティティ、属性、および推論された関係を統合して最終的なオントロジー・グラフを構築し、RDF/PPI形式でエクスポート可能である。
• パイプラインは、UDBMS（DBPedia Person）およびElected Representativesの2つのデータセットを用いて評価され、主な指標としてROC AUCが用いられた。

実験結果

リサーチクエスチョン

• RQ1 軽量特徴量は、個人データ文脈における細粒度エンティティ分類の性能を顕著に向上させることができるか？
• RQ2 翻訳ベースのモデル（例：On2Vec）を用いる場合、文単位の埋め込み表現を統合することで関係抽出の性能が向上するか？
• RQ3 グラフニューラルネットワークは、抽出されたエンティティおよび関係データから新たな人物間関係を効果的に推論できるか？
• RQ4 P-GNNの性能は、人物データオントロジー・グラフにおけるリンク予測タスクでGCNと比較して優れているか？
• RQ5 ニューラルパイプラインは、非構造化テキストから人物オントロジーをどれほど自動的に構築できるか？

主な発見

• 提案されたNFGEC+モデルは、OntoNotesデータセットで0.740のF1スコアを達成し、ベースラインのNFGECモデル（0.678 F1）と比較して顕著な向上を示した。
• 文の埋め込み表現を用いたOn2Vecは、TACREDデータセットでわずか17.8%の正確度にとどまり、文単位の入力が関係抽出の性能向上に寄与しなかったことを示した。
• 位置に注意を払うグラフニューラルネットワーク（P-GNN）は、UDBMSデータセットで64.56%のROC AUCを達成し、GCN（46.89%）を上回った。
• Elected Representativesデータセットでは、P-GNNが64.73%のROC AUCを達成したのに対し、GCNは40.47%にとどまり、一貫した優位性が確認された。
• システムは図9に示すように、人物オントロジー・グラフを正常に構築した。このグラフは、質問応答や推論などの後続タスクを支援する。
• 36種類のPDETおよび9種類のPDERタイプを含むデータセットは公開されており、今後の個人データオントロジー構築に関する研究を促進する。