[論文レビュー] Open Event Extraction from Online Text using a Generative Adversarial Network

Rui Wang, Deyu Zhou+1 more|arXiv (Cornell University)|Aug 25, 2019

Topic Modeling参考文献 27被引用数 6

ひとこと要約

本稿では、生成的敵対ネットワークに基づくオープンドメインイベント抽出のためのアドバーシャルニューラルイベントモデル（AEM）を提案する。AEMは、イベントを生成ネットワークと識別ネットワークでモデル化することで、現実性と効率性を向上させる。AEMはベイジアンベースラインを上回り、特に長文において顕著な性能向上を示し、ニュース記事ではF-measureが15.5%向上し、トレーニング時間も大幅に短縮された。

ABSTRACT

To extract the structured representations of open-domain events, Bayesian graphical models have made some progress. However, these approaches typically assume that all words in a document are generated from a single event. While this may be true for short text such as tweets, such an assumption does not generally hold for long text such as news articles. Moreover, Bayesian graphical models often rely on Gibbs sampling for parameter inference which may take long time to converge. To address these limitations, we propose an event extraction model based on Generative Adversarial Nets, called Adversarial-neural Event Model (AEM). AEM models an event with a Dirichlet prior and uses a generator network to capture the patterns underlying latent events. A discriminator is used to distinguish documents reconstructed from the latent events and the original documents. A byproduct of the discriminator is that the features generated by the learned discriminator network allow the visualization of the extracted events. Our model has been evaluated on two Twitter datasets and a news article dataset. Experimental results show that our model outperforms the baseline approaches on all the datasets, with more significant improvements observed on the news article dataset where an increase of 15\% is observed in F-measure.

研究の動機と目的

• 既存のベイジアンモデルが文書内のすべての語が同一イベントに起因すると仮定するという制限を解消し、ニュース記事のような長文においても有効であるようにする。
• 従来のモデルで見られるギブスサンプリングの収束遅さを克服し、反復的推論に代えて敵対的トレーニングを導入する。
• 短いSNS投稿から長いニュース記事まで、多様なテキストタイプにわたる効果的なイベント抽出を可能にする。
• 訓練済みの識別ネットワークを通じて、可視化可能な低次元特徴を抽出し、イベントを可視化する。
• 現実世界のオンラインテキストデータセットにおいて、計算効率を向上させつつ、抽出性能を維持または向上させる。

提案手法

• ディリクレ事前分布から得られるランダムノイズを、エンティティ、場所、キーワード、日付の分布を含む潜在的イベント表現にマッピングする生成ネットワークを用いる。
• 実際の入力文書と、潜在的イベントから再構築された生成文書を識別するための識別ネットワークを訓練する。
• 識別ネットワークが実際の文書と生成文書を区別できないように最適化する敵対的トレーニングにより、生成ネットワークを最適化する。
• 訓練済みの識別ネットワークの特徴表現を活用し、t-SNEを用いて抽出されたイベントの可視化とクラスタリングを実施する。
• 敵対的損失と再構築損失を統合したジョイント損失関数を用い、生成されたイベント構造付き文書の品質を向上させる。
• 識別ネットワークの反復回数、隠れ層のサイズ、生成ネットワークの深さなどのハイパーパrameterを調整し、モデルのロバストネスと性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 GANベースのモデルは、特に長文ドキュメントにおいて、オープンドメインオンラインテキストから構造化されたイベント表現を効果的に抽出できるか？
• RQ2 従来のベイジアングラフィカルモデル（LEMやDPEMM）と比較して、敵対的トレーニングはイベント抽出性能を向上させるか？
• RQ3 提案手法は、ベイジアンモデルにおけるギブスサンプリングベースの推論と比較して、どの程度トレーニング時間を短縮できるか？
• RQ4 識別ネットワークが学習した特徴は、抽出されたイベントの意味的な可視化とクラスタリングを可能にするか？
• RQ5 短いツイートと長いニュース記事といった、異なるテキストタイプにおいて、モデルの性能はどのように変化するか？

主な発見

• AEMは、Googleニュース記事データセットにおいて、LEMベースライン比でF-measureが15.5%向上し、長文テキストにおける優れた性能を示した。
• Twitterデータセットでは、LEM比でF-measureが4.4%向上し、DPEMM比で3.7%向上し、短文においても一貫した性能向上を達成した。
• モデルはLEMやDPEMMに比べてトレーニング時間を大幅に短縮し、特にGoogleニュースのような大規模データセットにおいて顕著な改善が見られた。
• 5層の生成ネットワークアーキテクチャが最良の性能を示し、GoogleデータセットではF-measureが96.7%に達した。最悪の構成でも85.7%の性能を示した。
• t-SNE可視化により、同一イベントを記述するドキュメントが一貫したクラスタにグループ化されていることが確認され、学習済み特徴の識別性能が裏付けられた。
• 識別ネットワークの特徴は、標準的なイベント抽出指標を超えた解釈可能性を提供するイベント可視化を可能にした。