[論文レビュー] A Survey on Extraction of Causal Relations from Natural Language Text

Jie Yang, Soyeon Caren Han+1 more|arXiv (Cornell University)|Jan 16, 2021

Topic Modeling被引用数 16

ひとこと要約

本サーベイは、自然言語テキストからの因果関係抽出（CRE）について包括的な分析を提供し、明示的および暗黙的で、文内および文間の因果関係をカバーする。知識ベース型、統計的機械学習、深層学習のアプローチを評価し、データ不足や文書レベルの推論といった主な課題を特定し、今後の因果知識ベース構築における分野特化型事前学習モデルおよびグラフニューラルネットワークの可能性を強調する。

ABSTRACT

As an essential component of human cognition, cause-effect relations appear frequently in text, and curating cause-effect relations from text helps in building causal networks for predictive tasks. Existing causality extraction techniques include knowledge-based, statistical machine learning(ML)-based, and deep learning-based approaches. Each method has its advantages and weaknesses. For example, knowledge-based methods are understandable but require extensive manual domain knowledge and have poor cross-domain applicability. Statistical machine learning methods are more automated because of natural language processing (NLP) toolkits. However, feature engineering is labor-intensive, and toolkits may lead to error propagation. In the past few years, deep learning techniques attract substantial attention from NLP researchers because of its' powerful representation learning ability and the rapid increase in computational resources. Their limitations include high computational costs and a lack of adequate annotated training data. In this paper, we conduct a comprehensive survey of causality extraction. We initially introduce primary forms existing in the causality extraction: explicit intra-sentential causality, implicit causality, and inter-sentential causality. Next, we list benchmark datasets and modeling assessment methods for causal relation extraction. Then, we present a structured overview of the three techniques with their representative systems. Lastly, we highlight existing open challenges with their potential directions.

研究の動機と目的

• 知識ベース型、統計的機械学習、深層学習のアプローチを網羅的に評価し、因果関係抽出（CRE）技術について体系的なレビューを提供すること。
• 明示／文内、暗黙／文内、文間の因果関係といった異なる形態の因果関係を分類・分析すること。
• CRE研究で用いられるベンチマークデータセットと標準評価指標を評価すること。
• 主な未解決課題、特に複数因果、データ不足、文書レベルの因果関係抽出を特定・議論すること。
• 今後の研究方向性を提案する。特に、分野特化型事前学習モデルとグラフベースの推論の統合による性能向上が期待される。

提案手法

• 言語的手がかりと構造的位置に基づき、因果関係を明示的・暗黙的、文内・文間のタイプに分類する。
• 主な手法ファミリー3つをレビュー・比較する：知識ベース型（ルールベース、語彙駆動型）、統計的機械学習（NLPツールキットを用いた特徴工学）、深層学習（ニューラルネットワークによる表現学習）。
• 遠隔教師付き学習、注意機構付きBiLSTMによる自己教師付き事前学習、文書レベル推論に向けたグラフ畳み込みネットワーク（GCNs）を用いた代表的システムを分析する。
• TAC-RED、Causal-DB、DocREDといったベンチマークデータセットを用い、標準指標（精度、再現率、F1）で性能を評価する。
• データ不足の問題に対処するため、自己教師付き事前学習（例：注意機構付きBiLSTM）と教師あり分類（例：ランダムフォレスト）を組み合わせたハイブリッドアプローチを提案する。
• パス推論メカニズムとメンションレベルのGCNsを導入し、文や段落をまたがる長距離依存関係をモデル化することで、文書レベル因果関係抽出の性能を向上させる。

実験結果

リサーチクエスチョン

• RQ1 明示的・暗黙的・文内・文間の因果関係は、言語的手がかりや抽出の難易度においてどのように異なるか？
• RQ2 知識ベース型、統計的機械学習、深層学習アプローチは、因果関係抽出においてそれぞれどのような長所と短所を持つのか？
• RQ3 ベンチマークデータセットと評価指標は、CREシステム間でどのように比較可能か。また、それらの限界は何か？
• RQ4 因果関係抽出における主な課題、特にデータ不足と文書レベルの推論に関する課題は何か？
• RQ5 分野特化型事前学習モデルやグラフベース推論といった新技術は、現在の限界を克服する上で、どの程度の可能性を示しているか？

主な発見

• 知識ベース型手法は解釈性に優れるが、人的作業が膨大で、ドメイン間一般化が困難である。
• 統計的機械学習アプローチは人的作業を軽減できるが、NLPツールキット依存に起因する誤差伝搬と、手作業による特徴工学の負担が課題となる。
• 深層学習モデルは表現学習のおかげで優れた性能を示すが、計算コストが高く、大量のアノテート済みデータを必要とする。
• Freebaseを用いた遠隔教師付き学習は大規模な学習データを生成可能だが、顕著なノイズを含む。このノイズは、at-least-oneやトピックベースのアプローチで軽減可能である。
• BiLSTMと注意機構を用いた自己教師付き事前学習に続く教師あり分類（例：ランダムフォレスト）は、リソースが限られた環境におけるデータ不足問題に対し有望な解決策を提供する。
• パス推論メカニズムを備えたGCNなどのグラフベースモデルは、文書レベル因果関係抽出タスクで顕著な性能向上を示し、DocREDデータセットでは最先端技術を上回っている。