[論文レビュー] Inspecting the Factuality of Hallucinated Entities in Abstractive Summarization.

Meng Cao, Yue Dong+1 more|arXiv (Cornell University)|Aug 30, 2021

Topic Modeling参考文献 25被引用数 6

ひとこと要約

本稿では、事前学習済みおよび微調整済みのマスキング言語モデルからの事前確率と事後確率を活用することで、生成要約における事実的でない幻覚的エンティティを識別するための新規手法を提案する。この手法は、3つのベースラインと比較して精度とF1で顕著に優れており、事実性に関する人間の判断とも強く相関している。

ABSTRACT

State-of-the-art abstractive summarization systems often generate \emph{hallucinations}; i.e., content that is not directly inferable from the source text. Despite being assumed incorrect, many of the hallucinated contents are consistent with world knowledge (factual hallucinations). Including these factual hallucinations into a summary can be beneficial in providing additional background information. In this work, we propose a novel detection approach that separates factual from non-factual hallucinations of entities. Our method is based on an entity's prior and posterior probabilities according to pre-trained and finetuned masked language models, respectively. Empirical results suggest that our method vastly outperforms three strong baselines in both accuracy and F1 scores and has a strong correlation with human judgments on factuality classification tasks. Furthermore, our approach can provide insight into whether a particular hallucination is caused by the summarizer's pre-training or fine-tuning step.

研究の動機と目的

• 生成要約における事実的でない幻覚的エンティティ（世界知識と整合的であるが、事実上誤りなエンティティ）を特定する課題に対処すること。
• 事実的幻覚と非事実的幻覚を分離し、より情報量が多く信頼性の高い要約を可能にすること。
• 幻覚的エンティティが要約モデルの事前学習段階か微調整段階で生じるかを解明すること。
• 人間がアノテートした事実性判断と強く相関する検出手法を開発すること。

提案手法

• 手法は、元のテキストに対して事前学習済みマスキング言語モデルを用いてエンティティの事前確率を計算する。
• 微調整済みの生成要約モデルを用いてエンティティの事後確率を計算する。
• 事後確率と事前確率の比を用いて、幻覚的エンティティが事実的に根拠がある可能性を評価する。
• 事前学習と微調整の間での確率分布のシフトを活用し、幻覚の発生源を特定する。
• 人間がアノテートしたデータを用いて、事実性分類タスクにおけるモデルの学習と評価を行う。
• 精度とF1スコアを用いて、3つの強力なベースラインと比較して手法を評価する。

実験結果

リサーチクエスチョン

• RQ1 生成要約において、事実的幻覚と非事実的幻覚を効果的に区別できるか？
• RQ2 提案手法は、人間の判断における事実性とどの程度相関しているか？
• RQ3 この手法は、幻覚的エンティティが事前学習か微調整のどちらに起因するかを特定できるか？
• RQ4 既存のベースラインと比較して、この手法は事実的幻覚の検出においてどの程度優れているか？

主な発見

• 提案手法は、3つの強力なベースラインと比較して、事実的幻覚の検出において顕著に高い精度とF1スコアを達成した。
• この手法は、人間がアノテートした事実性判断との間で強い相関を示した。
• このアプローチは、幻覚的エンティティがモデルの事前学習段階か微調整段階のどちらに起因するかを効果的に特定できた。
• 多様な要約タスクにおいても堅牢な性能を示したため、一般化可能性が確認された。