[論文レビュー] Structure-Aware Abstractive Conversation Summarization via Discourse and Action Graphs

Jiaao Chen, Diyi Yang|arXiv (Cornell University)|Apr 16, 2021

Topic Modeling参考文献 53被引用数 8

ひとこと要約

本稿では、話者行動イベントの三つ組みと話の関係性グラフを活用することで要約品質を向上させる構造に配慮した抽出的会話要約モデルを提案する。グラフ自己注意ネットワークを用いて発話レベルの話の関係性と話者行動イベント三つ組みを符号化し、マルチスケールデコーダーを用いることで、SAMSumで最先端の性能を達成し、議論要約にも良好に一般化され、自動評価および人的評価の両方で強力なベースラインを上回る。

ABSTRACT

Abstractive conversation summarization has received much attention recently. However, these generated summaries often suffer from insufficient, redundant, or incorrect content, largely due to the unstructured and complex characteristics of human-human interactions. To this end, we propose to explicitly model the rich structures in conversations for more precise and accurate conversation summarization, by first incorporating discourse relations between utterances and action triples ("who-doing-what") in utterances through structured graphs to better encode conversations, and then designing a multi-granularity decoder to generate summaries by combining all levels of information. Experiments show that our proposed models outperform state-of-the-art methods and generalize well in other domains in terms of both automatic evaluations and human judgments. We have publicly released our code at https://github.com/GT-SALT/Structure-Aware-BART.

研究の動機と目的

• 構造のない複雑な人間の会話から、要約的で事実的かつ情報豊富な抽出的要約を生成する課題に対処すること。
• 発話間の話の関係性と話者行動イベント三つ組みを明示的にモデル化し、表現学習を向上させること。
• 発話、話の関係性グラフ、行動グラフからの情報を統合するマルチスケールデコーダーを設計し、要約の質を向上させること。
• 多様な会話タイプにわたる構造に配慮したアプローチの有効性と一般化能力を評価すること。

提案手法

• 発話単位（EDU）間の16種類の依存関係に基づく話の関係性（例：質問-回答、説明など）を用いて話の関係性グラフを構築する。
• 発話から抽出した「誰が何をしているか」の三つ組みから行動グラフを構築し、話者の役割と行動を明示的にモデル化する。
• 両方のグラフをグラフ自己注意ネットワーク（GAT）を用いて符号化し、BARTエンコーダーによるシーケンスレベルの符号化を補完する構造的表現を学習する。
• 発話レベルの表現、話の関係性グラフ、行動グラフを並列に参照できるマルチスケールデコーダーを設計し、要約を生成する。
• 訓練の安定化とグラフ強化表現の有効な学習を可能にするためにReZero初期化を活用する。
• SAMSumデータセットでファインチューニングを行い、ADCs議論データセットでゼロショット評価を実施する。

実験結果

リサーチクエスチョン

• RQ1 話の関係性グラフは、抽出的会話要約における重要な内容の特定を改善できるか？
• RQ2 行動グラフは、話者行動イベント関係をモデル化することで、事実整合性を向上させられるか？
• RQ3 話の関係性グラフと行動グラフを組み合わせることで、単独で使用する場合よりも優れた要約性能が得られるか？
• RQ4 構造に配慮したモデルは、会話の種別が異なる分野（例：議論）にも良好に一般化できるか？
• RQ5 各グラフタイプが最終的な要約生成に果たす寄与度は何か？また、デコーディングプロセスにおける両者の相互作用はいかなるものか？

主な発見

• 話の関係性グラフと行動グラフを併用したS-BARTモデルは、SAMSumデータセットで最先端のROUGEスコアを達成し、BARTや他の抽出的モデルを含む強力なベースラインを上回った。
• アブレーションスタディの結果、話の関係性グラフと行動グラフはそれぞれ独立して性能向上をもたらし、併用することで最良の結果が得られた。
• 特に話の関係性エッジ数や行動三つ組みの数が多い複雑な会話において、ROUGE-1、ROUGE-2、ROUGE-Lのスコアが顕著に向上した。
• ADCs議論データセットでのゼロショット評価により、会話の分野を超えた新しいドメインへの一般化能力が確認された。
• ReZero重みの可視化結果から、行動グラフが話の関係性グラフよりも最終出力に寄与していたことが示され、両者の組み合わせがより高い注目度を示し、補完的役割を果たしていることが確認された。
• 自動評価指標および人的評価の両方で、ベースラインを上回った。特に事実誤認と重複の低減において顕著な改善が見られた。