[論文レビュー] Dialogue Discourse-Aware Graph Model and Data Augmentation for Meeting Summarization

Xiachong Feng, Xiaocheng Feng+2 more|arXiv (Cornell University)|Dec 7, 2020

Topic Modeling参考文献 25被引用数 4

ひとこと要約

本稿では、会議における発話同士の相互作用関係を関係性を持つグラフエンコーダーを用いて明示的に捉える DdaMS と、QA 関係を仮の要約として活用して 20 倍の大きさの疑似要約コーパスを生成するデータ拡張戦略 DdaDA を提案する。本アプローチは、会話的ディスcourseに配慮した相互作用をモデル化し、拡張されたデータで事前学習することで、AMI および ICSI の会議要約ベンチマークで最先端の性能を達成する。

ABSTRACT

Meeting summarization is a challenging task due to its dynamic interaction nature among multiple speakers and lack of sufficient training data. Existing methods view the meeting as a linear sequence of utterances while ignoring the diverse relations between each utterance. Besides, the limited labeled data further hinders the ability of data-hungry neural models. In this paper, we try to mitigate the above challenges by introducing dialogue-discourse relations. First, we present a Dialogue Discourse-Dware Meeting Summarizer (DDAMS) to explicitly model the interaction between utterances in a meeting by modeling different discourse relations. The core module is a relational graph encoder, where the utterances and discourse relations are modeled in a graph interaction manner. Moreover, we devise a Dialogue Discourse-Aware Data Augmentation (DDADA) strategy to construct a pseudo-summarization corpus from existing input meetings, which is 20 times larger than the original dataset and can be used to pretrain DDAMS. Experimental results on AMI and ICSI meeting datasets show that our full system can achieve SOTA performance. Our codes will be available at: https://github.com/xcfcode/DDAMS.

研究の動機と目的

• 会話要約における順序付きモデリングの限界を解決する。これは、発話間の動的で非線形な相互作用を捉えられていないためである。
• ニュース要約と比較して、ラベル付きデータセットが桁違いに小さい会議要約におけるデータ不足問題を軽減する。
• 会話的ディスcourse関係を構造的インダクティブバイアスとして活用し、表現学習と要約生成の改善を図る。
• 既存の会議構造を活用して合成学習データを生成するスケーラブルなデータ拡張戦略を開発する。
• ディスcourse関係の統合的モデリングとデータ拡張を組み合わせることで、標準的な会議要約ベンチマークで最先端の性能を達成する。

提案手法

• 発話間の相互作用を定義された会話的ディスcourse関係を通じてモデル化するため、グローバル、発話、ディスcourse関係の3種類の頂点タイプを持つ会議グラフを構築する。
• 発話表現を関係性を持つグラフ上でメッセージパッシングにより更新するグラフからシーケンスへのフレームワークを設計し、長距離依存関係を捉える。
• QA 関係を仮の要約として特定し、その後続の発話を仮の会議として扱う、会話的ディスcourseに配慮したデータ拡張（DdaDA）戦略を実装する。
• 得られた 20 倍の大きな合成コーパスを用いて DdaMS モデルを事前学習し、低リソース環境下での汎化性能と性能を向上させる。
• 表現学習と要約生成の向上を図るため、単語レベルおよび発話レベルの両方のアテンションメカニズムを統合する。
• 学習には Adam を使用し、固定学習率 0.001、ドロップアウト率 0.5 を設定し、推論時にはビームサイズ 10 のビームサーチを実行する。

実験結果

リサーチクエスチョン

• RQ1 会話的ディスcourse関係をモデル化することで、ニューラル会議要約モデルの性能向上が図れるか？
• RQ2 グラフベースの関係性エンコーダーは、会議における発話間の非線形的かつマルチターン相互作用をどれほど効果的に捉えられるか？
• RQ3 会話的ディスcourseに配慮したデータ拡張は、会議要約におけるデータ不足問題をどの程度軽減できるか？
• RQ4 単語レベルと発話レベルの両方のアテンションメカニズムを組み合わせることで、単独で使用する場合よりも優れた要約生成が達成できるか？
• RQ5 特定のディスcourse関係を除外した場合、モデルの頑健性はどの程度影響を受けるか。また、グラフの整合性と性能にどのような影響があるか？

主な発見

• DdaMS モデルは AMI データセットで最先端の性能を達成し、ROUGE-1、ROUGE-2、ROUGE-L スコアはそれぞれ 51.42、20.99、24.89 であった。
• ICSI データセットでは、DdaMS が ROUGE-1、ROUGE-2、ROUGE-L スコアで 39.66、10.09、17.53 を記録し、すべてのベースラインを上回った。
• アブレーションスタディの結果、単語レベルおよび発話レベルのアテンションの両方が不可欠であることが判明。単語レベルのアテンションを除去すると、ROUGE-1 スコアが 1.15 ポints低下した。
• 「無意味な」ディスcourse関係ですらわずかに除外するだけで性能が低下し、グラフの整合性が関係の完全性に敏感であることが示された。
• 事例スタディでは、DdaMS が発話アクティビティに依存するモデルとは異なり、複数の関連発話を注目することで 'fruit' や 'vegetable' といったキーワードをよりよく捉えられていた。
• DdaDA 戦略は、20 倍の大きな合成コーパスを効果的に生成し、これにより有効な事前学習が可能となり、モデルの汎化性能が著しく向上した。