[論文レビュー] Abstractive Summarization of Spoken and Written Conversation.

Prakhar Ganesh, Saket Dingliwal|arXiv (Cornell University)|Feb 5, 2019

Topic Modeling参考文献 34被引用数 13

ひとこと要約

本稿では、会話の口語的・書語的対話文に対して要約する要約生成システムを提案する。このシステムは、話法的関係を特定するためのシーケンスタグ付けを用い、それを段落形式に符号化し、アテンションに基づくポインタネットワークを適用して要約を生成する。この手法は、先行研究における抽出的要約モデルと同等のROUGE-1およびROUGE-2 Fスコアを達成した。

ABSTRACT

Nowadays, lots of information is available in form of dialogues. We propose a novel abstractive summarization system for conversations. We use sequence tagging of utterances for identifying the discourse relations of the dialogue. After aptly capturing these relations in a paragraph, we feed it into an Attention-based pointer network to produce abstractive summaries. We obtain ROUGE-1, 2 F-scores similar to those of extractive summaries of various previous works.

研究の動機と目的

• デジタルコミュニケーションにおいてますます一般的になっている口語的・書語的対話文から要約生成の課題に取り組むこと。
• 要約の整合性と関連性を向上させるために、会話内の発話間の話法的関係をモデル化すること。
• 話法的意識のある符号化とアテンション機構を活用することで、滑らかで要約生成可能なニューラルネットワークアーキテクチャを開発すること。
• 要約生成の複雑さが高いため、抽出的手法と同等の要約性能を達成すること。

提案手法

• 会話内の話法的関係（例：説明、対比、原因・結果など）を特定するために、発話にシーケンスタグ付けを適用する。
• 特定された話法的関係を活用して、会話を整合性のある段落表現に構造化する。
• 話法的構造化された段落を入力として、アテンションに基づくポインタネットワークを訓練し、トークン単位で要約を生成する。
• デコード中に関連する入力部分に注目できるようにアテンション機構を用いることで、要約生成を可能にする。
• ROUGEスコアを最適化するためにエンドツーエンドで訓練し、抽出的教師信号は明示的に使用しない。

実験結果

リサーチクエスチョン

• RQ1 話法的関係の特定は、会話的テキストにおける要約生成の質を向上させることができるか？
• RQ2 入力表現に話法的構造を組み込むと、要約性能にどのような影響を与えるか？
• RQ3 アテンションに基づくポインタネットワークは、抽出的ベースラインと同等の性能で、会話的データから高品質な要約を生成できるか？
• RQ4 話法的意識のある符号化は、生成された要約の冗長性をどれほど低減し、整合性を向上させるか？

主な発見

• 提案されたモデルは、先行研究における抽出的要約システムと同等のROUGE-1およびROUGE-2 Fスコアを達成した。
• 話法的関係タグ付けの統合により、入力表現の構造的整合性が向上し、より良い要約生成を支援した。
• アテンションに基づくポインタネットワークは、関連する話法的単位に的確に注目することで、効果的に要約を生成した。
• モデルは、抽出的教師信号を必要とせずとも、話法的意識のある符号化によって要約品質を向上させることを示した。