[論文レビュー] Unsupervised Abstractive Meeting Summarization with Multi-Sentence Compression and Budgeted Submodular Maximization

Guokan Shang, Wensi Ding+5 more|arXiv (Cornell University)|May 14, 2018

Topic Modeling参考文献 15被引用数 16

ひとこと要約

本稿では、音声認識（ASR）出力のノイズの高いトランスクリプトから、自然で情報豊かな要約を生成するために、複文要約と予算付きサブモジュラー最大化を組み合わせた完全に教師なしの要約フレームワークを提案する。グラフの退化に基づく語の重要度スコアリングと、新規のパス再ランク戦略を活用することで、教師あり学習データや言語特化型チューニングを一切用いずに、AMIおよびICSIデータセットで最先端のROUGEスコアを達成した。

ABSTRACT

We introduce a novel graph-based framework for abstractive meeting speech summarization that is fully unsupervised and does not rely on any annotations. Our work combines the strengths of multiple recent approaches while addressing their weaknesses. Moreover, we leverage recent advances in word embeddings and graph degeneracy applied to NLP to take exterior semantic knowledge into account, and to design custom diversity and informativeness measures. Experiments on the AMI and ICSI corpus show that our system improves on the state-of-the-art. Code and data are publicly available, and our system can be interactively tested.

研究の動機と目的

• アノテート済みトレーニングデータや言語特化型リソースに依存しない、会議音声の完全に教師なしの抽象的要約フレームワークの開発。
• ノイズが多く不文閲なASRトランスクリプトの課題に対処するため、グラフベースの重複モデリングを要約パイプラインに統合し、耐障害性を向上。
• グラフの退化指標と言語モデル制約を組み合わせることで、生成要約の情報量と文法的整合性を向上。
• 基本的な自然言語処理ツールを超えて言語特化型コンponentsに依存しないようにすることで、多言語対応を可能に。

提案手法

• 会議発話の語の共起グラフを、スライディングウィンドウを用いて構築し、意味的関係をモデル化。
• グラフの退化（コア数）を適用して、影響力のある語を特定。ノイズに強く、キーワード検出に優れるため、PageRankの代替として採用。
• Multi-Sentence Compression Graph（MSCG）を拡張し、コア数スコアと言語モデル確率を組み合わせた独自のパス再ランク関数を導入。文法的で情報豊かなパスを優先。
• コミュニティ検出を用いて発話をトピックごとにグループ化し、各コミュニティごとに要約的文を生成。
• 予算付きサブモジュラー最大化を適用し、長さ制約下で最も多様で情報豊かな要約文の集合を選択。情報量と多様性を最適化。
• 文の流れの自然さを評価するため言語モデルを用い、内容語でない語を除外するため品詞タガーを活用。要約品質の向上に寄与。

実験結果

リサーチクエスチョン

• RQ1 教師ありアノテーションデータを一切使用せず、完全に教師なしのフレームワークが、抽象的会議要約で最先端の性能を達成できるか？
• RQ2 グラフの退化に基づく語の重要度測定は、従来のPageRankに比べて、要約のための情報豊かなコンテンツを特定する上でどのように向上するか？
• RQ3 サブモジュラー選択と併用した複文要約は、ノイズが多く断片的なASRトランスクリプトから、自然で多様な抽象的要約を生成できるか？
• RQ4 言語モデルスコアとコア数に基づく再ランク戦略の統合は、要約の自然さと情報量にどのように影響を与えるか？

主な発見

• 提案手法は、350語の要約においてAMIでROUGE-1 F1スコア41.14、ICSIで36.05を達成。すべてのベースライン（Oracle含む）を上回った。
• ICSIでは、非Oracleシステムの中で最高のROUGE-1 F1（36.05）とROUGE-SU4（4.82）スコアを記録。より困難なマルチ要約マッチングベンチマークでも強力な性能を示した。
• FluCovRank再ランク戦略を導入したシステムは、ベースライン比ROUGE-2 F1で0.59ポイント向上。文の自然さモデリングが要約品質向上に寄与することが確認された。
• 要約長が異なる状況でも一貫した性能を維持しており、特定のサイズに最適化されたハイパーパrameterに依存しないという、予算ハイパーパramータに対するロバストネスを示した。
• 抽出的ヒューマン要約にアクセス可能なOracleと比較しても、競争力ある結果を達成。抽象的コンテンツを効果的に捉えていることを示している。