[論文レビュー] Enhanced Speaker-aware Multi-party Multi-turn Dialogue Comprehension

Xinbei Ma, Zhuosheng Zhang+1 more|arXiv (Cornell University)|Sep 9, 2021

Topic Modeling被引用数 6

ひとこと要約

本稿では、マスキングアテンションと異種グラフネットワークを用いて発話者役割と話法的関係を明示的にモデル化することで、性能を向上させる発話者に配慮したマルチパーティー・マルチターン対話理解モデルを提案する。この手法は、Molweniベンチマークで最先端の結果を達成し、発話者-発話のつながりを強化し、非隣接な話法的依存関係を捉えることで、回答の正確性を顕著に向上させる。

ABSTRACT

Multi-party multi-turn dialogue comprehension brings unprecedented challenges on handling the complicated scenarios from multiple speakers and criss-crossed discourse relationship among speaker-aware utterances. Most existing methods deal with dialogue contexts as plain texts and pay insufficient attention to the crucial speaker-aware clues. In this work, we propose an enhanced speaker-aware model with masking attention and heterogeneous graph networks to comprehensively capture discourse clues from both sides of speaker property and speaker-aware relationships. With such comprehensive speaker-aware modeling, experimental results show that our speaker-aware model helps achieves state-of-the-art performance on the benchmark dataset Molweni. Case analysis shows that our model enhances the connections between utterances and their own speakers and captures the speaker-aware discourse relations, which are critical for dialogue modeling.

研究の動機と目的

• マルチパーティー・マルチターン対話における複雑で非順序的な発話者遷移と絡んだ話法的関係の課題に対処すること。
• 発話者役割情報と発話者に配慮した話法的構造を明示的にモデル化することで、対話読解理解の性能を向上させること。
• 従来の手法が対話を単なるテキストとして扱い、発話者固有の手がかりや発話間の関係を十分に活用しないという限界を克服すること。
• 発話者に配慮した表現を統合することで、マルチパーティー対話における抽出型質問-回答タスクのスパン抽出性能を向上させること。

提案手法

• 各発話者の発話内でのみアテンションを行うことで、発話者に配慮した全体的な表現を捉えるために、発話者マスキングマルチヘッドアテンションを適用する。
• 2つの異種グラフネットワークを構築する：1つはアノテート済みの話法的関係を、もう1つは発話間のアノテートされていない関係を対象とする。
• マスキングアテンションとグラフネットワークからの発話者に配慮した表現を統合し、文脈符号化を豊かにする。
• 統合された表現をスパン抽出層の入力として使用し、回答予測を行う。
• 事前学習された言語モデル（例：BERT）をベースエンコーダーとして用い、対話QAタスクでの微調整を実施する。
• 発話者に配慮した依存関係をモデル化するため、アテンションとメッセージパッシング機構に発話者IDと話法的構造を統合する。

実験結果

リサーチクエスチョン

• RQ1 非順序的な発話者遷移を伴うマルチパーティー・マルチターン対話において、発話者役割情報を効果的にモデル化する方法は何か？
• RQ2 非隣接な発話間の話法的関係は、マルチパーティー環境における対話理解にどの程度寄与するか？
• RQ3 発話者に配慮した話法的構造を明示的にモデル化することで、複雑な対話における抽出型質問-回答の性能は向上するか？
• RQ4 マスキングアテンションと異種グラフネットワークは、発話者に配慮した表現および話法的配慮表現をどの程度効果的に捉えられるか？

主な発見

• 提案手法は、Molweniベンチマークで最先端の性能を達成し、BERT、BERT-large、BERT-wwm、ELECTRAといった強力なベースラインを上回った。
• アブレーションスタディの結果、発話者に配慮した3つのモジュール（発話者マスキング、アノテート済み話法的グラフ、アノテートされていない話法的グラフ）すべてが正の寄与を示し、特に発話者マスキングが最も大きな影響を及ぼした。
• ケーススタディでは、モデルがベースラインの誤りを正しく修正し、たとえば「誰が〜か」型の質問で「gnomefreak」ではなく「lightbright」を正しく特定するなど、正しい発話者に回答を結びつけることに成功した。
• モデルは非隣接な発話間で、説明や質問-回答ペアのような複雑な話法的関係を捉え、特に「なぜ」型の質問に対する推論を向上させた。
• FriendsQAデータセットでも、モデルは良好に一般化し、Molweniベンチマークを超えた堅牢性を示した。
• モデルは発話とその発話者とのつながりを強化し、発話者に配慮した話法的関係を捉えることができ、正確な理解に不可欠な要因であることが明らかになった。