[論文レビュー] Directed Acyclic Graph Network for Conversational Emotion Recognition

Weizhou Shen, Siyue Wu+2 more|arXiv (Cornell University)|May 27, 2021

Sentiment Analysis and Opinion Mining参考文献 32被引用数 14

ひとこと要約

本稿では、話者および位置制約付きエッジを持つ有向無閉路グラフ（DAG）として発話文を符号化することで文脈をモデル化する、会話的感情認識のための新しいDAGベースのニューラルネットワーク、DAG-ERCを提案する。再帰的処理とグラフベースのメッセージスイーピングを組み合わせることで、過剰平滑化を回避しつつ長距離依存関係を捉えることができ、4つのベンチマークで最先端の性能を達成し、特に話者識別が重要なマルチスプーカー設定で顕著な優位性を示す。

ABSTRACT

The modeling of conversational context plays a vital role in emotion recognition from conversation (ERC). In this paper, we put forward a novel idea of encoding the utterances with a directed acyclic graph (DAG) to better model the intrinsic structure within a conversation, and design a directed acyclic neural network, namely DAG-ERC, to implement this idea. In an attempt to combine the strengths of conventional graph-based neural models and recurrence-based neural models, DAG-ERC provides a more intuitive way to model the information flow between long-distance conversation background and nearby context. Extensive experiments are conducted on four ERC benchmarks with state-of-the-art models employed as baselines for comparison. The empirical results demonstrate the superiority of this new model and confirm the motivation of the directed acyclic graph architecture for ERC.

研究の動機と目的

• 会話的感情認識における文脈モデリングにおいて、従来のグラフベースおよび再帰的モデルの限界を克服すること。
• 両者の長所を統合した新しいDAGベースのアーキテクチャを提案し、より優れた文脈表現を実現すること。
• 話者識別と位置制約を組み込むことで、マルチスプーカー会話における文脈モデリングがどのように向上するかを調査すること。
• DAG-ERCの過剰平滑化に対するロバストネスおよび感情の変化や類似感情の誤分類への有効性を評価すること。

提案手法

• 話者識別と発話位置を制約として用い、有向無閉路グラフ（DAG）を構築し、有向エッジを定義する。
• DAGNNをバックボーンとして採用し、1層で先行ノードへの再帰的メッセージスイーピングを可能にすることで、過剰平滑化を回避する。
• 話者識別を符号化する関係に配慮した特徴変換を導入し、話者間および話者内でのメッセージフローを区別する。
• 各発話の歴史的文脈表現を強化するための文脈情報ユニットを統合する。
• 深さのないスタックを用いた1層のメッセージスイーピング機構を採用し、すべての先行ノードからの情報集約を可能にし、長距離文脈符号化を実現する。
• 発話符号化にRoBERTaを用い、4つの公開ERCベンチマーク上でDAG-ERCモデル全体をエンドツーエンドで微調整する。

実験結果

リサーチクエスチョン

• RQ1 従来のグラフベースやRNNベースの手法と比較して、有向無閉路グラフ（DAG）構造が感情認識における会話的文脈モデリングをより効果的に実現できるか。
• RQ2 話者識別と位置制約を組み込むことで、DAGの構築とモデル性能にどのような影響が生じるか。
• RQ3 標準的なGNNと比較して、DAG-ERCは層数を増加させた場合に過剰平滑化の問題を緩和できるか。
• RQ4 感情の変化や類似感情の誤分類に対し、DAG-ERCはどれほど効果的か。
• RQ5 関係に配慮した特徴変換と文脈情報ユニットの両者が全体の性能に与える寄与度はどの程度か。

主な発見

• IEMOCAPおよびDailyDialogデータセットにおいて、DAG-ERCは最先端の性能を達成し、感情の変化がないテストサンプルでは74.25%の精度、感情の変化があるサンプルでは57.98%の精度を示した。
• MELDおよびEmoryNLPでは、SOTAと比べてわずかな低下を示したが、依然として優れた性能を発揮しており、マルチスプーカー設定における有効性が裏付けられた。
• 話者および位置制約を含むDAG構造は、これらの制約を欠いたバージョンよりも顕著に優れており、それらの重要性が実証された。
• IEMOCAPにおいて1～12層にわたり安定した性能を示すことで、DAG-ERCは層数を増やしても過剰平滑化を引き起こさないことが確認された。
• アブレーションスタディの結果、ノーダル情報ユニットおよび文脈情報ユニットの両方が性能向上に寄与しており、併用した場合が最も優れた結果をもたらした。
• モデルは類似感情（例：いらだち vs 怒り、幸せ vs 喜び）を区別するのが最も苦手であり、中立度の高いデータセットでは非中立感情が中立と誤分類されがちな傾向を示した。