[論文レビュー] Effective Incorporation of Speaker Information in Utterance Encoding in Dialog

Tianyu Zhao, Tatsuya Kawahara|arXiv (Cornell University)|Jul 12, 2019

Speech and dialogue systems被引用数 7

ひとこと要約

本稿では、会話全体にわたる発話者ラベルの不一致を解消するため、絶対的ラベルではなく発話者関係（例：「現在の発話者と同じ」）を符号化する相対的発話者モデリングを提案する。対話行動認識と応答生成の両タスクで評価した結果、特に多数の異なる発話者が登場する非タスク指向の会話において、絶対的発話者モデリングに比べて優れたかつ一貫性のある性能を達成した。

ABSTRACT

In dialog studies, we often encode a dialog using a hierarchical encoder where each utterance is converted into an utterance vector, and then a sequence of utterance vectors is converted into a dialog vector. Since knowing who produced which utterance is essential to understanding a dialog, conventional methods tried integrating speaker labels into utterance vectors. We found the method problematic in some cases where speaker annotations are inconsistent among different dialogs. A relative speaker modeling method is proposed to address the problem. Experimental evaluations on dialog act recognition and response generation show that the proposed method yields superior and more consistent performances.

研究の動機と目的

• 非タスク指向のコーパスにおいて多数の異なる発話者が登場する状況で顕著な発話者ラベルの不一致を是正すること。
• 固定された発話者ラベルに依存しないで、発話者役割の相対的関係をモデリングすることで、対話符号化を改善すること。
• 言語理解および生成の両タスクにおいて、絶対的発話者モデリングと新規の相対的発話者モデリング手法を体系的に比較すること。
• 相対的発話者モデリングが、多様な対話データセット全体でより一貫性があり頑健な性能を示すことを示すこと。

提案手法

• 現在の発話の発話者が直前の発話者と同じかどうかを符号化する相対的発話者モデリング手法を提案し、2値のインジケータ（1：同じ、0：異なる）を用いる。
• 現在の発話者と他の発話者の発話を別々に処理する2つの独立した発話エンコーダを導入し、両者とも発話者関係に条件づけられる。
• 発話者自身と他の発話者の発話ベクトルを別々のRNNで計算し、ゲート機構を用いて統合する階層的RNNベースのエンコーダを採用する。
• 発話エンコーディング関数を変更し、発話者関係の埋め込みを追加することで、発話エンコーダの入力から絶対的発話者ラベルを置き換える。
• 発話ベクトルの系列を符号化するため、共通の対話レベルRNNを用い、標準的な階層的アーキテクチャを維持する。
• 既存モデルへの修正を最小限に抑え、発話エンコーダの入力において絶対的発話者ラベルを発話者関係信号に置き換えるのみである。

実験結果

リサーチクエスチョン

• RQ1 非タスク指向の会話において、相対的発話者モデリングは絶対的発話者モデリングに比べて対話符号化性能を向上させるか？
• RQ2 相対的発話者モデリングは、会話セッション全体にわたる発話者ラベルの不一致によって引き起こされる性能低下を緩和できるか？
• RQ3 提案手法は、言語理解および生成の両タスクにおいて、発話者役割（例：発話者A対B）ごとに一貫性のある性能を示すか？
• RQ4 対話行動認識および応答生成において、発話者情報なしのベースラインモデルに比べ、相対的発話者モデリング手法はどのように比較されるか？

主な発見

• 相対的発話者モデリング手法は、ベースラインに比べて対話行動認識のF1スコアで3.07%の絶対的向上を達成し、絶対的発話者モデリングおよびベースラインを上回った。
• 応答生成において、相対的モデルはBLEU-1スコア1447およびSIF埋め込み類似度1.14を達成し、絶対的モデルに比べて発話者役割にわたる一貫性が優れていた。
• 相対的モデルのDistinct-1比（1.14）およびDistinct-2比（1.19）は、真の発話比（1.29）に絶対的モデルの比（1.12および1.16）よりも近づいており、多様性の一貫性が優れていることを示した。
• 対話行動認識および応答生成の両タスクにおいて、相対的モデルは発話者役割ごとの性能が一貫しており、発話者固有の指標の分散が低かった。
• SwitchboardおよびCornell Movie Dialogsの両データセットにおいて、相対的発話者モデリングは両タスクで絶対的発話者モデリングを上回り、多様な対話タイプにわたる頑健性を示した。
• 最小限のアーキテクチャ的変更で顕著な向上が得られたことから、本手法は高い実用性および一般化可能性を有していると示唆された。