[論文レビュー] A Context-based Approach for Dialogue Act Recognition using Simple Recurrent Neural Networks

Chandrakant Bothe, Cornelius Weber+2 more|arXiv (Cornell University)|May 16, 2018

Speech and dialogue systems被引用数 26

ひとこと要約

本稿では、前回の発話を利用することで分類精度を向上させるシンプルな再帰ニューラルネットワーク（RNN）を用いた文脈ベースの発話行動認識モデルを提案する。発話を事前学習済みの文字レベル言語モデルで表現し、話者IDと文脈をRNNに入力することで、Switchboardコーパス上で77.34%の精度を達成した。これはベースラインより3%高い。この結果は、リアルタイムシステムにおける発話行動検出において、文脈が顕著に効果を発揮することを示している。

ABSTRACT

Dialogue act recognition is an important part of natural language understanding. We investigate the way dialogue act corpora are annotated and the learning approaches used so far. We find that the dialogue act is context-sensitive within the conversation for most of the classes. Nevertheless, previous models of dialogue act classification work on the utterance-level and only very few consider context. We propose a novel context-based learning method to classify dialogue acts using a character-level language model utterance representation, and we notice significant improvement. We evaluate this method on the Switchboard Dialogue Act corpus, and our results show that the consideration of the preceding utterances as a context of the current utterance improves dialogue act detection.

研究の動機と目的

• 発話レベルの発話行動分類の限界を克服するため、会話の文脈を通じて対話の構成的性質をモデル化すること。
• 特に短いまたは曖昧な発話において、文脈に依存する発話行動がどの程度現れるかを調査すること。
• わずかな直前の発話（数個）のみを用いて発話行動認識の精度を向上させる文脈ベースの学習アプローチを提案すること。
• スプoken対話システムにおけるリアルタイム適用可能性を重視して、Switchboard対話行動コーパス上でモデルを評価すること。
• 完全な会話履歴を必要とせず、最小限の文脈（1〜4発話）で顕著な性能向上が達成できることを示すこと。

提案手法

• モデルは、直前の発話と現在の発話を含む文脈を符号化するシンプルな再帰ニューラルネットワーク（RNN）を用い、発話行動分類を行う。
• 発話は、ドメインに依存しないデータで事前学習された文字レベル言語モデルを用いて表現され、堅牢なシーケンス符号化を可能にする。
• 話者ID（A/B）はワンホットベクトルとして埋め込まれ、各発話に連結され、ネットワークが発話の切り替えや話者変更を検出するのを支援する。
• RNNは発話を順番に処理し、各ステップで隠れ状態を更新し、最終的な隠れ状態をソフトマックス層を介して発話行動を予測するために使用する。
• モデルはカテゴリカル交差エントロピー損失を用い、Adam最適化法、勾配クリッピング、早期停止を適用して過学習を防ぐ。
• 各新しい発話で文脈が動的にリセットされ、モデルが未来の発話を使用せず、過去の発話のみを参照するよう保証される。これにより、リアルタイム推論が可能になる。

実験結果

リサーチクエスチョン

• RQ1 直前の発話を文脈として組み込むことで、発話レベル分類と比較して発話行動認識の精度がどの程度向上するか？
• RQ2 最小限の文脈窓（1〜4発話）を用いることで、完全な会話モデリングと比較して発話行動検出がどの程度改善されるか？
• RQ3 文字レベル言語モデルによる表現が、発話行動分類のためのディス course レベルの特徴を効果的に捉えられるか？
• RQ4 話者IDの組み込みが、文脈に依存する発話行動の検出能力を向上させるか？
• RQ5 提案された文脈ベースのRNNモデルは、精度とリアルタイム実装可能性の観点から、最先端の手法と比較してどの程度優れているか？

主な発見

• 提案された文脈ベースのRNNモデルは、Switchboard対話行動コーパスで77.34%の精度を達成した。これは、文脈なしのベースラインモデル（73.96%）より3.38ポイント高い。
• 直前の発話を1つだけ組み込むことで、精度は73.96%から76.57%に上昇し、3つの直前発話を用いることで77.34%にさらに向上した。
• 4つの直前発話を用いた場合、精度は77.28%に安定し、3つの文脈ステップを超えては利得が減少することが示された。
• 3つの文脈発話を用いた10回の実験で標準偏差が0.21であったため、モデルの性能は一貫しており、頑健であることが示された。
• 文字レベル言語モデルによる発話表現は、特に短いまたは曖昧な発話において、語彙的・構文的特徴を効果的に捉えることができた。
• 本手法は、KalchbrennerとBlunsom（2013）が提案した先行の最先端手法（73.9%の精度）を3.44ポイント上回った。