[論文レビュー] Improving Frame Semantic Parsing with Hierarchical Dialogue Encoders.

Ankur Bapna, Gökhan Tür+2 more|arXiv (Cornell University)|May 8, 2017

Topic Modeling参考文献 19被引用数 4

ひとこと要約

本稿では、RNNベースのアーキテクチャを用いて、時間的順序に従ってマルチターン対話履歴をモデル化する階層的対話エンコーダーネットワーク（HDEN）を提案する。これにより、会話的言語理解におけるフレーム意味解析が向上する。実験の結果、HDENは、直前のターンのみを用いるモデルや、発話の順序を失うメモリネットワークを用いるモデルと比較して、意味フレーム誤り率を低減することが示された。

ABSTRACT

Conversational Language Understanding (CLU) is a key component of goal oriented dialogue systems that would parse user utterances into semantic frame representations. Traditionally CLU does not utilize the dialogue history beyond the previous system turn and contextual ambiguities are resolved by the downstream components. In this paper, we explore novel approaches for modeling dialogue context in a recurrent neural network (RNN) based language understanding system. We propose the Hierarchical Dialogue Encoder Network, that allows encoding context from the dialogue history in chronological order. We compare the performance of our proposed architecture with two context models, one that uses just the previous turn context and another that encodes dialogue context in a memory network, but loses the order of utterances in the dialogue history. Experiments with a multi-domain dialogue dataset demonstrate that the proposed architecture results in reduced semantic frame error rates.

研究の動機と目的

• 既存の会話的言語理解システムが、文脈として直前のシステムターンのみを用いるという制限を解消すること。
• 発話の時間的順序を保持する形で、完全な対話履歴をモデル化すること。
• より豊富で順序付けられた対話文脈をフレーム解析に活用することで、意味フレーム誤り率を低減すること。
• 提案された階層的エンコーダーを、ベースラインの文脈モデル化アプローチと比較すること。

提案手法

• 時間的順序に従って対話履歴を処理する階層的RNNベースのエンコーダーを設計し、長距離依存関係を捉える。
• 二段階の符号化を用いる：発話レベルの符号化の後に、対話レベルの符号化を実施し、文脈を階層的にモデル化する。
• 符号化された対話文脈を、より良い理解を実現するためのフレーム意味解析モデルに統合する。
• 複数ドメインの対話データセット（アノテート済みの意味フレームを含む）を用いて、エンドツーエンドのシステムを学習する。
• 提案モデルを二つのベースラインと比較する：一つは直前のターンの文脈のみを用いるモデル、もう一つは発話の順序を保持しないメモリネットワークを用いるモデル。

実験結果

リサーチクエスチョン

• RQ1 時間的順序に従って対話履歴をモデル化することは、会話的言語理解におけるフレーム意味解析のパフォーマンスを向上させることができるか？
• RQ2 提案された階層的エンコーダーは、直前のターン文脈のみを用いるモデルと比較してどのように異なるか？
• RQ3 対話履歴における発話の順序を保持することは、順序を失うメモリネットワークと比較して、意味フレームの曖昧性解消に寄与するか？
• RQ4 階層的文脈モデル化は、意味フレーム誤り率の低減にどのような影響を及けるか？

主な発見

• 提案された階層的対話エンコーダーネットワーク（HDEN）は、直前のターン文脈のみを用いるモデルと比較して、より低い意味フレーム誤り率を達成した。
• 発話の順序を保持しないメモリネットワークベースのアプローチと比較して、本モデルは優れた性能を示した。
• 対話履歴の階層的符号化は、フレーム解析における文脈的曖昧性の解消に寄与した。
• この改善効果は、複数ドメインにまたがるマルチドメイン対話データセットにおいて一貫して観察された。