[論文レビュー] Unsupervised Discrete Sentence Representation Learning for Interpretable Neural Dialog Generation

Tiancheng Zhao, Kyusong Lee+1 more|arXiv (Cornell University)|Apr 22, 2018

Topic Modeling参考文献 33被引用数 23

ひとこと要約

本稿では、相互情報量の最大化と文脈予測を組み合わせた変分オートエンコーダーを拡張することで、解釈可能な潜在的行動を学習する非教師あり離散的文脈表現モデルである DI-VAE と DI-VST を提案する。エンコーダ・デコーダ型対話モデルに統合されたこれらの手法により、制御可能で人間が理解可能な応答生成が可能となり、現実世界の対話データセットにおいて、分離された意味的表現と属性制御の分野で最先端の性能を達成した。

ABSTRACT

The encoder-decoder dialog model is one of the most prominent methods used to build dialog systems in complex domains. Yet it is limited because it cannot output interpretable actions as in traditional systems, which hinders humans from understanding its generation process. We present an unsupervised discrete sentence representation learning method that can integrate with any existing encoder-decoder dialog models for interpretable response generation. Building upon variational autoencoders (VAEs), we present two novel models, DI-VAE and DI-VST that improve VAEs and can discover interpretable semantics via either auto encoding or context predicting. Our methods have been validated on real-world dialog datasets to discover semantic representations and enhance encoder-decoder models with interpretable generation.

研究の動機と目的

• 従来のシステムが人間が理解できる行動を出力できるのに対し、ニューラル対話システムに解釈可能性が欠けている問題に対処する。
• 手動のアノテーションなしに、ラベルなしの対話データから意味的で離散的な潜在的表現（潜在的行動）を学習する。
• これらの離散的表現を既存のエンコーダ・デコーダモデルに統合し、解釈可能で制御可能な応答生成を可能にする。
• 離散変数の学習において ELBO 目的関数の反情報バイアスを克服することで、変分オートエンコーダーを改善する。
• オートエンコーディングを超えた学習信号を提供するため、離散版 Skip Thought を用いた文脈予測を導入する。

提案手法

• ELBO の反情報バイアスを克服するために、入力文と離散的潜在変数間の相互情報量を最大化する離散情報VAE（DI-VAE）を提案する。
• 対話文脈における周囲の発話予測によって文表現を学ぶ、離散版の Skip Thought モデル（DI-VST）を導入する。
• ニューラルネットワークにおける離散的潜在変数の微分可能訓練を可能にするために、Gumbel-Softmax 再パrameterization テクニックを採用する。
• 潜在的行動がエンコーダ・デコーダアーキテクチャのデコーダを条件づけるように、共同学習フレームワークを設計する。
• 生成された応答が予測された潜在的行動と一致するように、属性損失 $\mathcal{L}_{\text{attr}}$ を導入し、制御性と一貫性を向上させる。
• 対話文脈から潜在的行動を予測する方策ネットワーク $\pi$ を用いて、エンドツーエンドの解釈可能な対話生成を実現する。

実験結果

リサーチクエスチョン

• RQ1 ラベルなしの対話データから、解釈可能で意味的に意味のある潜在的行動を、非教師ありの離散的文脈表現学習によって発見できるか？
• RQ2 入力と潜在変数の間の相互情報量を最大化することで、標準的な VAE と比較して、離散的表現の質がどのように向上するか？
• RQ3 DI-VST を用いた文脈予測は、オートエンコーディングのみに比べて、より強力な信号を提供するか、あるいは補完的信号を提供するか？
• RQ4 学習された離散的潜在的行動は、対話行動や応答タイプといった生成応答の特定の属性をどの程度制御できるか？
• RQ5 方策ネットワーク $\pi$ は、対話文脈から正しい潜在的行動をどの程度正しく予測できるか？また、異なる対話ドメイン間でその性能に差は現れるか？

主な発見

• DI-VAE と DI-VST は、標準的な VAE よりも意味的で離散的な潜在的表現を顕著に優れて学習しており、DI-VAE は $\mathcal{L}_{\text{attr}}$ を組み合わせることで SMD で 94.8% の属性正解率を達成した。
• 潜在的行動をエンコーダ・デコーダフレームワークに統合することで、制御可能な応答生成が可能となり、生成された応答は与えられた潜在的行動と極めて一貫していた。
• $\mathcal{L}_{\text{attr}}$ を追加することで、ST-ED が SW および DD のような挑戦的なオープンドメインデータセットにおいて、属性正解率が 57.3% から 61.3% に向上した。
• 方策ネットワーク $\pi$ は、ST-ED で SMD において 1.695 の低い perplexity と 75.5% の高い正解率を達成し、オートエンコーディングに依存するものよりも、文脈に基づく潜在的行動の予測が容易であることが示された。
• DI-VST を用いた潜在的行動は、DI-VAE を用いたものよりも方策ネットワークによってより予測可能であり、これは文脈に依存する表現が、高レベルの対話方策学習に適していることを示唆している。
• 推論例では、AE-ED は細分化されたが正確性に欠ける行動（例：'give loc info' が 34% の確率）を生成する一方、ST-ED はより自信があり解釈可能な行動（例：'give loc info' が 93% の確率）を生成した。