[論文レビュー] SOLOIST: Few-shot Task-Oriented Dialog with A Single Pre-trained Auto-regressive Model

Baolin Peng, Chunyuan Li+4 more|arXiv (Cornell University)|May 11, 2020

Topic Modeling参考文献 42被引用数 88

ひとこと要約

SOLOISTは、タスク指向対話における対話状態追跡、ポリシー学習、応答生成を統合する1つの事前学習済み自己回帰的Transformerモデルを提案する。転移学習とマシンティーチングを活用することで、CamRestおよびMultiWOZでわずかなタスク固有の例でのみ、最先端の性能を達成し、ラベル付けコストを顕著に削減する。

ABSTRACT

This paper presents a new method SOLOIST, which uses transfer learning to efficiently build task-oriented dialog systems at scale. We parameterize a dialog system using a Transformer-based auto-regressive language model, which subsumes different dialog modules (e.g., state tracker, dialog policy, response generator) into a single neural model. We pre-train, on large heterogeneous dialog corpora, a large-scale Transformer model which can generate dialog responses grounded in user goals and real-world knowledge for task completion. The pre-trained model can be efficiently adapted to accomplish a new dialog task with a handful of task-specific dialogs via machine teaching. Our experiments demonstrate that (i) SOLOIST creates new state-of-the-art results on two well-known benchmarks, CamRest and MultiWOZ, (ii) in the few-shot learning setting, the dialog systems developed by SOLOIST significantly outperform those developed by existing methods, and (iii) the use of machine teaching substantially reduces the labeling cost. We will release our code and pre-trained models for reproducible research.

研究の動機と目的

• タスク固有のモジュール設計に依存しないスケーラブルで統合的なフレームワークを構築すること。
• 事前学習モデル上でのマシンティーチングを活用して、少量のラベルデータでタスク指向対話学習におけるラベル付けコストを最小限に抑えること。
• 大規模で多様な対話コーパスからの転移学習を用いて、リソースが限られた状況下での対話システムのゼロショットおよび少量ショット一般化を向上させること。
• 状態追跡、ポリシー学習、応答生成を1つのエンドツーエンド自己回帰的モデルに統合すること。
• CamRestやMultiWOZのようなベンチマークデータセットで、最小限のファインチューニングデータで最先端の性能を達成すること。

提案手法

• 状態追跡、ポリシー、応答生成の各別モジュールに代わり、1つのTransformerベースの自己回帰的言語モデルで対話システム全体をパrameter化すること。
• 実用的応答とユーザーの目的理解を学習するために、大規模で多様な対話コーパス上でモデルを事前学習すること。
• マシンティーチングを用いて、新しいタスクに適応させる。この際、タスク固有の対話例をわずかに使用してファインチューニングを誘導する。
• ユーザーの目的と現実世界の知識に条件づけられた応答を生成するため、1つのシーケンス・トゥ・シーケンス自己回帰的生成ヘッドを用いること。
• ユーザーの目的と外部知識を入力プロンプトに明示的に統合することで、根拠に基づき、タスクに準拠した応答を生成すること。
• 大規模で多様な対話データからの転移学習を活用して、最小限のラベルデータで新しいドメインへの迅速な適応を可能にすること。

実験結果

リサーチクエスチョン

• RQ1 1つの事前学習済み自己回帰的モデルは、タスク指向対話における状態追跡、ポリシー学習、応答生成を効果的に統合できるか？
• RQ2 SOLOISTは、標準ベンチマーク上で、既存の手法と比較して少量ショット設定でどの程度の性能を示すか？
• RQ3 マシンティーチングは、モデル性能を維持または向上させつつ、ラベル付けコストをどの程度削減できるか？
• RQ4 大規模で多様な対話データからの転移学習は、リソースが限られた対話状況での一般化を向上させることができるか？
• RQ5 SOLOISTの統合アーキテクチャは、少量ショット条件下でCamRestおよびMultiWOZで最先端の結果を達成できるか？

主な発見

• SOLOISTは、少量ショット設定下でCamRestおよびMultiWOZベンチマークの両方で、新たな最先端の結果を達成した。
• モデルは、既存の手法を顕著に上回り、最小限のラベルデータでのみでも優れた一般化性能を示した。
• マシンティーチングにより、新しい対話タスクにおけるラベル付けコストが顕著に削減されたが、高い性能を維持した。
• 統合された自己回帰的モデルは、別個のモジュール学習を必要とせず、複雑な対話ダイナミクスを効果的に捉えた。
• 大規模で多様な対話コーパスでの事前学習により、強力なゼロショットおよび少量ショット適応能力が得られた。
• ユーザーの目的と現実世界の知識に条件づけたことで、根拠に基づき、タスクに準拠した応答が生成された。