[論文レビュー] Efficient Task-Oriented Dialogue Systems with Response Selection as an Auxiliary Task

Radostin Cholakov, Todor Kolev|arXiv (Cornell University)|Aug 15, 2022

Topic Modeling被引用数 8

ひとこと要約

本稿では、T5ベースのタスク指向対話システムにおける2つの応答選択補助タスクを提案する：正解応答と干渉応答の区別、および正解応答と生成応答（合成応答）の区別。ベースラインと比較して3倍少ないパラメータ数（1億0200万～1億0500万パラメータ）を使用しているにもかかわらず、MultiWOZ 2.1で107.4および108.3の最先端スコアを達成しており、より大きなT5-baseモデルを上回る性能を発揮するとともに、推論速度を維持している。

ABSTRACT

The adoption of pre-trained language models in task-oriented dialogue systems has resulted in significant enhancements of their text generation abilities. However, these architectures are slow to use because of the large number of trainable parameters and can sometimes fail to generate diverse responses. To address these limitations, we propose two models with auxiliary tasks for response selection - (1) distinguishing distractors from ground truth responses and (2) distinguishing synthetic responses from ground truth labels. They achieve state-of-the-art results on the MultiWOZ 2.1 dataset with combined scores of 107.5 and 108.3 and outperform a baseline with three times more parameters. We publish reproducible code and checkpoints and discuss the effects of applying auxiliary tasks to T5-based architectures.

研究の動機と目的

• 生成品質を損なわせることなくモデルサイズを削減することで、タスク指向対話システムの効率性と性能を向上させること。
• 応答選択を補助タスクとして用いることで、T5ベースアーキテクチャにおける生成性能が向上するかどうかを調査すること。
• 対話生成に用いられる大規模事前学習モデルにおける過学習とパラメータ非効率性を解消すること。
• 異なる応答選択戦略がモデルの汎化性能および推論速度に与える影響を調査すること。
• 補助学習を通じて、大規模対話モデルの代替として再現可能で効率的な手法を提供すること。

提案手法

• モデルは、対話履歴とユーザー発話の両方を処理する共有エンコーダを備えたT5-smallエンコーダデコーダアーキテクチャをバックボーンとして使用する。
• 2つの補助応答選択ヘッドを導入：1つ目は、エンコーディングされた表現を用いて正解応答と干渉応答の分類を実行する。
• 2つ目の分類器は、正解応答とデコーダーが生成した（合成された）応答の区別を実行し、離散的トークン生成の扱いを可能にするための微分可能リラクゼーションを用いる。
• 学習目的は、信念状態生成、応答生成、スパンマッチング、応答選択の損失を等重量（α=β=γ=δ=0.5）で組み合わせたものである。
• 推論の安定化のため、訓練中に温度スケーリングを適用し、τを4から0.8に段階的に低下させる。
• 推論時には応答選択ヘッドを削除するため、元のT5ベース生成速度およびストレージ効率が維持される。

実験結果

リサーチクエスチョン

• RQ1 応答選択を補助タスクとして用いることで、T5ベースのタスク指向対話システムにおける生成性能が向上するか？
• RQ2 補助応答選択を用いるT5-smallバックボーンを用いることで、同様のタスクに補助タスクを導入しないT5-baseモデルを上回る性能を発揮するか？
• RQ3 干渉応答分類と合成応答分類という異なる応答選択戦略が、モデルの性能および学習ダイナミクスに与える影響は何か？
• RQ4 補助タスクにより、エンドツーエンド対話システムにおける過学習の低減と汎化性能の向上が可能か？
• RQ5 自己回帰的トークン生成の非微分性を考慮しても、微分可能応答選択ヘッドは有効であるか？

主な発見

• 微分可能応答選択ヘッドを備えたモデル（RSTODバージョン2）は、MultiWOZ 2.1で108.34の統合スコアを達成し、T5-baseを用いたベースラインMTOOD（107.56）を上回ったが、パラメータ数は3倍少ない。
• 干渉応答分類を用いたモデル（バージョン1）は107.39のスコアを達成し、T5-smallベースライン（103.99）を上回り、T5-baseモデルの性能に近づいた。
• 両モデルとも、それぞれ1億0220万および1億0550万パラメータを用いており、T5-baseベースラインの3億6090万パラメータと比較して顕著なパラメータ効率性を示した。
• 推論速度およびモデルサイズは、T5-smallベースラインと同一であり、応答選択ヘッドは推論時に削除されるため、変更がない。
• 微分可能応答選択ヘッドにより、生成された応答を介した効果的なバックプロパゲーションが可能となり、温度リラクゼーションを用いて離散的トークン生成の非微分性を克服した。
• 結果から、補助的応答選択タスクが、従来はあまり検討が行われていなかったT5ベースアーキテクチャにおいても、生成品質と頑健性の向上に寄与することが確認された。