[論文レビュー] Preview, Attend and Review: Schema-Aware Curriculum Learning for Multi-Domain Dialog State Tracking

Yinpei Dai, Hangyu Li+5 more|arXiv (Cornell University)|Jun 1, 2021

Topic Modeling参考文献 38被引用数 4

ひとこと要約

本稿では、マルチドメイン対話状態追跡（DST）のためのモデルに依存しないフレームワーク、SaCLogを提案する。このフレームワークは、スキーマに配慮したカリキュラム学習を統合し、スキーマ構造の事前学習（プレビュー）、難易度順の段階的訓練（カリキュラム）、およびスキーマ知識を用いた誤予測例の拡張（レビュー）を通じてDST性能を向上させる。Transformerベース（TripPy）およびRNNベース（TRADE）の両モデルにおいて、WOZ2.0およびMultiWOZ2.1で最先端の結果を達成した。

ABSTRACT

Existing dialog state tracking (DST) models are trained with dialog data in a random order, neglecting rich structural information in a dataset. In this paper, we propose to use curriculum learning (CL) to better leverage both the curriculum structure and schema structure for task-oriented dialogs. Specifically, we propose a model-agnostic framework called Schema-aware Curriculum Learning for Dialog State Tracking (SaCLog), which consists of a preview module that pre-trains a DST model with schema information, a curriculum module that optimizes the model with CL, and a review module that augments mispredicted data to reinforce the CL training. We show that our proposed approach improves DST performance over both a transformer-based and RNN-based DST model (TripPy and TRADE) and achieves new state-of-the-art results on WOZ2.0 and MultiWOZ2.1.

研究の動機と目的

• 対話状態追跡（DST）において、特にカリキュラム構造およびスキーマ構造が十分に活用されていない問題に対処する。
• 既存のDSTモデルが例の難易度の進行を考慮しないランダムな訓練順序を採用しているという限界を克服する。
• スキーマ情報をカリキュラム学習に統合することで、モデルの訓練をより効果的に導くことにより、DST性能を向上させる。
• TransformerベースおよびRNNベースのDSTモデルの両方を向上させることを可能にする、モデルに依存しないフレームワークを構築する。このフレームワークは、構造的なカリキュラムとスキーマに配慮した事前学習およびデータ拡張を統合する。
• DSTにおいて、これまで未発表であったカリキュラム学習の有効性を実証する。

提案手法

• 主な訓練の前段階で構造的インダクティブバイアスを確立するために、スキーマ関連の目的関数を用いてDSTモデルの事前学習を行うプレビュー・モジュールを導入する。
• モデルの予測とルールベースのヒューリスティクスを組み合わせたハイブリッドスコアを用いて、訓練例の難易度を順位付けし、易しめから難しい順に訓練を実施するカリキュラム・モジュールを設計する。
• 誤予測例に対してスキーマに配慮したデータ拡張を実施することで、困難な例に対する学習を強化するレビュー・モジュールを実装する。
• 例の複雑さを測定するために、交差検証風のモデル予測と人間がアノテートしたルールに基づく難易度スコアラーを用いる。
• Transformerベース（例：TripPy）およびRNNベース（例：TRADE）の両DSTモデルにこのフレームワークを適用し、モデルに依存しない適用可能性を実証する。
• スキーマ情報を事前学習の目的としてだけでなく、レビュー段階での合成訓練例の生成にも活用し、モデルの頑健性を向上させる。

実験結果

リサーチクエスチョン

• RQ1 構造的で難易度順の訓練スケジュールを採用したカリキュラム学習は、対話状態追跡性能を向上させることができるか？
• RQ2 カリキュラム学習プロセスにスキーマ構造を統合することで、DSTモデルの一般化性能および正確性にどのような影響を与えるか？
• RQ3 スキーマに配慮した事前学習およびレビュー・モジュールによる事後的データ拡張は、困難な例におけるモデルの学習にどの程度向上効果をもたらすか？
• RQ4 提案されたフレームワークは、TransformerベースおよびRNNベースのDSTアーキテクチャといった異なるDSTアーキテクチャに一般化可能か？
• RQ5 各モジュール（プレビュー、カリキュラム、レビュー）が全体の性能向上に果たす相対的貢献度はどの程度か？

主な発見

• SaCLogは、MultiWOZ2.1において60.61%の新しいSOTAとなる共同目標精度（JGA）を達成し、ConvBERTやCoCoAugを用いた先行手法を上回った。
• WOZ2.0では94.2%のJGAを達成し、SOTAの新記録を樹立し、前回の最高記録を3ポイント以上上回った。
• アブレーションスタディの結果、プレビューまたはレビュー・モジュールを削除するとJGAが1.76%低下し、これらがモデル学習の向上に果たす重要な役割を確認した。
• モデルベースとルールベースの両方を組み合わせたハイブリッド難易度スコアラーが最良の性能（58.85% JGA）を示し、人間の知見とモデルの知見を統合することの価値を示した。
• RNNベースのTRADEモデルに適用した場合、SaCLogはMultiWOZ2.1でJGAを3.7ポイント、WOZ2.0で2.8ポイント向上させ、さまざまなアーキテクチャにわたる広範な有効性を示した。
• フレームワークはモデルに依存せず、TripPyおよびTRADEの両方を効果的に向上させた。これは、特定のモデルアーキテクチャに限定されない汎用性を裏付けた。