[論文レビュー] Continuous QA Learning with Structured Prompts

Zheng, Yinhe|arXiv (Cornell University)|Aug 31, 2022

Topic Modeling被引用数 5

ひとこと要約

Dianaは、一般、フォーマット、タスク、メタの4つの階層的プロンプトを用いて、複数の粒度で知識を捉える動的アーキテクチャに基づく生涯QAモデルである。タスクレベルとインスタンスレベルのコンponentsを学習可能なキーベクトルで統合することで、知識共有を実現し、特に未学習タスクへの一般化性能がSOTAを上回り、未学習タスクベンチマークで最大42.12%の向上を達成した。

ABSTRACT

QA models with lifelong learning (LL) abilities are important for practical QA applications, and architecture-based LL methods are reported to be an effective implementation for these models. However, it is non-trivial to extend previous approaches to QA tasks since they either require access to task identities in the testing phase or do not explicitly model samples from unseen tasks. In this paper, we propose Diana: a dynamic architecture-based lifelong QA model that tries to learn a sequence of QA tasks with a prompt enhanced language model. Four types of hierarchically organized prompts are used in Diana to capture QA knowledge from different granularities. Specifically, we dedicate task-level prompts to capture task-specific knowledge to retain high LL performances and maintain instance-level prompts to learn knowledge shared across different input samples to improve the model's generalization performance. Moreover, we dedicate separate prompts to explicitly model unseen tasks and introduce a set of prompt key vectors to facilitate knowledge sharing between tasks. Extensive experiments demonstrate that Diana outperforms state-of-the-art lifelong QA models, especially in handling unseen tasks.

研究の動機と目的

• 既存の生涯学習（LL）QAモデルの限界を解消する。具体的には、推論時にタスクIDを必要とするか、未学習タスクへの一般化に失敗する問題。
• 再訓練を伴わず、逐次的なQAタスク学習における深刻な忘却（catastrophic forgetting）を克服する。
• タスク固有とインスタンス固有のモデリングを統合することで、未学習QAタスクへの効果的な知識移転と一般化を実現する。
• キーベクトルと階層的プロンプト構造を用いた動的統合により、知識をタスク間で統合するプロンプトベースアーキテクチャを設計する。

提案手法

• プロンプト強化型事前学習言語モデル（PLM）を用いて、すべてのQAタスクを統一的なシーケンス生成フォーマットに変換する。
• 4種類の階層的プロンプトタイプを導入：一般（全タスクで共有）、フォーマット（QAフォーマットグループ内で共有）、タスク（各タスク専用）、メタ（インスタンスレベル適応のための動的プール）。
• 推論時にメタプロンプトを動的結合するために、学習可能なプロンプトキーベクトルを用いる。これにより、入力サンプルの適応的ルーティングが可能になる。
• 距離ベース正則化と多様性制約（例：ADB）を導入し、埋め込み空間におけるキーベクトルの局所性とカバー範囲のバランスを保証する。
• 未学習タスク用に別個のタスクプロンプトを割り当て、キーベクトルを介してタスク間の知識共有を促進する。
• スケジューリングサンプリングおよびネガティブサンプリング戦略を適用し、プロンプト学習とアイデンティティ検出性能の向上を図る。

実験結果

リサーチクエスチョン

• RQ1 推論時にタスクIDを必要としない生涯QAモデルは、未学習タスクへの一般化を効果的に行えるか？
• RQ2 複数の粒度における階層的プロンプト構造は、生涯QAにおける知識保持と一般化にどのように影響するか？
• RQ3 正則化されたキーベクトルを用いた動的結合メタプロンプトは、学習済みおよび未学習タスクの両方で性能をどの程度向上させるか？
• RQ4 未学習タスク用に専用コンponentsを統合することで、モデルのロバストネスと一般化性能にどのような影響を与えるか？
• RQ5 キーベクトルの多様性と局所性は、新しいタスクアイデンティティの検出と適応能力にどの程度寄与するか？

主な発見

• アブレーションスタディにおいて、Dianaは未学習タスクで55.93%のテスト精度を達成し、次善のベースライン（54.16%）を顕著に上回った。
• アブレーションスタディの結果、メタプロンプトコンponentを削除すると最も大きな性能低下が発生し、生涯学習におけるその重要性が裏付けられた。
• ADB（敵対的多様性正則化）の導入により、未学習タスクでの性能（$A_{N'}$）が大幅に向上し、一般化性能の向上効果が明確に示された。
• モデルのタスクアイデンティティ検出精度は66.97%に達し、ベースライン検出器（59.84%〜63.43%）を上回り、学習済みプロンプトキーベクトルの有効性が裏付けられた。
• 定量的分析から、メタプロンプトキーベクトルの分布はZ=2で高い多様性（1.00）と強い局所性（0.74）を示しており、埋め込み空間におけるバランスの取れたカバレッジとクラスタリングが実現していることが示された。
• スケジューリングサンプリング戦略により、タスクプロンプト学習が向上し、特に学習済みタスクにおいて全体の生涯性能が向上した。