[論文レビュー] DPTDR: Deep Prompt Tuning for Dense Passage Retrieval

Zhengyang Tang, Benyou Wang+1 more|arXiv (Cornell University)|Aug 24, 2022

Topic Modeling被引用数 4

ひとこと要約

本稿では、リtrieval指向の中間事前学習（RIP）と統一的ネガティブマイニング（UNM）を導入することで、MS-MARCOおよびNatural Questionsで最先端性能を達成する、密度的パスレトリーブのためのディーププロンプトチューニング手法DPTDRを提案する。これらの戦略により、パラメータ効率的な適応によってデプロイコストを著しく削減しつつ、プロンプトチューニングがファインチューニングの性能に匹敵することが可能になる。

ABSTRACT

Deep prompt tuning (DPT) has gained great success in most natural language processing~(NLP) tasks. However, it is not well-investigated in dense retrieval where fine-tuning~(FT) still dominates. When deploying multiple retrieval tasks using the same backbone model~(e.g., RoBERTa), FT-based methods are unfriendly in terms of deployment cost: each new retrieval model needs to repeatedly deploy the backbone model without reuse. To reduce the deployment cost in such a scenario, this work investigates applying DPT in dense retrieval. The challenge is that directly applying DPT in dense retrieval largely underperforms FT methods. To compensate for the performance drop, we propose two model-agnostic and task-agnostic strategies for DPT-based retrievers, namely retrieval-oriented intermediate pretraining and unified negative mining, as a general approach that could be compatible with any pre-trained language model and retrieval task. The experimental results show that the proposed method (called DPTDR) outperforms previous state-of-the-art models on both MS-MARCO and Natural Questions. We also conduct ablation studies to examine the effectiveness of each strategy in DPTDR. We believe this work facilitates the industry, as it saves enormous efforts and costs of deployment and increases the utility of computing resources. Our code is available at https://github.com/tangzhy/DPTDR.

研究の動機と目的

• 各タスクごとにバックボーンモデルの別々のコピーを必要とするマルチタスク密度的レトリーブ環境におけるファインチューニング（FT）の高いデプロイコストを軽減すること。
• 通常この設定では性能が低下しがちなディーププロンプトチューニング（DPT）が、密度的パスレトリーブにおいてファインチューニング（FT）と同等の性能を達成できるかどうかを調査すること。
• モデルに依存せずタスクに依存しない戦略を開発し、モデルアーキテクチャの変更なしにDPTの性能を向上させること。
• 単一の凍結されたバックボーンを用いて、軽量でトレーニング可能なプロンプトを活用することで、複数のレトリーバーモデルの効率的でスケーラブルなデプロイを可能にすること。

提案手法

• リトリーブ指向の中間事前学習（RIP）を導入し、プロンプトチューニングの前段階でランダムに抽出された文やテキストスパンを用いて対照的学習を実施することで、表現品質を向上させる。
• 統一的ネガティブマイニング（UNM）を提案し、BM25や密度的レトリーバーを含む多様なレトリーバーから得られるハードネガティブ例を、ノイズ除去済みおよびノイズ除去されていないサンプリングを併用して統合することで、訓練信号の多様性と難易度を向上させる。
• 事前学習済み言語モデル（例：RoBERTa）の深層部にトレーニング可能なプロンプトベクトルを挿入することでディーププロンプトチューニング（DPT）を実装し、バックボーンの重みを凍結し、プロンプトパラメータのみをファインチューニングする。
• 表現品質を評価するため、正例ペアのアライメントと表現空間の均一性を促進するコントラスト学習目的関数を用い、損失成分$l_{align}$と$l_{uniform}$を導入する。
• 複数のレトリーバーから得たハードネガティブ例を再ランカーによりノイズ除去し、DPT訓練に使用するネガティブサンプルの品質を向上させる。
• アーキテクチャの変更なしに任意の事前学習済み言語モデル（PLM）をサポートし、DPTベースのレトリーバーのプラグアンドプレイなデプロイを可能にする。

実験結果

リサーチクエスチョン

• RQ1 通常この設定では性能が低下しがちなディーププロンプトチューニング（DPT）が、密度的パスレトリーブにおいてファインチューニング（FT）と同等の性能を達成できるか？
• RQ2 リトリーブ指向の中間事前学習（RIP）は、テキスト表現品質の向上によりDPT性能を顕著に改善できるか？
• RQ3 複数のレトリーバーシステムから得た多様でハードなネガティブ例を統合することで、UNMがDPT性能をどの程度向上させるか？
• RQ4 RIPとUNMによる性能向上は、異なる事前学習済み言語モデルやレトリーバーベンチマークにおいても一貫して有効であるか？
• RQ5 パラメータ効率性を活かして、DPTベースのモデルが低デプロイコストを維持しながら最先端の結果を達成できるか？

主な発見

• DPTDRは、MS-MARCOおよびNatural Questionsの両方で、以前の最先端モデルを上回り、それぞれMRR@10が38.7および35.5を達成した。
• RIPとUNMの組み合わせにより、DPTがフルファインチューニングの性能に匹敵するようになり、MS-MARCOではバニラDPTに比べてMRR@10が3.2ポイント向上した。
• ランダムに抽出された文を用いたRIP事前学習は、スパンベースのサンプリングよりも優れたゼロショット性能（MRR@10: 15.4）を示し、文単位での事前学習が意味の完全性を保つことを示唆している。
• アーキテクチャの変更を加えたcoCondenser（追加のデコーダー構造を備える）よりも、RIPがアライメント（$l_{align}$）および均一性（$l_{uniform}$）の両面で優れており、アーキテクチャ変更が必ずしも必要ではないことを示している。
• UNMは、複数のレトリーバーから得たノイズ除去されていないハードネガティブ例を統合することでMRR@10が1.5ポイント向上し、ノイズ除去済みネガティブ例を追加で統合することでさらに0.4ポイント向上した。
• DPTDRはプロンプト長に敏感ではなく、RIPと組み合わせることでゼロショット設定でも強力な性能を示し、ロバストネスと一般化能力が優れていることが示された。