[論文レビュー] Learning a Better Initialization for Soft Prompts via Meta-Learning

Yukun Huang, Kun Qian+1 more|arXiv (Cornell University)|May 25, 2022

Topic Modeling被引用数 5

ひとこと要約

本稿では、事前学習データをメタタスクにクラスタリングすることで隠れた構造を発見し、少数ショットプロンプトチューニングにおけるソフトプロンプト初期化を改善するメタラーニングフレームワークMetaPTを提案する。これらのクラスタ上でモデルに依存しないメタラーニング（MAML）を用いてプロンプトを事前学習することで、PPTや完全微調整を含む最先端手法と比較して、少々ショット設定下で優れたかつより安定した性能を達成する。7つの下流NLPタスクで評価された。

ABSTRACT

Prompt tuning (PT) is an effective approach to adapting pre-trained language models to downstream tasks. Without a good initialization, prompt tuning doesn't perform well under few-shot settings. So pre-trained prompt tuning (PPT) is proposed to initialize prompts by leveraging pre-training data. We propose MetaPT (Meta-learned Prompt Tuning) to further improve PPT's initialization by considering latent structure within the pre-training data. Specifically, we introduce the structure by first clustering pre-training data into different auxiliary tasks with unsupervised methods. Then we use these tasks to pre-train prompts with a meta-learning algorithm. Such a process can make prompts learn a better initialization by discovering commonalities among these auxiliary tasks. We evaluate our method on seven downstream tasks. Our MetaPT achieves better and more stable performance than the state-of-the-art method.

研究の動機と目的

• 少数ショット設定下でソフトプロンプト初期化が不十分であることが原因でプロンプトチューニングの性能が劣る問題に対処すること。
• データポイントを均一に扱うのではなく、事前学習データからの隠れた構造を組み込むことで、事前学習プロンプトチューニング（PPT）を改善すること。
• 教師なしクラスタリングとメタラーニングを用いて、より汎用的かつ転移可能なソフトプロンプト初期化を学習する手法を開発すること。
• 提案手法の有効性と安定性を、少数ショット状況下での多様な下流NLPタスクにおいて評価すること。

提案手法

• Sentence-BERTモデルからの文埋め込みとK-meansクラスタリングを用いて、事前学習データを補助的メタタスクにクラスタリングする。
• 得られたクラスタを個別のメタラーニングタスクとして用い、モデルに依存しないメタラーニング（MAML）によりソフトプロンプトを事前学習する。
• クラスタ間の共通構造を活用して、タスク固有のノイズではなく汎用的特徴をソフトプロンプトが学習するよう促進する。
• 微調整を一切行わずに、下流タスクに事前学習済みソフトプロンプトを適用することで、少数ショット設定下での高速かつ安定した適応を実現する。
• PPTおよび完全微調整と比較するため、7つの下流NLPタスクで少数ショット条件下での性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 事前学習データから導出された構造的メタタスクから学習することで、少数ショットプロンプトチューニングにおけるソフトプロンプト初期化が改善されるか？
• RQ2 クラスタリング手法の選択（例：K-means、LDA、ランダム、ラベルベース）が、メタラーニングされたプロンプトの性能にどのように影響するか？
• RQ3 メタラーニングにおける最適なクラスタ数は何か？ また、その数が性能と収束に与える影響は？
• RQ4 本手法で良好な性能を得るには、どの程度の事前学習データ量が必要か？

主な発見

• K-meansクラスタリングを用いた場合、SST-5タスクでPPTを3.35%上回り、46.24%の精度を達成した。
• K-meansクラスタリングが最良の性能（46.24 ± 0.42）を示し、LDA（44.10 ± 0.83）、ランダム（42.95 ± 1.05）、ラベルベースクラスタリング（42.84 ± 0.76）を顕著に上回った。
• 10,000件の事前学習サンプルを過ぎると性能が頭打ちになることが示され、それ以上のデータ量は顕著に結果を改善しないことがわかった。
• クラスタ数は性能に強く影響を与え、最適な結果はK=10で得られ、K=20を超えると性能が安定した。
• t-SNE可視化により、K-meansクラスタが意味的に類似した文をまとめており、導出されたメタタスクの意味的構造が妥当であることが確認された。