[論文レビュー] Standing on the Shoulders of Giant Frozen Language Models

Yoav Levine, Itay Dalmedigos+11 more|arXiv (Cornell University)|Apr 21, 2022

Topic Modeling被引用数 20

ひとこと要約

本論文は、3つの新規の凍結型モデル手法—入力依存プロンプト調整、凍結リーダー、および再帰的言語モデル—が、ベースモデルのウェイトを更新することなく、難解なNLPタスクでファインチューニング済みモデルと同等またはそれを上回る性能を達成できることを示している。凍結言語モデルは多様性を保持すると主張し、実用的でコストは高いが効果的な技術を導入して、それらを活用する。

ABSTRACT

Huge pretrained language models (LMs) have demonstrated surprisingly good zero-shot capabilities on a wide variety of tasks. This gives rise to the appealing vision of a single, versatile model with a wide range of functionalities across disparate applications. However, current leading techniques for leveraging a "frozen" LM -- i.e., leaving its weights untouched -- still often underperform fine-tuning approaches which modify these weights in a task-dependent way. Those, in turn, suffer forgetfulness and compromise versatility, suggesting a tradeoff between performance and versatility. The main message of this paper is that current frozen-model techniques such as prompt tuning are only the tip of the iceberg, and more powerful methods for leveraging frozen LMs can do just as well as fine tuning in challenging domains without sacrificing the underlying model's versatility. To demonstrate this, we introduce three novel methods for leveraging frozen models: input-dependent prompt tuning, frozen readers, and recursive LMs, each of which vastly improves on current frozen-model approaches. Indeed, some of our methods even outperform fine-tuning approaches in domains currently dominated by the latter. The computational cost of each method is higher than that of existing frozen model methods, but still negligible relative to a single pass through a huge frozen LM. Each of these methods constitutes a meaningful contribution in its own right, but by presenting these contributions together we aim to convince the reader of a broader message that goes beyond the details of any given method: that frozen models have untapped potential and that fine-tuning is often unnecessary.

研究の動機と目的

• バックボーンモデルをファインチューニングせずに、凍結されたLMがマルチタスクおよびオープンドメインQAのベンチマークで競争力の性能を達成できることを示す。
• 従来のプロンプト調整を超える凍結LMの機能拡張手法を提案・検証する。
• 難易度の高い領域で、凍結LMベースのコンポーネントがファインチューニング手法と同等またはそれを上回ることを示しつつ、モデルの多様性を維持する。
• 実運用展開におけるコストやスケーラビリティなど、凍結LMの使用に関する実践的な考慮事項を強調する。

提案手法

• 小さなプロンプト生成ネットワークを用いて入力特有のプロンプトを生成する、入力依存プロンプト調整（ID-PT）を導入する。
• 取得済み文書に対して再ランキングステップを用いたリーダーとして巨大な凍結LMを使用することで、検索強化生成を実証する。
• 入力からより多くの情報を抽出するために、凍結LMを複数回通すテキスト的およびニューラルのLM再帰アプローチを開発する。
• マルチタスクおよびオープンドメインQAのベンチマークで、凍結LMアプローチを強力なファインチューニング済みのベースラインと比較する。
• ID-PTプロンプト生成器とクロスアテンションベースのプロンプト合成メカニズムのアーキテクチャおよび訓練詳細を提供する。

実験結果

リサーチクエスチョン

• RQ1 大規模なマルチタスク設定で、凍結言語モデルはファインチューニング済みモデルと同等またはそれを上回ることができるか？
• RQ2 外部コンポーネント（プロンプト生成器、リランキング器、再帰的パス）を追加した凍結LMは、オープンドメインQAにおいてファインチューニングとの差を縮めるか？
• RQ3 凍結リーダーを用いた取得強化生成は、Natural Questionsのようなベンチマークでどれだけ性能を押し上げられるか？
• RQ4 ファインチューニングされたモデルと比べて、凍結LMベースのシステムを導入する際の実際のコストとスケーラビリティへの影響はどのようなものか？

主な発見

タスククラスター	T0++	ID-PT+J1-Large
抽出型QA	28.5	26.0
多択QA	62.8	62.9
感情分析	84.6	91.9
パラフレーズ同定	62.9	66.8
トピック分類	95.4	95.5
クローズドブックQA	64.7	65.1
文の完成	49.3	49.6
構造化テキストからの生成	57.9	50.7
要約	40.0	35.9
自然言語推論	36.0	33.7
全データセットの平均	61.6	61.9

• 凍結7B J1-LargeモデルのID-PTは、P3マルチタスクスイートでファインチューニング済みの11B T0++モデルにほぼ匹敵し、タスククラスタ間で性能がほぼ同等である。
• ID-PT+J1-Largeは感情分析とパラフレーズ課題で平均スコアが高く、T0++は構造化テキスト生成と要約課題でより良い性能を示した。
• 同じリトリーバー（DPR）を用い、再ランキングされた passage を用いる凍結J1-Large-7Bリーダーは、Natural Questionsでファインチューニング済みリーダーのいくつかを上回ることができ、Spider+BM25の取得で改善する。
• 特定のリトリーバー設定下で、再ランキングを伴う17B凍結J1-Grandeリーダーは、Natural QuestionsでFiD-DistillおよびEMDR2のベースラインに匹敵するか上回る。
• 凍結LMを複数回通すLM再帰は、クローズドブックODQA設定で単一パスと比べて有意な向上をもたらす。
• 結果を通じて、凍結LMアプローチは、モデルの多様性を維持しつつ、いくつかの強力なファインチューニング済みベースラインに匹敵するか、それを上回ることができる。