[論文レビュー] What and How does In-Context Learning Learn? Bayesian Model Averaging, Parameterization, and Generalization

Yufeng Zhang, Fengzhuo Zhang+2 more|arXiv (Cornell University)|May 30, 2023

Topic Modeling被引用数 4

ひとこと要約

この論文は、大規模言語モデルにおける文脈内学習（ICL）を、変換器のアテンションメカニズムによって暗黙的に実装されるベイジアンモデル平均化（BMA）としてフレームワーク化し、ICLのパフォーマンスに対するO(1/T)のレグレットバウンドを確立するとともに、事前学習誤差が深さに対して指数関数的に減少し、データセットサイズに対しては部分線形に減少することを証明する。本研究は、アテンション、事前学習、一般化の統一的理論的枠組みを提供する。

ABSTRACT

In this paper, we conduct a comprehensive study of In-Context Learning (ICL) by addressing several open questions: (a) What type of ICL estimator is learned by large language models? (b) What is a proper performance metric for ICL and what is the error rate? (c) How does the transformer architecture enable ICL? To answer these questions, we adopt a Bayesian view and formulate ICL as a problem of predicting the response corresponding to the current covariate, given a number of examples drawn from a latent variable model. To answer (a), we show that, without updating the neural network parameters, ICL implicitly implements the Bayesian model averaging algorithm, which is proven to be approximately parameterized by the attention mechanism. For (b), we analyze the ICL performance from an online learning perspective and establish a $\mathcal{O}(1/T)$ regret bound for perfectly pretrained ICL, where $T$ is the number of examples in the prompt. To answer (c), we show that, in addition to encoding Bayesian model averaging via attention, the transformer architecture also enables a fine-grained statistical analysis of pretraining under realistic assumptions. In particular, we prove that the error of pretrained model is bounded by a sum of an approximation error and a generalization error, where the former decays to zero exponentially as the depth grows, and the latter decays to zero sublinearly with the number of tokens in the pretraining dataset. Our results provide a unified understanding of the transformer and its ICL ability with bounds on ICL regret, approximation, and generalization, which deepens our knowledge of these essential aspects of modern language models.

研究の動機と目的

• 大規模言語モデルにおける文脈内学習（ICL）が、パrameterの更新なしにどのような推定器を実装しているかを理解すること。
• ICLに適したパフォーマンス指標を定義し、その誤差率を定量化すること。
• 変換器アーキテクチャが、プロンプト処理と事前学習の両方においてICLをどのように可能にするかを説明すること。
• ベイジアンおよびオンライン学習の枠組みを用いて、ICL、事前学習、一般化を統一的に理論的分析すること。

提案手法

• 例が隠れ概念z*によってパrameter化された潜在変数モデルから抽出されるという仮定の下で、ICLをベイジアン推論問題として定式化する。
• パrameterの更新なしにICLがベイジアンモデル平均化（BMA）を実装することを示し、アテンションメカニズムがこのプロセスを近似的に符号化していることを示す。
• オンライン学習に基づくICLのレグレット指標を導入し、完全に事前学習されたモデルにおいてO(1/T)のレグレットバウンドを証明する。
• PAC-Bayesフレームワークを適用して事前学習誤差を分析し、近似誤差と一般化誤差の2つの成分に分解する。
• 近似誤差が変換器の深さとともに指数関数的に減少することを証明する。
• 一般化誤差が事前学習データセットのトークン数に対して部分線形に減少することを証明する。
• 集中不等式と行列ノルムのバウンドを用いて、アテンションメカニズムの安定性と一般化性能を分析する。

実験結果

リサーチクエスチョン

• RQ1 パrameterの更新なしに、大規模言語モデルが暗黙的に学習するICL推定器の種類は何か？
• RQ2 ICLに適したパフォーランス指標は何か？ その理論的誤差率は？
• RQ3 変換器アーキテクチャは、事前学習とプロンプト処理の両方において、どのようにICLを可能にするか？
• RQ4 事前学習における近似誤差と一般化誤差は、下流のICLパフォーマンスにどのように影響するか？

主な発見

• パrameterの更新なしにICLが暗黙的にベイジアンモデル平均化（BMA）を実装しており、アテンションメカニズムがこのプロセスを近似的に符号化している。
• プロンプトにT個の例を含めた後のICLのレグレットは、事前学習モデルの統計的誤差を除けばO(1/T)でバウンドされる。
• 事前学習モデルにおける近似誤差は、変換器の深さが増すにつれて指数関数的に急速に減少する。
• 一般化誤差は、事前学習データセットのトークン数に対して部分線形に減少する。
• 標準的なソフトマックスアテンションメカニズムは、プロンプト長が延びるにつれてBMAを近似的に符号化している。
• 理論的枠組みは、ICL、事前学習、一般化を統一的に扱い、すべての3つの要素に対してバウンドを提供する。