[논문 리뷰] A Latent Space Theory for Emergent Abilities in Large Language Models

Hui Jiang|arXiv (Cornell University)|2023. 04. 19.

Topic Modeling인용 수 5

한 줄 요약

이 논문은 대규모 언어 모델(Large Language Models, LLMs)에서 나타나는 잠재적 능력이 언어의 희박한 공동분포에 대한 베이지안 추론으로 설명되는 잠재공간 이론을 제안한다. 여기서 명확하거나 ε-모호한 언어는 정확한 추론을 가능하게 한다. 주요 기여는 LLMs의 능력—예를 들어, 컨텍스트 내 학습과 사고의 사슬 프롬프팅—이 모델이 근사적으로 가장자리 분포를 근사하는 유니버설 추정기로 작동할 때 발생하며, 모델과 데이터의 규모가 증가함에 따라 최적의 추론으로 수렴한다는 것을 보여주는 것이다.

ABSTRACT

Languages are not created randomly but rather to communicate information. There is a strong association between languages and their underlying meanings, resulting in a sparse joint distribution that is heavily peaked according to their correlations. Moreover, these peak values happen to match with the marginal distribution of languages due to the sparsity. With the advent of LLMs trained on big data and large models, we can now precisely assess the marginal distribution of languages, providing a convenient means of exploring the sparse structures in the joint distribution for effective inferences. In this paper, we categorize languages as either unambiguous or ε-ambiguous and present quantitative results to demonstrate that the emergent abilities of LLMs, such as language understanding, in-context learning, chain-of-thought prompting, and effective instruction fine-tuning, can all be attributed to Bayesian inference on the sparse joint distribution of languages.

연구 동기 및 목표

• 대규모 언어 모델(LLMs)에서 잠재적 능력이 비록 무 supervision 전처리 학습을 거쳐도 규모가 증가할 때만 나타나는 이유를 설명하기 위해.
• 특히 의도와 메시지의 공동분포에서의 희박성과 같은 언어의 구조적 역할을 정식화하기 위해.
• LLM의 능력과 잠재의도 공간에 대한 베이지안 추론 사이의 이론적 기반을 구축하기 위해.
• 다양한 모호성 수준을 가진 합성 언어에서의 시뮬레이션을 통해 이 те올을 검증하기 위해.
• 모델과 데이터의 규모가 증가함에 따라 컨텍스트 내 학습과 언어 이해가 어떻게 발생하는지를 명확히 하기 위해.

제안 방법

• 메시지에 대한 의도의 조건부 확률 기반으로 언어를 명확한(Pr(θ|x) = 1) 또는 ε-모호한(Pr(θ|x) ≥ 1−ε)로 분류한다.
• 의도 θ를 사전분포 q(θ)에서 샘플링하고, 그 다음에 q(x|θ)에서 메시지 x를 생성하는 두 단계의 확률적 과정으로 언어 생성을 모델링한다.
• LLMs를 가장자리 분포 p(x)의 유니버설 밀도 근사기로 프레임워크화하여 잠재의도 θ에 대한 추론을 가능하게 한다.
• 검증 세트에서 모델의 조건부 분포 p(y|x)와 진짜 조건부 분포 q(y|x,θ) 사이의 격차를 측정하기 위해 KL 발산을 사용한다.
• 점점 증가하는 모델 용량과 학습 데이터에 대해 점근적 분석을 적용하여 p(x)가 진짜 가장자리 분포로 수렴함을 보여주며, 이는 정확한 베이지안 추론을 가능하게 한다.
• 제어된 모호성 수준을 가진 합성 언어를 시뮬레이션하고, 언어 이해 및 컨텍스트 내 학습 작업에서 LLM의 성능을 평가한다.

Figure 1: Illustration of the convergence of the transformer-based LLMs as more and more training data is added. Left: the cross-entropy objective functions. Right: The average difference between the probability distributions $p_{\Lambda_{*}}(\mathbf{x})$ and $q(\mathbf{x})$ on an unseen validation

실험 결과

연구 질문

• RQ1 LLMs에서 잠재적 능력이 다음 토큰 예측을 통해 학습함에도 불구하고 규모가 증가할 때만 나타나는 이유는 무엇인가?
• RQ2 의도와 메시지 간의 공동분포의 희박성이 LLMs가 컨텍스트 내 학습과 추론을 수행하는 데 어떻게 기여하는가?
• RQ3 메시지-의도 매핑에서의 모호성(ε)이 LLM 능력의 발생에 어떤 역할을 하는가?
• RQ4 언어 이해와 컨텍스트 내 학습을 잠재의도 공간에 대한 베이지안 추론으로 공식적으로 설명할 수 있는가?
• RQ5 모델 크기와 학습 데이터를 증가시키면 분포 근사에서 수렴이 어떻게 이루어지고, 이로 인해 잠재적 능력이 어떻게 발생하는가?

주요 결과

• LLMs는 기반이 되는 언어가 명확할 때(Pr(θ|x) = 1) 정확한 언어 이해를 달성하며, 모델의 조건부 분포와 진짜 조건부 분포 사이의 KL 발산이 최소가 된다.
• ε-모호한 언어에서는 KL 발산이 약간 증가하지만, 프롬프트에 더 많은 컨텍스트 예시를 추가함으로써 감소시킬 수 있다.
• 명확한 언어에서는 컨텍스트 내 학습 성능이 안정적이고 KL 발산이 낮지만, 모호한 언어에서는 더 많은 예시가 제공되지 않으면 성능이 떨어진다.
• 학습 데이터와 모델 크기가 증가함에 따라 LLM이 추정하는 가장자리 분포 p(x)는 진짜 분포 q(x)로 수렴하며, 이는 효과적인 베이지안 추론을 가능하게 한다.
• 이론적 분석은 모델과 데이터가 충분한 규모에 도달할 때 잠재적 능력이 점점 증가함을 보여주며, 관측된 규모 법칙과 일치한다.
• 시뮬레이션 결과는 LLMs가 ε 값이 낮은 합성 언어에서 더 잘 작동함을 확인하여 이론의 예측인 모호성과 추론 정확성 간의 관계를 검증한다.

Figure 2: Illustration of language understanding (left) and in-context learning (right) of LLMs on synthetic languages with various levels of ambiguity.