[논문 리뷰] Revealing the structure of language model capabilities

Ryan Burnell, Han Hao외 2명|arXiv (Cornell University)|2023. 06. 14.

Topic Modeling인용 수 6

한 줄 요약

이 논문은 27개의 과제를 통해 29개의 대규모 언어모델(Large Language Model, LLM)에 대한 요인 분석을 통해 LLM 능력이 추론, 이해, 핵심 언어 모델링이라는 세 가지 명백한 잠재 요인에 의해 구조화되어 있음을 밝혀냈다. 연구 결과는 이러한 요인이 성능 변동성의 대부분을 설명하며, 모델 크기나 지시어 튜닝과 같은 모델 성질과의 비대칭적 관계를 보이며 능력 개발에서의 상충 관계를 시사한다.

ABSTRACT

Building a theoretical understanding of the capabilities of large language models (LLMs) is vital for our ability to predict and explain the behavior of these systems. Here, we investigate the structure of LLM capabilities by extracting latent capabilities from patterns of individual differences across a varied population of LLMs. Using a combination of Bayesian and frequentist factor analysis, we analyzed data from 29 different LLMs across 27 cognitive tasks. We found evidence that LLM capabilities are not monolithic. Instead, they are better explained by three well-delineated factors that represent reasoning, comprehension and core language modeling. Moreover, we found that these three factors can explain a high proportion of the variance in model performance. These results reveal a consistent structure in the capabilities of different LLMs and demonstrate the multifaceted nature of these capabilities. We also found that the three abilities show different relationships to model properties such as model size and instruction tuning. These patterns help refine our understanding of scaling laws and indicate that changes to a model that improve one ability might simultaneously impair others. Based on these findings, we suggest that benchmarks could be streamlined by focusing on tasks that tap into each broad model ability.

연구 동기 및 목표

• 단일 성능 지표에 머무르지 않고 대규모 언어모델(LLM) 능력의 기초적인 구조를 이론적으로 이해하는 것.
• 실제 데이터를 기반으로 LLM 능력이 소수의 해석 가능한 인지적 잠재 요인으로 분해될 수 있는지 조사하는 것.
• 모델 크기나 지시어 튜닝과 같은 모델 성질이 이러한 독립된 능력에 어떻게 다르게 영향을 미치는지 분석하는 것.
• 핵심 능력을 식별함으로써 보다 효율적이고 이론적으로 탄탄한 평가 기준 설계를 지원하는 것.
• 향후 LLM 능력 연구를 지원하기 위해 평가 기준 데이터의 공개를 장려하는 것.

제안 방법

• 29개의 LLM이 수행한 27개의 인지 과제에서의 성능 데이터에 대해 베이지안 및 빈도주의 요인 분석을 적용하였다.
• 과제들은 HELM 벤치마크 데이터셋에서 선별되었으며, 추론, 이해, 언어 모델링을 포함한 다양한 인지적 요구를 반영하고 있다.
• 과제의 주석을 기반으로 해석 가능성을 확보하면서, 과제 간 성능 변동성을 설명하는 잠재 요인을 추출하였다.
• 모델 크기나 지시어 튜닝과 같은 모델 성질을 추출된 요인에 대해 회귀 분석하여 그 영향의 이질성을 평가하였다.
• 인간 인지과학에서 사용되는 심리측도학적 방법을 영감으로 삼은 데이터 중심의 하향식 접근 방식을 사용하였다.
• 모델 적합도 지표와 해석 가능성 점검을 통해 결과를 검증하였으며, 과제 군집화와 요인 적재량에 주의를 기울였다.

실험 결과

연구 질문

• RQ1 다양한 인지 과제에서 대규모 언어모델(LLM)의 성능을 구성하는 잠재 요인은 무엇인가?
• RQ2 모델 크기나 지시어 튜닝과 같은 모델 성질이 추론, 이해, 언어 모델링 능력에 어떻게 다르게 영향을 미치는가?
• RQ3 이 세 요인이 과제 간 LLM 성능의 변동성의 어느 정도를 설명하는가?
• RQ4 모델 크기를 늘리거나 지시어 튜닝을 적용할 때 능력 간 상충 관계가 발생하는가?
• RQ5 핵심 능력을 타깃으로 하는 과제에 집중함으로써 평가 기준 설계를 단순화시킬 수 있는가?

주요 결과

• 추론, 이해, 핵심 언어 모델링이라는 세 가지 명백한 잠재 요인이 27개 과제에서 LLM 성능의 변동성을 가장 잘 설명한다.
• 이 세 요인이 함께 전체 성능 변동성의 대부분을 차지하며, 일관된 기초 구조를 반영하고 있음을 시사한다.
• 모델 크기와 이해 능력 간에는 양의 상관관계가 있었지만, 추론이나 언어 모델링 능력보다 더 강한 영향을 미쳤으며, 이는 이해 능력이 척도 증가에 더 민감함을 시사한다.
• 지시어 튜닝은 언어 모델링 능력과 음의 상관관계가 있었고, 추론 능력과는 양의 상관관계가 있었으며, 이는 능력 간 상충 관계가 있음을 시사한다.
• 스케일링 법칙이 모든 능력에 동일하게 적용되지 않으며, 한 능력의 향상이 다른 능력의 퇰드로스를 수반할 수 있음을 시사한다.
• 현재 과제 형식을 뛰어넘어 특정 인지 능력을 더 명확히 분리할 수 있는 새로운 평가 기준 패러다임의 필요성을 뒷받침한다.