[논문 리뷰] On the Power of Foundation Models

Yuan Yang|arXiv (Cornell University)|2022. 11. 29.

Advanced Image and Video Retrieval Techniques인용 수 5

한 줄 요약

이 논문은 범용 모델의 이상적인 조건—무한한 데이터 포인트, 무한한 계산 자원, 완벽한 훈련—하에서 이론적 한계를 범주론을 통해 분석한다. 프롬프트 기반 학습은 표현 가능한 작업에 국한되며, 파인튜닝는 사전과업으로 정의된 범주 내에서 어떤 작업이라도 해결할 수 있음을 증명한다. 이는 '아보카도 의자'와 같은 새로운 객체의 제로샷 생성을 설명하는 새로운 구조적 일반화 정리의 기초를 제공한다.

ABSTRACT

With infinitely many high-quality data points, infinite computational power, an infinitely large foundation model with a perfect training algorithm and guaranteed zero generalization error on the pretext task, can the model be used for everything? This question cannot be answered by the existing theory of representation, optimization or generalization, because the issues they mainly investigate are assumed to be nonexistent here. In this paper, we show that category theory provides powerful machinery to answer this question. We have proved three results. The first one limits the power of prompt-based learning, saying that the model can solve a downstream task with prompts if and only if the task is representable. The second one says fine tuning does not have this limit, as a foundation model with the minimum required power (up to symmetry) can theoretically solve downstream tasks for the category defined by pretext task, with fine tuning and enough resources. Our final result can be seen as a new type of generalization theorem, showing that the foundation model can generate unseen objects from the target category (e.g., images) using the structural information from the source category (e.g., texts). Along the way, we provide a categorical framework for supervised and self-supervised learning, which might be of independent interest.

연구 동기 및 목표

• 무한한 데이터, 계산 자원, 완벽한 훈련이라는 이상적 조건에서 범용 모델이 어떤 최종 작업이라도 해결할 수 있는지 확인하기 위해.
• 범용 모델에서 프롬프트 기반 학습의 기본적인 구조적 한계를 규명하기 위해.
• 충분한 자원이 확보된 경우 파인튜닝이 이러한 한계를 극복할 수 있음을 보여주기 위해.
• 감독 및 자기표준화 학습을 위한 범주론적 프레임워크를 개발하여 작업 간의 구조적 관계를 포괄하기 위해.
• 범용 모델이 '아보카도 의자'와 같이 훈련 데이터에 존재하지 않는 복합적 객체를 어떻게 새로운 조합 패턴을 통해 생성할 수 있는지 설명하는 새로운 일반화 정리 제공하기 위해.

제안 방법

• 객체가 데이터 분포를 나타내고, 사상이 사전과업을 통해 학습된 구조적 관계를 나타내는 범주론적 프레임워크 내에서 범용 모델과 최종 작업을 수리적으로 정의하기 위해.
• 최종 작업의 표현 가능성은 사전과업 범주에서 작업 범주로의 사상 존재 여부로 정의되며, 이는 프롬프트 튜닝이 해당 작업을 해결할 수 있는지 여부를 결정한다.
• 자연어 및 기타 구조적 데이터의 순차적 의존성을 모델링하기 위해 캐논리컬 후속 측도의 개념을 도입하여 언어 모델링의 범주론적 표현을 가능하게 하였다.
• 일반화된 형태의 얀다 렘마를 적용하여, 기존 RKHS에서 실수 값을 갖는 사상이 아닌, 함자로 표현된 사상을 사용함으로써 더 풍부한 구조적 표현이 가능하도록 하였다.
• 모델에 종속되지 않은, 오직 구조적 정보에 집중하는 접근 방식을 통해 데이터 분포와 네트워크 아키텍처를 추상화하였으며, 사전과업이 추출한 구조적 정보에만 초점을 맞추었다.
• 제3정리로 알려진 일반화 정리(정리 3)를 수립하여, 범용 모델이 소스 범주(예: 텍스트)에서 유래한 구조적 패턴을 조합하여 타겟 범주(예: 이미지)로 새로운, 알려지지 않은 객체를 생성할 수 있음을 보여주었다.

실험 결과

연구 질문

• RQ1 무한한 데이터, 계산 자원, 완벽한 훈련 조건을 갖춘 범용 모델이 어떤 최종 작업이라도 해결할 수 있는가?
• RQ2 범용 모델에서 프롬프트 기반 학습의 힘을 제한하는 구조적 제약 조건은 무엇인가?
• RQ3 파인튜닝은 이러한 구조적 한계를 극복할 수 있으며, 어떤 조건에서 그러한 극복이 가능한가?
• RQ4 범용 모델은 훈련 데이터에 존재하지 않는 새로운 복합적 객체(예: '아보카도 의자')를 어떻게 생성할 수 있는가?
• RQ5 자기표준화 사전과업과 최종 작업 간의 관계를 체계적으로 모델링할 수 있는 범주론적 프레임워크는 무엇인가?

주요 결과

• 프롬프트 기반 학습은 사전과업으로 정의된 범주 내에서 표현 가능한 최종 작업만 해결할 수 있으며, 이는 복잡한 세분화나 분류와 같은 비표현 가능한 작업은 프롬프트만으로는 해결할 수 없음을 의미한다.
• 파인튜닝는 사전과업으로 정의된 범주 내에서 어떤 최종 작업이라도 해결할 수 있으며, 이는 범용 모델이 최소한의 구조적 능력(대칭성까지 허용)을 갖추고 있고 충분한 자원이 확보된 경우에 한해 가능하다.
• 논문은 새로운 유형의 일반화 정리(정리 3)를 증명하여, 범용 모델이 소스 범주에서의 구조적 패턴을 조합하여 타겟 범주로 새로운, 알려지지 않은 객체를 생성할 수 있음을 보여주며, '아보카도 의자'와 같은 새로운 이미지의 제로샷 생성을 설명한다.
• 기존 RKHS를 일반화하여 스칼라 값을 갖는 사상 대신 집합 값을 갖는 함자를 사용함으로써, NLP 및 비전 작업에서 복잡한 관계를 더 풍부하게 모델링할 수 있도록 하였다.
• 이 프레임워크는 모델에 종속되지 않으며, 데이터 분포와 네트워크 아키텍처를 추상화하여, 범용 모델의 구조적 한계가 사전과업이 의미 있는 범주적 구조를 추출할 수 있는 능력에 기인함을 보여준다.
• 결과적으로 사전과업의 선택이 핵심적임을 시사한다: 만약 사전과업이 충분한 구조적 정보를 포착하지 못한다면, 파인튜닝으로도 그로 인한 한계를 극복할 수 없다.