[논문 리뷰] On Linear Identifiability of Learned Representations

Geoffrey Roeder, Luke Metz외 1명|arXiv (Cornell University)|2020. 07. 01.

Neural Networks and Applications참고 문헌 32인용 수 16

한 줄 요약

이 논문은 BERT, GPT-2, GPT-3, 및 CPC와 같은 최신 기술 아키텍처를 포함한 광범위한 분류적 표현 학습 모델들이 기저 함수 공간에서 선형 변환을 제외하고 식별 가능하다는 것을 입증한다. 저자들은 약간의 조건 하에, 서로 다른 학습 런이 동일한 데이터 분포에서 선형 변환을 통해 등가인 표현으로 수렴함을 증명하며, 충분한 데이터와 능력이 확보될 경우 재현 가능하고 안정적인 표현을 가능하게 한다.

ABSTRACT

Identifiability is a desirable property of a statistical model: it implies that the true model parameters may be estimated to any desired precision, given sufficient computational resources and data. We study identifiability in the context of representation learning: discovering nonlinear data representations that are optimal with respect to some downstream task. When parameterized as deep neural networks, such representation functions typically lack identifiability in parameter space, because they are overparameterized by design. In this paper, building on recent advances in nonlinear ICA, we aim to rehabilitate identifiability by showing that a large family of discriminative models are in fact identifiable in function space, up to a linear indeterminacy. Many models for representation learning in a wide variety of domains have been identifiable in this sense, including text, images and audio, state-of-the-art at time of publication. We derive sufficient conditions for linear identifiability and provide empirical support for the result on both simulated and real-world data.

연구 동기 및 목표

• 과도하게 파arameterized된 매개변수 공간에서조차도 기저 함수 공간에서 깊이 있는 표현 학습 모델이 식별 가능해지는 이론적 조건을 확립하는 것.
• 최근의 비선형 ICA 식별 가능성 결과와 표현 학습에서 사용되는 실용적 분류적 모델 간 격차를 메우는 것.
• 자연어 처리, 비전, 오디오 분야의 최신 모델들이 기저 함수 공간에서 선형 변환을 제외하고 식별 가능하다는 것을 보여주는 것.
• 데이터 크기, 모델 용량, 최적화 진전이 증가할수록 표현이 선형적으로 등가인 형태로 수렴함을 경험적으로 입증하는 것.
• 재현 가능하고 효율적이며 윤리적으로 투명한 표현 학습을 위한 식별 가능한 모델을 주장하는 것.

제안 방법

• 논문은 깊이 있는 신경망으로 매개변수화된 일반적인 분류적 모델 가족을 정의하며, 표현 함수 fθ가 입력 x를 잠재 표현으로 매핑하고, 모델이 주어진 x와 가능한 y값들의 집합 S를 바탕으로 y를 예측하도록 훈련된다.
• 감독 학습, 자기지도 학습, 대비 학습 프레임워크를 모두 포함하는 일반적인 수학적 형태를 도입하여 통합된 이론적 분석을 가능하게 한다.
• 선형 식별 가능성에 대한 충분한 조건을 유도하며, 약간의 규칙성 및 다양성 조건 하에, 동일한 데이터 분포에서 학습된 서로 다른 표현들이 무한한 데이터의 한계에서 선형 변환으로 관련되어 있음을 보여준다.
• 증명는 표현 함수의 구조와 예측 목표 간의 상호작용을 분석함으로써 이루어지며, 비선형 ICA 및 함수 공간 분석의 도구를 활용한다.
• 경험적 검증은 합성 데이터 및 실제 데이터(예: LM1B, 이미지, 오디오)를 대상으로 수행되며, 독립적인 학습 런에서 유도된 표현 간의 선형 정렬도를 측정한다.
• 이 방법은 동일한 데이터에 대해 서로 다른 난수 시드로 동일한 모델의 여러 인스턴스를 훈련하고, 선형 프로빙 및 정렬 메트릭을 사용하여 그들의 학습된 표현 간의 선형 등가성 정도를 평가한다.

실험 결과

연구 질문

• RQ1 과도하게 파arameterized된 매개변수 공간에서조차도 깊이 있는 표현 학습 모델들이 기저 함수 공간에서 식별 가능해질 수 있는가?
• RQ2 동일한 데이터 분포에서 학습된 서로 다른 표현들이 선형 변환을 제외하고 등가가 되도록 보장하는 조건은 무엇인가?
• RQ3 BERT, GPT-2, GPT-3, 및 CPC와 같은 최신 기술 모델들이 이러한 식별 가능성 조건을 충족하는가?
• RQ4 데이터 크기, 모델 용량, 최적화 진전이 증가할수록 표현이 선형적으로 등가인 형태로 수렴하는 데 어떤 영향을 미치는가?
• RQ5 식별 가능성의 실용적 및 윤리적 함의는 재현 가능성과 표현 학습에서의 편향에 어떤 영향을 미치는가?

주요 결과

• 논문은 자연어 처리 및 비전 시스템에서 사용되는 최신 기술 아키텍처를 포함한 광범위한 분류적 모델의 클래스가 약간의 조건 하에 기저 함수 공간에서 선형 변환을 제외하고 식별 가능하다는 것을 입증한다.
• 경험적 결과는 동일한 데이터 분포에서 독립적인 학습 런을 수행할수록 데이터셋 크기와 모델 용량이 증가할수록 표현 간의 선형 정렬도가 점점 향상됨을 보여준다.
• BERT, GPT-2, GPT-3, 및 CPC와 같은 모델들이 식별 가능한 모델 가족의 구성원임을 입증하며 이들의 이론적 식별 가능성에 대한 지원을 제공한다.
• 더 많은 데이터와 더 나은 최적화가 이루어질수록 표현 간의 선형 정렬 정도가 향상되며, 이는 함수 공간에서 안정적이고 유일한 해로 수렴함을 시사한다.
• 결과는 식별 가능한 모델들이 최적의 재현 가능한 표현에 도달하기 위해 단일 학습 런으로도 충분하며, 이는 계산 낭비와 자원 소비를 줄이는 데 기여한다.
• 이 작업은 위험 요소를 드러내며, 식별 가능한 모델은 훈련 데이터나 목표가 편향되어 있을 경우 고정된 편향된 표현을 고정시킬 수 있음을 시사한다. 이는 윤리적 모델 카드와 편향 감사의 필요성을 강조한다.