[논문 리뷰] Introduction to Latent Variable Energy-Based Models: A Path Towards Autonomous Machine Intelligence

Anna Dawid, Yann LeCun|arXiv (Cornell University)|2023. 06. 05.

Topic Modeling인용 수 6

한 줄 요약

이 논문은 자율적 기계지능을 달성하기 위한 기초 프레임워크로 은닉 변수 에너지 기반 모델(LVEBM)을 소개하며, 자기지도 학습 기반 세계 모델 학습을 가능하게 하는 계층적 공동 임베딩 예측 아키텍처(H-JEPA)를 제안한다. 에너지 기반 모델링과 구조적 은닉 변수를 결합함으로써 H-JEPA는 복잡한 세계 상태에 대한 효율적이고 일반화 가능한, 불확실성 인식 예측을 가능하게 하여 최소한의 감독으로 인간 수준의 AI로 향하는 길을 열어준다.

ABSTRACT

Current automated systems have crucial limitations that need to be addressed before artificial intelligence can reach human-like levels and bring new technological revolutions. Among others, our societies still lack Level 5 self-driving cars, domestic robots, and virtual assistants that learn reliable world models, reason, and plan complex action sequences. In these notes, we summarize the main ideas behind the architecture of autonomous intelligence of the future proposed by Yann LeCun. In particular, we introduce energy-based and latent variable models and combine their advantages in the building block of LeCun's proposal, that is, in the hierarchical joint embedding predictive architecture (H-JEPA).

연구 동기 및 목표

• 현재 기계학습 시스템이 인간 수준의 일반화와 자율성 달성에 한계를 보이는 문제를 해결하기 위해.
• 자기지도 학습과 세계 모델 예측을 기반으로 한 자율 지능의 새로운 범주를 제안하기 위해.
• 에너지 기반 모델을 은닉 변수와 통합하여 강건하고 구조적인 표현 학습을 가능하게 하기 위해.
• 장기 예측 및 계획을 지원하는 스케일러블하고 계층적인 아키텍처(H-JEPA)를 개발하기 위해.
• 최소한의 데이터로 신뢰할 수 있는 세계 모델을 학습하고, 복잡한 행동 시퀀스를 추론 및 계획할 수 있도록 하기 위해.

제안 방법

• 에너지 함수를 통해 비정규화된 확률 분포를 정의함으로써 에너지 기반 모델(EBM)을 사용하여 복잡한 데이터 분포의 유연한 모델링을 가능하게 한다.
• 숨겨진 변수에 대한 적분을 통해 은닉 변수 에너지 기반 모델(LVEBM)을 도입함으로써 추상적이고 분리된 표현을 포착할 수 있도록 한다.
• 계층적 공동 임베딩 예측 아키텍처(H-JEPA)를 적용하여 다수의 추상화 수준에서 미래 상태와 은닉 표현을 동시에 예측한다.
• 대비 및 정규화된 학습 방법을 적용하여 에너지 함수를 최적화하고, 올바른 예측에 대해선 에너지를 최소화하고 잘못된 예측에 대해서는 최대화한다.
• 학습 안정성 향상과 표현 품질 향상을 위해 분산-불변-공분산 정규화(VICReg)를 사용한다.
• 에너지 값을 길리브 분포를 통해 확률로 변환하며, 은닉 변수에 대한 적분을 통해 조건부 및 결합 분포를 유도한다.

Figure 1: The modular structure of an autonomous AI proposed by LeCun in Ref. [ 6 ] . Drawings generated by DALL-E 2 [ 12 ] .

실험 결과

연구 질문

• RQ1 에너지 기반 모델에 은닉 변수를 통합하여 표현 학습과 일반화를 향상시킬 수 있는가?
• RQ2 어떤 아키텍처 설계가 자율 에이전트를 위한 효율적이고 스케일러블하며 계층적인 세계 모델 학습을 가능하게 하는가?
• RQ3 에너지 기반 모델을 활용한 자기지도 학습이 신뢰할 수 있는 불확실성 추정과 장기 예측 추론을 지원할 수 있는가?
• RQ4 복잡한 환경에서 구조적 은닉 표현을 학습하기 위해 가장 효과적인 학습 목표와 정규화 기법은 무엇인가?
• RQ5 H-JEPA 프레임워크는 최소한의 감독으로도 자율 시스템이 복잡한 행동 시퀀스를 학습하고 계획할 수 있도록 할 수 있는가?

주요 결과

• H-JEPA 프레임워크는 장기 예측 및 계획을 지원하는 계층적 세계 모델의 자기지도 학습을 가능하게 한다.
• 은닉 변수를 포함한 에너지 기반 모델은 일반화 및 불확실성 추정을 향상시키는 구조적이고 분리된 표현을 가능하게 한다.
• 대비 및 정규화된 학습 방법은 학습을 안정화시키고 최종 작업 성능을 향상시킨다.
• 은닉 변수를 포함한 에너지 함수는 복잡한 데이터 분포에 대한 다이내믹하고 미분 가능한 모델링을 가능하게 한다.
• 은닉 변수에 대한 적분을 통해 모델은 의미 있는 조건부 확률을 도출할 수 있으며, 이는 추론과 예측의 기초를 형성한다.
• 프레임워크는 광범위한 재학습 없이도 전이 학습과 새로운 작업에의 적응을 지원하여 인간 수준의 샘플 효율성을 모방한다.

Figure 2: \Acf SSL. (a) In SSL , the system is trained to predict hidden parts of the input (in orange) from visible parts of the input (in blue). (b) \Ac SSL will play a central role in the future AI systems. SSL is the cake (provides millions of information bits per sample), SL is the icing (10-10