[논문 리뷰] Boltzmann machines and energy-based models

Takayuki Osogami|arXiv (Cornell University)|2017. 08. 20.

Generative Adversarial Networks and Image Synthesis참고 문헌 60인용 수 9

한 줄 요약

이 논문은 볼츠만 기계와 에너지 기반 모델을 검토하며, 확률적 해석과 기울기 기반 학습에 중점을 둡니다. 정확한 학습 방법과 근사 학습 방법(예: 기브스 샘플링 및 대비 분산)을 제시하면서 정확한 계산의 비가역성에 주목하고, 계산 가능 에너지 기반 모델의 대안을 주장하며, 얼굴 검출 예시를 통해 에너지 기반 학습의 실용적 적용을 보여줍니다.

ABSTRACT

We review Boltzmann machines and energy-based models. A Boltzmann machine defines a probability distribution over binary-valued patterns. One can learn parameters of a Boltzmann machine via gradient based approaches in a way that log likelihood of data is increased. The gradient and Hessian of a Boltzmann machine admit beautiful mathematical representations, although computing them is in general intractable. This intractability motivates approximate methods, including Gibbs sampler and contrastive divergence, and tractable alternatives, namely energy-based models.

연구 동기 및 목표

• 볼츠만 기계를 확률적 관점에서 종합적으로 검토하여 그 수학적 구조와 학습 역학을 강조합니다.
• 볼츠만 기계에서 분할 함수로 인해 정확한 최대우도 학습이 비가역적이며, 근사가 필요하다는 점을 분석합니다.
• 기브스 샘플링과 대비 분산과 같은 근사 학습 기법을 활용하여 볼츠만 기계를 효율적으로 학습시키는 방법을 탐구합니다.
• 실수값 데이터나 복잡한 데이터에 대해 특히 유용한 계산 가능한 에너지 기반 모델을 볼츠만 기계의 대안으로 제안합니다.
• 구조화된 에너지 함수를 갖는 눈, 은자, 레이블 변수를 포함한 얼굴 검출 모델을 통해 에너지 기반 학습의 실용적 유용성을 입증합니다.

제안 방법

• 이진 단위를 갖는 확률적 그래픽 모델로 볼츠만 기계를 모델링하고, 편향과 이원 상관 가중치를 사용해 에너지를 정의합니다: $ E_{\theta}(\mathbf{x}) = -\mathbf{b}^T\mathbf{x} - \mathbf{x}^T\mathbf{W}\mathbf{x} $.
• 볼츠만 분포를 통해 이진 패턴에 대한 확률 분포를 정의합니다: $ \mathbb{P}_{\theta}(\mathbf{x}) = \frac{\exp(-E_{\theta}(\mathbf{x}))}{Z} $, 여기서 $ Z $ 는 분할 함수입니다.
• 기대값과 공분산 행렬을 사용해 로그우도의 기울기와 헤시안을 닫힌 형태로 유도함으로써 체계적인 학습을 가능하게 합니다.
• 정확한 계산이 불가능할 경우 기울기를 추정하기 위해 기브스 샘플링과 대비 분산을 활용한 근사 학습을 도입합니다.
• 하이브리드 에너지 함수를 사용해 얼굴 검출을 위한 계산 가능한 에너지 기반 모델을 제안합니다: $ E_{\theta}(y,\mathbf{z},\mathbf{x}) = y\|G_{\theta}(\mathbf{x}) - F(\mathbf{z})\| + (1-y)T $, 여기서 $ G_{\theta} $ 는 CNN이고 $ F $ 는 얼굴 다양체로의 사상입니다.
• 얼굴 샘플의 에너지를 최소화하고, 잘못 분류된 비얼굴 이미지를 퇴치하기 위해 페널티를 주는 복합 목적 함수 $ L_{\theta}(\mathcal{D}) $ 를 사용하며, 하이퍼파rameter $ \kappa $ 가 항목들을 균형 있게 조정합니다.

실험 결과

연구 질문

• RQ1 분할 함수의 비가역성로 인해 정확한 계산이 불가능한 상황에서 볼츠만 기계의 파라미터는 어떻게 기울기 기반 최적화로 학습할 수 있나요?
• RQ2 볼츠만 기계 학습에서 기울기와 헤시안의 수학적 성질은 무엇이며, 어떻게 효율적 최적화를 가능하게 하나요?
• RQ3 기브스 샘플링과 대비 분산과 같은 근사 방법은 정확한 학습의 계산 비가역성을 어떻게 완화합니까?
• RQ4 에너지 기반 모델은 실생활 과제인 얼굴 검출과 같이 복잡한 분포나 실수값 데이터를 모델링할 때 볼츠만 기계의 계산 가능한 대안으로 어떻게 기능합니까?
• RQ5 구조화된 에너지 함수는 잠재 변수와 조건부 모델링을 통해 효과적인 분류를 가능하게 하는 데 어떤 역할을 합니까?

주요 결과

• 볼츠만 기계에서 로그우도의 기울기와 헤시안은 기대값과 공분산 행렬을 사용해 우아한 수학적 표현을 갖추며, 이는 이론적 분석을 가능하게 합니다.
• 분할 함수의 크기가 $ 2^N $ 이므로 정확한 학습은 비가역적이며, 기브스 샘플링과 대비 분산과 같은 근사 기법이 필요합니다.
• 대비 분산은 양의 단계와 음의 단계에서 기브스 스텝 수를 줄여 볼츠만 기계 학습에 실용적이고 효율적인 근사를 제공합니다.
• 에너지 기반 모델은 실수값 데이터 또는 구조화된 출력을 갖는 복잡한 분포를 모델링할 때 볼츠만 기계의 확장 가능한 대안을 제공합니다.
• 구조화된 에너지 함수를 사용한 얼굴 검출 모델은 진짜 얼굴의 에너지를 최소화하고 비얼굴의 에너지를 최대화함으로써 효과적인 분류를 달성하며, 대비 항목이 포함된 목적 함수를 통해 작동합니다.
• 제안된 에너지 기반 목적 함수 $ L_{\theta}(\mathcal{D}) $ 는 얼굴 샘플에 대한 피팅과 비얼굴 이미지의 기각을 성공적으로 균형 잡으며, 두 번째 항목은 잠재 자세에 대한 최소 에너지를 통해 가짜 양성 결과를 퇴치합니다.