[논문 리뷰] Stopping Criteria in Contrastive Divergence: Alternatives to the Reconstruction Error

David Buchaca, Enrique Romero외 2명|arXiv (Cornell University)|2013. 12. 20.

Generative Adversarial Networks and Image Synthesis참고 문헌 17인용 수 5

한 줄 요약

이 논문은 가시 단위와 은닉 단위 상태를 포함하는 확률의 비율에 기반하여, 제한된 볼츠만 기계(Restricted Boltzmann Machines, RBMs)에서 대trastive Divergence(CD) 학습을 위한 두 가지 새로운 정지 기준을 제안한다. 재구성 오차와는 달리, 재구성 오차는 종종 로그우도 감소를 감지하지 못하지만, 더 나은 성능을 보이는 기준—역전된 은닉 단위를 사용하는 기준—은 추가적인 계산 비용 없이 진짜 로그우도 최고점과 정확히 일치시켜, 조기 정지에서 재구성 오차를 능가하고 더 빠르고 신뢰할 수 있는 학습 수렴을 가능하게 한다.

ABSTRACT

Restricted Boltzmann Machines (RBMs) are general unsupervised learning devices to ascertain generative models of data distributions. RBMs are often trained using the Contrastive Divergence learning algorithm (CD), an approximation to the gradient of the data log-likelihood. A simple reconstruction error is often used to decide whether the approximation provided by the CD algorithm is good enough, though several authors (Schulz et al., 2010; Fischer & Igel, 2010) have raised doubts concerning the feasibility of this procedure. However, not many alternatives to the reconstruction error have been used in the literature. In this manuscript we investigate simple alternatives to the reconstruction error in order to detect as soon as possible the decrease in the log-likelihood during learning.

연구 동기 및 목표

• CD 학습에서 재구성 오차가 정지 기준으로서 신뢰할 수 없음을 해결하기 위해.
• 실제 로그우도 행동을 더 잘 반영하는, 계산적으로 효율적인 대체 지표를 개발하기 위해.
• 실제 우도 감소의 시작을 파악할 수 있는 정지 신호를 특정하기 위해.
• 확률 기반 추정기들이 최적의 학습 시점 감지를 위해 재구성 오차를 능가할 수 있는지 평가하기 위해.
• 다양한 CD 변형과 학습 설정에서 제안된 기준의 강건성과 일반화 능력을 평가하기 위해.

제안 방법

• 가시 단위 상태가 1일 조건부 확률 P(visible=1 | hidden=1)과 P(visible=1 | hidden=0)의 비율에 기반한 두 가지 추정기들을 제안한다.
• 이 확률의 비율을 분할 함수 계산을 피하는 로그우도 변화의 대체 지표로 사용한다.
• CD 학습 중에 이 추정기를 적용하여 추가 샘플링 없이도 실시간으로 모델 품질을 모니터링한다.
• 각 학습 단계에서 필요한 확률을 효율적으로 추정하기 위해 지브스 샘플링을 사용한다.
• 합성 및 기준 데이터셋(BS 및 LSE 문제)에서 추정기의 성능을 재구성 오차 및 로그우도와 비교한다.
• CD1과 CD10을 사용하여 다양한 마르코프 체인 혼합 시간에서의 일반화 능력을 평가한다.

실험 결과

연구 질문

• RQ1 확률 기반 추정기는 재구성 오차보다 RBM 학습 중 로그우도 최고점 감지를 더 신뢰성 있게 수행할 수 있는가?
• RQ2 은닉 단위를 그들의 보수(1-h)로 대체함으로써 정지 기준의 민감도가 실제 우도 변화에 대해 향상되는가?
• RQ3 제안된 추정기들은 다양한 CD 근사 방법(CD1 대비 CD10 등)에서 어떻게 성능을 보이는가?
• RQ4 새로운 기준이 재구성 오차보다 일찍 정지를 유도함으로써 과적합 또는 발산을 방지할 수 있는가?
• RQ5 기존의 AIS와 비교해 볼 때 제안된 방법은 계산적으로 실현 가능하고 확장 가능한가?

주요 결과

• 역전된 은닉 단위(1-h)를 사용하는 제안된 추정기는 여러 실험에서 재구성 오차보다 로그우도 최고점에 더 일찍 더 정확하게 감지한다.
• 재구성 오차는 항상 진짜 로그우도 행동과 거의 관련이 없는 평탄한 곡선으로 수렴하여, 나쁜 정지 신호로 작용한다.
• 더 나은 성능을 보이는 추정기(ii)는 다양한 학습률과 가중치 감쇠 값에서 강건성을 유지하며, 우도 변화에 대한 민감도를 유지한다.
• CD10에서는 제안된 추정기와 재구성 오차 모두 우도 최고점을 감지하지 못하여, 이 지표에 대한 장수 샘플링의 한계를 시사한다.
• 제안된 방법은 모델 품질을 훼손하지 않고도 조기 정지를 가능하게 하여, 중간 정도의 n을 사용한 표준 CDn 학습과 유사한 결과를 도출한다.
• 새로운 기준으로 정지된 RBM에서 생성된 시각적 샘플들은 훈련 데이터와 유사하여 모델의 충실도를 확인한다.