[논문 리뷰] Why (and When and How) Contrastive Divergence Works

Ian E. Fellows|arXiv (Cornell University)|2014. 05. 03.

Complex Network Analysis Techniques참고 문헌 10인용 수 3

한 줄 요약

이 논문은 정규화 상수가 추정이 불가능한 지수족 모형에서 대trastsive divergence (CD)의 엄밀한 이론적 기반을 제공하며, CD를 변분 근사로 재해석하고 그 순간 조건을 정당화한다. CD는 MCMC 커널이 상태 공간의 고도로 상관관계가 있는 부분집합(예: 동일한 노드에 연결된 듀엣)을 효율적으로 재방문할 때 가장 잘 작동하며, 이는 특히 지수족 무작위 그래프 모형(ERGMs)과 같은 고차원 모형에서 의사우도보다 빠른 수렴과 향상된 추론을 가능하게 한다.

ABSTRACT

Contrastive divergence (CD) is a promising method of inference in high dimensional distributions with intractable normalizing constants, however, the theoretical foundations justifying its use are somewhat shaky. This document proposes a framework for understanding CD inference, how/when it works, and provides multiple justifications for the CD moment conditions, including framing them as a variational approximation. Algorithms for performing inference are discussed and are applied to social network data using an exponential-family random graph models (ERGM). The framework also provides guidance about how to construct MCMC kernels providing good CD inference, which turn out to be quite different from those used typically to provide fast global mixing.

연구 동기 및 목표

• 정규화 상수가 추정이 불가능한 모형에서 CD의 이론적 약점을 해결하고, CD를 사용하는 데에 체계적인 기반을 제공한다.
• 히우리스틱 가정에 의존하지 않고, 변분 근사 등 다양한 시각에서 CD의 순간 조건을 정당화한다.
• CD가 고차원 지수족 모형에서 의사우도를 능가하도록 할 수 있는 효과적인 MCMC 커널 설계를 안내한다.
• 시뮬레이션을 통해 잘 구성된 커널을 사용한 CD가 최대우도 추정치에 가까운 추정치를 도출함을 보여주며, 특히 전이성과 네트워크 구조 항목에 대해 유의미하다.

제안 방법

• 진정한 KL 발산 최소화 문제에 대한 변분 근사로 재해석하는 새로운 확장된 발산 프레임워크를 제안한다.
• 변분 하한을 포함한 CD 목적 함수를 재구성하여 CD의 순간 조건에 대한 이론적 정당성을 제공한다.
• 노드-s MCMC 커널을 도입하여 한 노드를 선택하고 그에 연결된 s개의 듀엣을 업데이트함으로써, 무작위 또는 순차적 스캔보다 혼합 성능을 향상시킨다.
• 더 느린 경사 기반 방법을 대체하기 위해 빠른 수렴을 위한 뉴턴 유사 업데이트를 사용한다.
• ERGM에서 현실적인 네트워크 의존성을 모델링하기 위해 기하학적으로 가중된 간선 기반 공유 파artner(GWESP) 통계량과 최대 차수 제약 조건을 위한 오프셋을 사용한다.
• 사회 네트워크 데이터에 대해 지수족 무작위 그래프 모형(ERGMs)을 적용하여, CD, 의사우도, 최대우도 추정(MLE) 간의 비교를 수행한다.

실험 결과

연구 질문

• RQ1 약한 이론적 정당성에도 불구하고, 대비되는 분산(CD)이 실무에서 작동하는 이유는 무엇인가?
• RQ2 고차원 지수족 모형에서 CD가 의사우도보다 의미 있는 개선을 제공하는 조건은 언제인가?
• RQ3 고차원 상태 공간에서 CD 성능을 극대화하기 위해 MCMC 커널은 어떻게 설계되어야 하는가?
• RQ4 CD의 순간 조건 g(y) = E_Tq(g(Y))의 이론적 근거는 무엇인가?
• RQ5 최대우도 추정에 가까운 정확도를 유지하면서 CD의 계산 효율성을 어떻게 높일 수 있는가?

주요 결과

• CD 추론은 ERGM에서 전이성에 대해 의사우도보다 뚜렷이 뛰어나며, GWESP 추정치가 MLE에서 표준편차 한계 내에 있는 반면, MPLE는 3개 이상의 표준편차 이상 떨어져 있었다.
• 동일한 노드에 연결된 듀엣에 초점을 맞춘 노드-s MCMC 커널은 k ≥ 2048 단계에서 MLE에 근접한 성능을 달성했으며, 이는 부분집합 차원이 1269이지만도 충분히 높은 성능을 보였다.
• 무작위 스캔 기반 급성사다리 샘플러는 16,384단계를 거쳐도 의사우도를 초월하지 못했으며, 이는 체인들이 의존성 있는 영역을 효율적으로 재방문하지 못할 경우 전역 혼합만으로는 충분하지 않음을 확인한다.
• 뉴턴 유사 업데이트 방식은 경사 업데이트보다 더 빠른 수렴을 가능하게 하여, 복잡한 모형에서 CD 추론에 적용할 수 있음을 검증한다.
• 잘 설계된 커널을 사용한 CD는 간선, nodeMatch, 고립점의 평균값 매개변수에 대한 편향을 줄여주며, 의사우도보다 MLE에 더 가까운 추정치를 도출한다.
• 이론적 분석을 통해 CD는 MCMC 커널이 상태 공간의 고도로 의존성 있는 부분을 신속히 재방문할 때 가장 잘 작동하며, 장기적인 체인을 통해 평형 상태에 도달하기에 의존하지 않는다는 것이 확인되었다.