[논문 리뷰] Truncated Variational Expectation Maximization

Jörg Lücke|arXiv (Cornell University)|2016. 10. 10.

Bayesian Methods and Mixture Models인용 수 3

한 줄 요약

이 논문은 상태 공간의 부분집합 내에서 정확한 사후확률에 비례하고 그 외에는 0인 분포를 변분 근사로 사용하는 새로운 변분 EM 프레임워크인 절단된 변분 기대최대화(Truncated Variational Expectation Maximization, TV-EM)를 제안한다. 이러한 부분집합을 학습 가능한 파라미터로 간주함으로써, TV-EM은 변분 하한의 효율적이고 단조적인 최적화를 가능하게 하며, 기존 표준 EM과 하드 EM 사이를 보간함으로써 둘 다보다 더 정확하면서도 계산적으로 효율적인 대안을 제공한다.

ABSTRACT

We derive a novel variational expectation maximization approach based on truncated posterior distributions. Truncated distributions are proportional to exact posteriors within subsets of a discrete state space and equal zero otherwise. The treatment of the distributions' subsets as variational parameters distinguishes the approach from previous variational approaches. The specific structure of truncated distributions allows for deriving novel and mathematically grounded results, which in turn can be used to formulate novel efficient algorithms to optimize the parameters of probabilistic generative models. Most centrally, we find the variational lower bounds that correspond to truncated distributions to be given by very concise and efficiently computable expressions, while update equations for model parameters remain in their standard form. Based on these findings, we show how efficient and easily applicable meta-algorithms can be formulated that guarantee a monotonic increase of the variational bound. Example applications of the here derived framework provide novel theoretical results and learning procedures for latent variable models as well as mixture models. Furthermore, we show that truncated variation EM naturally interpolates between standard EM with full posteriors and EM based on the maximum a-posteriori state (MAP). The approach can, therefore, be regarded as a generalization of the popular `hard EM' approach towards a similarly efficient method which can capture more of the true posterior structure.

연구 동기 및 목표

• 이산 잠재 변수를 가진 확률적 생성 모델에 대해 표준 EM과 하드 EM보다 더 효율적이고 정확한 대안을 개발하기 위해.
• 기존의 변분 EM 접근법의 한계를 보완하기 위해, 절단된 분포를 변분 근사로 도입하기 위해.
• 최적화 과정에서 변분 하한의 단조적 증가를 보장하는 수학적으로 탄탄한 프레임워크를 제공하기 위해.
• 표준 EM, 하드 EM, 변분 EM과 같은 기존 접근법을 하나의 원리적인 프레임워크 안에서 통합하고 일반화하기 위해.
• 절단된 분포를 통한 구조적 희소성의 활용을 통해 잠재변수 모델에서 실용적이고 확장 가능한 추론과 학습을 가능하게 하기 위해.

제안 방법

• 상태 공간의 부분집합 내에서 진정한 사후확률에 비례하고 그 외에는 0인 절단된 변분 분포를 제안한다.
• 이러한 절단된 분포의 지지집합을 학습 가능한 파라미터로 간주하여, 모델 파라미터와 변분 지지집합 양쪽에 대한 최적화를 가능하게 한다.
• 절단된 분포 하에서 변분 하한(자유에너지)에 대한 간결하고 효율적으로 계산 가능한 표현식을 유도한다.
• 절단된 변분 프레임워크 하에서도 모델 파라미터에 대한 표준 EM 업데이트 식이 그대로 유효함을 입증한다.
• 반복적인 E단계와 M단계를 통해 변분 하한의 단조적 증가를 보장하는 메타알고리즘을 도입한다.
• 영확률 상태가 존재하는 경우를 다루기 위해 부분적인 E단계와 보조 분포를 적용하여, 양의 확률과 영확률 분포가 혼합된 경우에도 수렴성을 보장한다.

실험 결과

연구 질문

• RQ1 이산 잠재 변수를 가진 모델에서 정확성을 유지하면서 변분 EM의 효율성을 어떻게 향상시킬 수 있는가?
• RQ2 절단된 분포가 전체 사후확률과 MAP 근사 모두에 대한 원리적인 대안으로 사용될 수 있는가?
• RQ3 절단된 분포를 사용할 경우 변분 하한에 대해 어떤 수학적 보장을 제공할 수 있는가?
• RQ4 제안된 프레임워크는 기존의 표준 EM과 하드 EM과 어떤 관계가 있으며, 어떻게 일반화하는가?
• RQ5 일부 변분 분포에 영확률 상태가 포함되어 있을 경우에도 이 프레임워크가 변분 하한의 단조적 최적화를 지원할 수 있는가?

주요 결과

• 절단된 분포에 대한 변분 하한은 간결하고 효율적으로 계산 가능한 표현식으로 주어지며, 이는 빠른 최적화를 가능하게 한다.
• 최적화 과정에서 변분 하한의 단조적 증가를 보장하여 국소 최대값으로의 수렴을 보장한다.
• 각 잠재 상태 부분집합이 오직 MAP 상태만 포함하는 경우, 하드 EM은 TV-EM의 특수한 경우로 정확히 복원된다.
• 로그우도와 절단된 자유에너지 사이의 차이는, 절단된 변분 분포와 진정한 사후확률 간의 KL 발산의 합과 동일함을 보여준다.
• 이 방법은 표준 EM(전체 사후확률)과 하드 EM(MAP 상태) 사이를 자연스럽게 보간하여 정확성과 효율성 사이의 연속적인 트레이드오프를 제공한다.
• 이론적 프레임워크는 깊이 있는 생성 모델과 시계열 모델을 포함한, 이산 잠재변수를 가진 임의의 유도 그래프 모델에 적용 가능하다.