[논문 리뷰] Variational Algorithms for Marginal MAP

Qiang Liu, Alexander Ihler|arXiv (Cornell University)|2013. 02. 26.

Bayesian Modeling and Causal Inference참고 문헌 50인용 수 32

한 줄 요약

이 논문은 이원 표현을 사용하여 최대화와 최소화를 통합하는 이중 표현을 통해, 변분 프레임워크를 제안하여 국소 MAP 추론 문제를 재정의한다. 혼합 제품 메시지 전파(최대-제품, 합-제품, 그리고 새로운 argmax-제품 업데이트 규칙을 융합한 것)와 수렴 보장이 있는 프록시탈 포인트 알고리즘을 도입하여 국소 MAP를 순차적인 최소화 문제로 변환함으로써, 기존 방법들보다 벤치마크 모델에서 뛰어난 성능을 달성한다.

ABSTRACT

The marginal maximum a posteriori probability (MAP) estimation problem, which calculates the mode of the marginal posterior distribution of a subset of variables with the remaining variables marginalized, is an important inference problem in many models, such as those with hidden variables or uncertain parameters. Unfortunately, marginal MAP can be NP-hard even on trees, and has attracted less attention in the literature compared to the joint MAP (maximization) and marginalization problems. We derive a general dual representation for marginal MAP that naturally integrates the marginalization and maximization operations into a joint variational optimization problem, making it possible to easily extend most or all variational-based algorithms to marginal MAP. In particular, we derive a set of "mixed-product" message passing algorithms for marginal MAP, whose form is a hybrid of max-product, sum-product and a novel "argmax-product" message updates. We also derive a class of convergent algorithms based on proximal point methods, including one that transforms the marginal MAP problem into a sequence of standard marginalization problems. Theoretically, we provide guarantees under which our algorithms give globally or locally optimal solutions, and provide novel upper bounds on the optimal objectives. Empirically, we demonstrate that our algorithms significantly outperform the existing approaches, including a state-of-the-art algorithm based on local search methods.

연구 동기 및 목표

• 나무 구조에서도 NP-난이도인 국소 MAP 추론 문제에 도전하며, 공동 MAP나 최소화 문제보다 덜 연구된 점을 다룬다.
• 최소화와 최대화를 하나의 변분 최적화 프레임워크로 통합하여 처리 가능한 알고리즘 설계를 가능하게 한다.
• 기존의 변분 알고리즘(예: 신뢰도 전파, 프록시탈 방법)을 이론적 보장과 함께 국소 MAP에 확장한다.
• 복잡한 모델에서 국소 검색과 표준 BP 변형보다 뛰어난 성능을 보이는 실용적이고 수렴 보장이 있는 알고리즘을 개발한다.
• 최적의 국소 MAP 목표 함수에 대한 새로운 상한을 제공하고, 전역 또는 국소 최적해에 도달하는 조건을 설정한다.

제안 방법

• 최소 자유 에너지 최적화 문제로 국소 MAP의 이중 표현을 유도하여 합과 최대 연산을 통합할 수 있도록 한다.
• 최대-제품, 합-제품, 그리고 새로운 argmax-제품 업데이트 규칙을 융합한 혼합 제품 메시지 전파를 제안한다.
• 순차적으로 순수 최소화 문제를 해결하여 국소 MAP 문제의 해로 수렴하는 프록시탈 포인트 알고리즘을 개발한다.
• 메시지 전파 알고리즘의 분할 트리 및 고차원 클리크 모델에 대한 변형을 통해 결합 그래프 기반으로 프레임워크를 확장한다.
• 숨겨진 변수 모델 학습을 위한 평균 장 근사와 EM 알고리즘을 연결한다.
• 합 변수가 나무 구조 하위 그래프를 이룰 조건 하에서 이론적 수렴성 및 최적성 보장을 확립한다.

실험 결과

연구 질문

• RQ1 국소 MAP 추론은 최소화와 최대화를 통합하는 단일 변분 최적화 문제로 재정의될 수 있는가?
• RQ2 혼합 추론 문제에 효과적으로 최대-제품과 합-제품 업데이트를 융합할 수 있는 메시지 전파 규칙은 무엇인가?
• RQ3 프록시탈 포인트 방법은 수렴 보장이 있는 국소 MAP 문제를 해결하는 데 적응 가능할까?
• RQ4 제안된 알고리즘이 전역 또는 국소 최적해에 도달하는 조건은 무엇인가?
• RQ5 실제로 국소 검색과 표준 BP와 비교해 제안된 알고리즘은 어떻게 성능을 냈는가?

주요 결과

• 혼합 제품(Bethe) 및 프록시탈(Bethe) 알고리즘은 은닉 마르코프 체인 모델에서 1000회의 시험 전역 최적해를 확보할 확률가 99% 이상을 달성한다.
• 프록시탈(TRW) 알고리즘은 최적의 국소 MAP 목표 함수에 대해 날카운 상한을 제공하며, 이는 표준 TRW-BP보다 이 역할에서 뛰어나다.
• 국소 검색(SamIam)은 순환적인 최대 부분 그래프 또는 최대 노드 수가 많아질 경우 성능이 급격히 악화되지만, 제안된 방법들은 강건성을 유지한다.
• 표준 최대-제품 및 합-제품 BP는 혼합 추론 문제에서 성능이 열악하며, 결합 강도 σ가 증가함에 따라 성능 추세가 서로 반대가 된다.
• Jiang 등(2011)의 하이브리드 메시지 전파와 EM은 제안된 프록시탈 및 혼합 제품 방법보다 열등하며, 특히 EM은 종종 성능이 열등하다.
• 제안된 알고리즘은 복잡한 의존성 구조를 가진 최대 변수를 포함한 도전적인 설정에서 기존 방법들보다 뚜렷이 뛰어난 성능을 보인다.