[논문 리뷰] Barrier Frank-Wolfe for Marginal Inference

Rahul G. Krishnan, Simon Lacoste-Julien외 1명|arXiv (Cornell University)|2015. 11. 06.

Machine Learning and Algorithms인용 수 11

한 줄 요약

이 논문은 마르코프 연관장치(Markov random fields)의 변동 다항식 다각형(marginal polytope) 위에서 트리 재가중(TRW) 변동 목적함수를 최적화하기 위해 전역 수렴 보장이 되는 장벽 프랭크-울프(Barrier Frank-Wolfe) 알고리즘을 제안한다. 적응적 도메인 수축과 조건부 기울기 하강 프레임워크 내부의 블랙박스 MAP 해법기를 활용하여, 로그-분할 함수에 대한 더 날카운 경계를 확보하고, 정확한 변동 다각형 위에서 TRW 최적화를 위한 처음으로 증명 가능하게 수렴하는 알고리즘을 제공한다. 국소 일致성 이완보다 뛰어난 성능을 보인다.

ABSTRACT

We introduce a globally-convergent algorithm for optimizing the tree-reweighted (TRW) variational objective over the marginal polytope. The algorithm is based on the conditional gradient method (Frank-Wolfe) and moves pseudomarginals within the marginal polytope through repeated maximum a posteriori (MAP) calls. This modular structure enables us to leverage black-box MAP solvers (both exact and approximate) for variational inference, and obtains more accurate results than tree-reweighted algorithms that optimize over the local consistency relaxation. Theoretically, we bound the sub-optimality for the proposed algorithm despite the TRW objective having unbounded gradients at the boundary of the marginal polytope. Empirically, we demonstrate the increased quality of results found by tightening the relaxation over the marginal polytope as well as the spanning tree polytope on synthetic and real-world instances.

연구 동기 및 목표

• 정확한 변동 다각형 위에서 TRW 목적함수를 최적화하기 위한 증명 가능하게 수렴하는 알고리즘을 개발하는 것.
• 변동 다각형 경계 근처에서 TRW 목적함수의 유계가 아닌 기울기 문제로 인해 기존 프랭크-울프 수렴 보장이 무효화되는 문제를 해결하는 것.
• 국소 다각형에서 변동 다각형과 스패닝 트리 다각형으로의 이완을 강화하여 변동 추론 정확도를 향상시키는 것.
• 모듈러하고 효율적인 프레임워크 내에서 블랙박스 MAP 해법기(정확하고 근사)를 활용해 실용적 구현을 가능하게 하는 것.
• 비유계 기울기 조건 하에서 수정된 프랭크-울프 방법의 이론적 수렴 보장을 도출하고, 변동 추론을 초월한 응용에 적용 가능하게 하는 것.

제안 방법

• 경계에서 비유계 기울기를 다룰 수 있도록 도메인을 적응적으로 수축시키는 수정된 장벽 프랭크-울프 알고리즘을 제안한다.
• 각 선형 최소화 하위문제가 MAP 추론 호출에 해당하는 조건부 기울기 하강 방법을 사용하여, 상용 MAP 해법기와의 통합을 가능하게 한다.
• 이전 정수 할당을 재사용하는 완전 보정형(fully-corrective) 변형을 도입하여 중복되는 MAP 호출을 줄인다.
• 스패닝 트리 다각형 최적화 시 단계 간 국소 탐색과 계산 재사용 전략을 적용하여 효율성을 향상시킨다.
• 근사 MAP 해법기를 사용하여 이중성 갭 모니터링과 상한 추정 기법을 적용해 수렴성을 인증하고 로그-분할 함수의 상한을 제한한다.
• TRW 목적함수의 비-Lipschitz 기울기 조건에도 불구하고 수정된 알고리즘의 이론적 수렴 속도를 유도한다.

실험 결과

연구 질문

• RQ1 비유계 기울기가 존재하는 경계 근처에서 정확한 변동 다각형 위에서 TRW 변동 추론을 위한 전역 수렴 보장이 되는 프랭k-울프 알고리즘을 설계할 수 있는가?
• RQ2 국소 다각형이나 사이클 이완 대비 변동 다각형 위에서 최적화하면 로그-분할 함수에 대한 경계가 상당히 향상되는가?
• RQ3 조건부 기울기 하강 프레임워크 내에서 블랙박스 MAP 해법기를 효과적으로 활용해 고정밀도 변동 추론을 달성할 수 있는가?
• RQ4 적응적 도메인 수축 전략이 기울기가 불량한 상황에서 수렴성과 안정성을 어떻게 향상시키는가?
• RQ5 근사 MAP 해법기를 얼마나 효과적으로 사용하여 계산 비용을 줄이면서도 로그-분할 함수에 대한 날카운 상한을 유지할 수 있는가?

주요 결과

• 제안된 장벽 프랭크-울프 알고리즘은 변동 다각형 위에서 TRW 최적화에 대해 증명 가능한 전역 수렴을 달성하여, 변동 추론 분야에서 오랫동안 미해결이었던 문제를 해결한다.
• 실험 결과는 국소 다각형에서 변동 다각형으로의 이완 강화가 합성 및 실제 응용 과제에서 로그-분할 함수에 대한 경계를 상당히 향상시킴을 보여준다.
• 10개 노드를 가진 합성 클리크에서, 알고리즘은 첫 번째 반복보다 3~4배 더 많은 MAP 호출을 필요로 했지만, 상당히 날카운 이중성 갭을 달성했다.
• TRBP 및 기타 국소 일치 기반 접근법보다 성능이 뛰어나 중국어 문자 및 격자 구조 MRF에서 뚜렷한 향상을 보였다.
• 상한을 제공하는 근사 MAP 해법기를 사용하면 로그-분할 함수에 대해 검증 가능한 상한을 확보할 수 있으며, 국소 다각형과 같은 이완 구조를 직접 최적화하는 것보다 더 날카운 결과를 얻을 수 있었다.
• 완전 보정형 변형과 계산 재사용 전략은 새로운 MAP 호출 수를 상당히 줄여 실용적 효율성을 향상시켰다.