[논문 리뷰] Reparameterizing the Birkhoff Polytope for Variational Permutation Inference

Scott W. Linderman, Gonzalo E. Mena외 3명|arXiv (Cornell University)|2017. 10. 25.

Genome Rearrangement Algorithms인용 수 27

한 줄 요약

이 논문은 온도 조절형 스틱 브레이킹 과정과 반올림 변환을 사용하여 Birkhoff 다면체의 미분 가능하고 역행 가능한 재매개변수화를 제안하며, 순열 행렬에 대한 효율적인 확률적 변분 추론을 가능하게 한다. 이 방법은 신경 신체 정체성 추론 과제에서 MCMC 및 MAP 기반 방법보다 빠른 수렴과 더 나은 사후 근사치를 달성한다. 특히 다수의 생물 샘플에서 정보를 통합할 때 유의미한 성능 향상을 보인다.

ABSTRACT

Many matching, tracking, sorting, and ranking problems require probabilistic reasoning about possible permutations, a set that grows factorially with dimension. Combinatorial optimization algorithms may enable efficient point estimation, but fully Bayesian inference poses a severe challenge in this high-dimensional, discrete space. To surmount this challenge, we start with the usual step of relaxing a discrete set (here, of permutation matrices) to its convex hull, which here is the Birkhoff polytope: the set of all doubly-stochastic matrices. We then introduce two novel transformations: first, an invertible and differentiable stick-breaking procedure that maps unconstrained space to the Birkhoff polytope; second, a map that rounds points toward the vertices of the polytope. Both transformations include a temperature parameter that, in the limit, concentrates the densities on permutation matrices. We then exploit these transformations and reparameterization gradients to introduce variational inference over permutation matrices, and we demonstrate its utility in a series of experiments.

연구 동기 및 목표

• 순열 행렬에 대한 베이지안 추론 문제를 해결하기 위해, 차원이 증가함에 따라 계승적으로 증가하는 고차원 이산 공간인 순열 행렬에 대해 대응한다.
• 매칭, 추적, 순위 매기기와 같은 조합 구조를 포함하는 문제에서 확장 가능하고 효율적인 변분 추론을 가능하게 한다.
• 재매개변수화를 통한 기반 최적화를 지원하는 연속적 근사치를 개발한다.
• 특히 C. elegans의 신경 정체성 정렬을 위한 히에라르키컬 모델에 순열 추론을 통합한다.
• 수렴 속도와 사후 품질 측면에서 MCMC, MAP 및 단순 변분 추론과 같은 기존 방법을 뛰어넘는다.

제안 방법

• 비제약 실수 벡터를 Birkhoff 다면체(이중-스토하스틱 행렬)로 매핑하는 역행 가능하고 미분 가능한 스틱 브레이킹 변환을 제안한다.
• 온도 조절형 반올림 맵을 도입하여 Birkhoff 다면체 내 점들을 순열 행렬 쪽으로 향하게 하며, 온도가 0에 수렴할수록 집중도가 증가한다.
• 재매개변수화 기반 기울기 추정을 통해 순열 행렬에 대한 변분 사후 근사치의 엔드 투 엔드 학습을 가능하게 한다.
• 최적화 과정에서 이중-스토하스틱 제약 조건을 강제하기 위해 Sinkhorn-Knopp 알고리즘을 사용한다.
• 예를 들어 뉴런 위치 사전 지식과 같은 구조적 제약 조건을 위해 매개변수 행렬 M의 요소를 0으로 설정하여 허용 가능한 순열을 제한한다.
• 다수의 개체에서 잠재 동역학 행렬 W와 순열 행렬 X^{(j)}를 동시에 추론하기 위해 히에라르키컬 베이지안 모델 내에서 이 방법을 적용한다.

실험 결과

연구 질문

• RQ1 비제약 공간에서 Birkhoff 다면체로의 미분 가능하고 역행 가능한 변환은 변분 추론을 위한 기울기 흐름을 유지하면서 가능할 수 있는가?
• RQ2 온도 조절형 반올림 메커니즘이 온도가 0에 수렴할 경우 변분 사후 근사치를 순열 행렬에 집중시킬 수 있는가?
• RQ3 이 재매개변수화 방법은 실제 신경 데이터 문제에서 MCMC나 MAP보다 더 빠르고 정확한 순열에 대한 베이지안 추론을 가능하게 하는가?
• RQ4 부분적인 정체성 지식이 있는 다수의 생물 샘플에서 정보를 통합할 경우 이 방법의 성능은 어떠한가?
• RQ5 이 방법은 복잡한 구조적 제약 조건이 존재하는 고차원 순열 추론 문제에 대해 확장 가능한가?

주요 결과

• 제안된 방법은 국소적인 메트로폴리스-하스팅스 제안을 사용하는 MCMC보다 수렴 속도가 현저히 빠르며, 이는 느린 혼합을 초래한다.
• 단순한 변분 추론은 순열의 구조를 강제하지 못하므로, 제안된 방법은 더 나은 사후 근사치를 달성한다.
• 다수의 후보 뉴런과 희박한 정체성 지식이 존재하는 상황에서는, 적절한 제약 조건을 적용한 베이지안 접근법이 MAP 추정을 능가한다.
• 높은 사후 분산과 다수의 개체에서의 다양한 샘플을 통해 이 방법은 순열 추론의 불확실성을 성공적으로 포착한다.
• 다수의 개체에서 데이터를 통합할 경우 성능 향상이 나타나며, 이는 히에라르키컬 모델링의 가치를 입증한다.
• 특히 QAP 솔버의 계산 비용이 높을 경우, 이 방법은 수렴 속도와 해 품질 측면에서 MAP 추정을 뛰어넘는다.