[논문 리뷰] Zonotope hit-and-run for efficient sampling from projection DPPs

Guillaume Gautier, Rémi Bardenet외 1명|arXiv (Cornell University)|2017. 05. 30.

Stochastic Gradient Optimization Techniques인용 수 7

한 줄 요약

이 논문은 프로젝션 DPP(고정된 표본 크기를 가진 DPP)에서 효율적으로 샘플링하기 위해 지오메트릭 구조를 활용하는 새로운 MCMC 샘플러를 제안한다. 이 방법은 이산적 샘플링 문제를 볼록 zonotope 위의 연속적 문제로 변환함으로써, 기존 방법보다 더 빠른 혼합 속도와 높은 샘플 효율성을 달성한다. 특히, 텍스트 요약과 같이 평가 비용이 높은 함수를 다룰 때 샘플 간 상관관계가 감소하므로 유용하다.

ABSTRACT

Determinantal point processes (DPPs) are distributions over sets of items that model diversity using kernels. Their applications in machine learning include summary extraction and recommendation systems. Yet, the cost of sampling from a DPP is prohibitive in large-scale applications, which has triggered an effort towards efficient approximate samplers. We build a novel MCMC sampler that combines ideas from combinatorial geometry, linear programming, and Monte Carlo methods to sample from DPPs with a fixed sample cardinality, also called projection DPPs. Our sampler leverages the ability of the hit-and-run MCMC kernel to efficiently move across convex bodies. Previous theoretical results yield a fast mixing time of our chain when targeting a distribution that is close to a projection DPP, but not a DPP in general. Our empirical results demonstrate that this extends to sampling projection DPPs, i.e., our sampler is more sample-efficient than previous approaches which in turn translates to faster convergence when dealing with costly-to-evaluate functions, such as summary extraction in our experiments.

연구 동기 및 목표

• 대규모 기계학습 응용 분야에서 프로젝션 DPP의 정확한 샘플링에 따른 높은 계산 비용을 해결하기 위해.
• 비용이 많이 드는 함수를 평가할 때 수렴 속도를 높이고 샘플 간 상관관계를 줄이기 위해 더 효율적인 MCMC 샘플러를 개발하기 위해.
• 프로젝션 DPP의 특징 행렬에서 유도된 zonotope의 기하학적 구조를 활용하여 상태 공간에서의 글로벌 이동을 가능하게 하기 위해.
• 기존의 기저 교환 MCMC 체인을 개선하기 위해 선형 계획법을 통해 zonotope의 타일링을 더 효과적으로 탐색하기 위해.

제안 방법

• 이 방법은 이산 DPP 샘플링 문제를 특징 행렬의 열들로 이루어진 볼록 hull인 zonotope 위의 연속적 샘플링 문제로 완화한다. 이는 DPP의 구조를 자연스럽게 반영한다.
• 현재 점을 중심으로 랜덤한 끈을 찾기 위해 선형 계획법을 풀어가며, zonotope 위에서 hit-and-run MCMC 커널을 사용한다.
• Zonotope는 각각 고유한 DPP 실현에 대응하는 타일들로 분할되며, 샘플러는 이러한 타일들 위에서 균일성을 보장한다.
• Dyer & Frieze(1994)의 조합 기하학적 결과를 활용하여 zonotope가 타일들 위에 평탄한 분포를 지원하도록 하여 효율적인 탐색을 가능하게 한다.
• 정확한 프로젝션 DPP 분포를 타깃으로 하는 가중치가 부여된 hit-and-run 체인을 사용하며, 선형 계획법을 통해 글로벌 혼합을 보장하는 방향으로 이동한다.
• 효율적인 선형 프로그래밍 해법기(예: CVXOPT를 통한 GLPK)를 사용하여 샘플러를 구현하였으며, 수렴을 향상시키기 위해 적응적으로 체인을 초기화한다.

실험 결과

연구 질문

• RQ1 존토프를 사용하여 이산 DPP 샘플링 문제를 혼합 특성이 향상된 연속적 기하학적 샘플링 문제로 변환할 수 있는가?
• RQ2 존토프 위의 hit-and-run MCMC 체인이 기존의 기저 교환 MCMC 체인보다 프로젝션 DPP에 대해 더 빠른 혼합 속도와 낮은 샘플 상관관계를 제공하는가?
• RQ3 비용이 많이 드는 함수를 평가할 때, 제안된 샘플러의 효과적 샘플 크기와 수렴 속도 측면에서 최신 기술 대비 성능은 어떠한가?
• RQ4 존토프의 기하학적 구조를 활용하여 국소적인 무작위 보행을 피하는 더 효율적인 MCMC 커널을 설계할 수 있는가?

주요 결과

• 제안된 MCMC 샘플러는 Anari 등(2016)의 기저 교환 체인보다 약 50퍼센트 더 많은 고유한 요약을 동일한 반복 수 내에 탐색함으로써 더 빠른 혼합 속도를 달성하였다.
• 텍스트 요약 실험에서, 샘플러는 기준선 대비 Rouge-1F 점수의 추정치에서 더 낮은 분산과 50퍼센트 더 많은 고유한 요약을 탐색하여 더 나은 혼합 성능를 보였다.
• 선형 계획법으로 인해 반복당 CPU 시간이 더 오래 걸리지만, 샘플 효율성이 높아져 통합 함수 평가 비용(예: Rouge-1F)이 계산의 주요 부분을 차지할 경우 더 빠른 수렴을 이룬다.
• 제안된 알고리즘의 성능은 다양한 그래프 구조에서 안정적이었으며, 기저 교환 체인의 성능는 그래프 구조에 따라 더 큰 변동을 보였다.
• 이론적 기반으로는 볼록체 위에서 hit-and-run의 다항식 혼합 경계가 기존에 존재하며, 실증 결과는 실생활에서 더 빠른 수렴을 보여주었다.