[논문 리뷰] Exact Sampling from Determinantal Point Processes

Philipp Hennig, Roman Garnett|arXiv (Cornell University)|2016. 09. 22.

Point processes and geometric inequalities참고 문헌 17인용 수 5

한 줄 요약

이 논문은 커널에 특화된 스펙트럼 분해를 사용하여 연속 영역에서 결정점과정(DPPs)에 대한 정확하고 분석적인 표본 추출 방법을 제시한다. 이는 기계학습 응용 분야에서 정밀하고 효율적인 표본 추출을 가능하게 한다. 주요 기여는 제곱지수 커널과 같은 일반적인 커널에 대해 분석적 고유함수 전개를 활용함으로써 낮은 계산 비용으로 정확한 DPP 표본 추출이 가능하다는 점이며, 이는 DPP가 몬테카를로 방법보다 수렴 속도가 향상된 베이지안 최적화 및 적분에 실용적으로 활용될 수 있도록 한다.

ABSTRACT

Determinantal point processes (DPPs) are an important concept in random matrix theory and combinatorics. They have also recently attracted interest in the study of numerical methods for machine learning, as they offer an elegant "missing link" between independent Monte Carlo sampling and deterministic evaluation on regular grids, applicable to a general set of spaces. This is helpful whenever an algorithm explores to reduce uncertainty, such as in active learning, Bayesian optimization, reinforcement learning, and marginalization in graphical models. To draw samples from a DPP in practice, existing literature focuses on approximate schemes of low cost, or comparably inefficient exact algorithms like rejection sampling. We point out that, for many settings of relevance to machine learning, it is also possible to draw exact samples from DPPs on continuous domains. We start from an intuitive example on the real line, which is then generalized to multivariate real vector spaces. We also compare to previously studied approximations, showing that exact sampling, despite higher cost, can be preferable where precision is needed.

연구 동기 및 목표

• 연속 영역에서 DPP에 대한 실용적인 정확한 표본 추출 방법이 부족한 데 비해, 탐색과 통합 측면에서 이론적으로는 유리한 점을 해결하기 위해.
• 기계학습에서 흔히 사용되는 커널, 예를 들어 제곱지수 커널과 같은 경우에 정확한 DPP 표본 추출이 가능하고 계산적으로 실현 가능하다는 것을 보여주기 위해.
• 정확한 DPP 표본 추출의 비용이 기존 커널 기반 모델(예: 가우시안 프로세스)에서 이미 필요로 하는 행렬 역행렬 계산에 의해 지배되며, 추가 오버헤드가 최소화됨을 보여주기 위해.
• 정확한 표본 추출과 저랭크 근사 방법(니스트롬 및 스펙트럼 방법)을 비교하여, 낮은 랭크일 경우 나쁜 근사가 균일한 랜덤 표본 추출보다도 나쁜 커버리지 결과를 낳을 수 있음을 보여주기 위해.

제안 방법

• 이 방법은 커널의 스펙트럼 분해로부터 유도된 고유함수를 사용하여 DPP 커널을 유한 랭크 전개로 표현함으로써, 유한 차원 특징 공간에서의 결정점과정으로의 변환을 통해 정확한 표본 추출을 가능하게 한다.
• 유한 영역에서 제곱지수 커널의 경우 고유함수는 삼각함수이며, 이로 인해 커널 전개에 필요한 적분을 분석적으로 계산할 수 있다.
• 표본 추출 절차는 DPP를 고유함수 계수에 대한 유한 차원 DPP로 변환한 후, 고유값 분해와 QR 기반 표본 추출을 통해 정확한 표본 추출을 수행하는 방식이다.
• 이 방법은 측도 전환을 사용하여 원래 DPP를 다룰 수 있는 형태로 매핑하며, 커널의 고유함수가 특정 직교성 및 완비성 조건을 만족한다는 사실을 활용한다.
• 1차원에서 정확한 표본과 저랭크 근사(니스트롬 및 스펙트럼)를 비교하여 검증하였다. 이를 위해 정규화된 누적 밀도 함수와 표본 위치를 사용하였다.
• 계산 비용은 D차원에서 N개의 표본을 추출할 경우 O(N³ + N²D)이며, 이는 가우시안 프로세스 회귀의 비용과 유사하므로, GP 추론이 이미 수행되는 경우 실용적으로 효율적이다.

실험 결과

연구 질문

• RQ1 일반적인 기계학습 커널에 대해 연속 영역에서 DPP의 정확한 표본 추출이 효율적으로 가능할 수 있는가?
• RQ2 정확한 DPP 표본 추출의 성능은 니스트롬 및 스펙트럼 분해와 같은 저랭크 근사 방법과 비교해 볼 때 어떻게 되는가?
• RQ3 고차원 DPP 표본 추출에서 정밀도와 계산 비용 사이의 상호 교환 관계는 어떠한가?
• RQ4 정확한 DPP 표본 추출은 기존의 커널 기반 모델(예: 가우시안 프로세스)에 추가 비용을 최소화하면서 통합될 수 있는가?

주요 결과

• 제곱지수 커널과 같은 일반적인 커널에 대해 분석적 고유함수 전개를 활용함으로써, 특히 커널이 유한 영역에 정의된 경우 정확한 DPP 표본 추출이 실현 가능하고 효율적이다.
• 정확한 DPP 표본 추출의 계산 비용은 O(N³ + N²D)이며, 이는 가우시안 프로세스 회귀에서 이미 필요로 하는 행렬 역행렬 계산에 의해 지배되어 추가 오버헤드가 최소화된다.
• 니스트롬 및 스펙트럼 방법과 같은 저랭크 근사는 낮은 랭크일 경우 나쁜 품질의 표본을 낳을 수 있으며, 이는 균일한 랜덤 표본 추출보다도 더 심한 군집 현상을 유발할 수 있다.
• 스펙트럼 근사의 품질은 랭크 F가 증가함에 따라 향상되지만, 고차원 공간에서는 필요한 F가 지수적으로 증가할 수 있으므로 정확한 표본 추출이 더 유리할 수 있다.
• 실험적 비교 결과, 정확한 표본 추출은 특히 낮은 F에서 약한 근사 방법보다 더 규칙적이고 잘 분포된 표본을 생성하며, 진짜 누적 밀도 함수와 더 잘 일치함을 보였다.
• 이 방법은 DPP를 베이지안 최적화 및 적분에서 원칙적인 탐색 전략으로 활용할 수 있게 하며, 몬테카를로 적분에 비해 수렴 속도가 향상됨을 보여준다.