[논문 리뷰] Exact sampling of determinantal point processes with sublinear time preprocessing

Michał Dereziński, Daniele Calandriello외 1명|arXiv (Cornell University)|2019. 05. 31.

Random Matrices and Applications참고 문헌 31인용 수 12

한 줄 요약

이 논문은 결정성 점 과정(DPPs)에 대한 새로운 정확한 샘플링 알고리즘인 DPP-VFX를 제안한다. 이 알고리즘은 $ n cdot \mathrm{poly}(k) $ 이하의 사전 처리 시간과 $ \mathrm{poly}(k) $ 이하의 샘플링 시간을 확보하여 $ n $ 에 독립적인 성능을 달성한다. 정규화된 DPP를 활용한 효율적 인덱스 집합 축소와 정확히 선택된 스케일링 파라미터를 사용한 거부 샘플링을 통해, 조건부 및 카디널리티 제약이 있는 DPP에서 모두 빠르고 정확한 샘플링을 가능하게 하며, 이는 이전의 정확한 및 근사 방법들보다 확장성과 반복 샘플링 효율성에서 뛰어나다.

ABSTRACT

We study the complexity of sampling from a distribution over all index subsets of the set $\{1,...,n\}$ with the probability of a subset $S$ proportional to the determinant of the submatrix $\mathbf{L}_S$ of some $n imes n$ p.s.d. matrix $\mathbf{L}$, where $\mathbf{L}_S$ corresponds to the entries of $\mathbf{L}$ indexed by $S$. Known as a determinantal point process, this distribution is used in machine learning to induce diversity in subset selection. In practice, we often wish to sample multiple subsets $S$ with small expected size $k = E[|S|] \ll n$ from a very large matrix $\mathbf{L}$, so it is important to minimize the preprocessing cost of the procedure (performed once) as well as the sampling cost (performed repeatedly). For this purpose, we propose a new algorithm which, given access to $\mathbf{L}$, samples exactly from a determinantal point process while satisfying the following two properties: (1) its preprocessing cost is $n \cdot ext{poly}(k)$, i.e., sublinear in the size of $\mathbf{L}$, and (2) its sampling cost is $ ext{poly}(k)$, i.e., independent of the size of $\mathbf{L}$. Prior to our results, state-of-the-art exact samplers required $O(n^3)$ preprocessing time and sampling time linear in $n$ or dependent on the spectral properties of $\mathbf{L}$. We also give a reduction which allows using our algorithm for exact sampling from cardinality constrained determinantal point processes with $n\cdot ext{poly}(k)$ time preprocessing.

연구 동기 및 목표

• 정확한 DPP 샘플링에서 발생하는 계산적 병목 현상을 해결하기 위해, 특히 $ k \ll n $ 인 작은 기대 부분집합 크기를 가진 큰 행렬에서 반복적으로 샘플링할 경우에 초점을 맞춘다.
• 정확한 DPP 샘플링의 사전 처리 비용을 $ \mathcal{O}(n^3) $ 에서 $ n \cdot \mathrm{poly}(k) $ 로 줄여, $ n $ 에 대해 부분선형으로 만든다.
• 샘플링 비용을 $ n $ 에 독립적으로 유지하여, 특히 $ \mathrm{poly}(k) $ 수준으로 만들며, 성능 저하 없이 고주기 샘플링을 가능하게 한다.
• 동일한 효율성 보장을 확보하면서도, 고정된 크기의 부분집합을 추출하는 $ k $-DPP(카디널리티 제약 DPP)에 대한 정확한 샘플링으로 방법을 확장한다.
• 대규모 기계학습 응용 분야에서 다양성을 유도하는 부분집합 선택을 위한 실용적이고 확장 가능한 솔루션을 제공한다.

제안 방법

• 인덱스 집합 $[n]$ 을 $ t \ll n $ 크기의 더 작은 집합 $ \sigma $ 로 축소하기 위해 정규화된 DPP(R-DPP)를 사용하여, 정확한 샘플링을 위해 충분한 통계적 성질을 유지한다.
• 스케일링 파라미터 $ \alpha^\star $ 를 적절히 선택하여 $ \mathrm{DPP}(\alpha^\star \mathbf{L}) $ 에 대해 거부 샘플링을 수행한다. 이때 $ \Pr(|S_{\alpha^\star}| = k) \geq \frac{1}{C\sqrt{k}} $ 를 만족하도록 하여 높은 수용 확률을 확보한다.
• Nyström 근사법을 $ \mathbf{L} $ 에 적용하여 $ \alpha^\star $ 를 $ \widetilde{\mathcal{O}}(n \cdot \mathrm{poly}(k)) $ 시간 내에 효율적으로 계산함으로써 전체 고유분해를 피한다.
• DPP 샘플 크기의 체르노프 유사한 경계를 활용하여, 샘플 크기 분포의 모드가 $ k $ 근처에 위치함을 보이며, 이는 효과적인 거부 샘플링을 가능하게 한다.
• 인덱스 축소와 거부 샘플링 단계를 두 단계 과정으로 통합한다: 먼저 R-DPP에서 $ \sigma $ 를 샘플링하고, 그 다음 $ S \sim \mathrm{DPP}(\mathbf{L}_\sigma) $ 를 샘플링하여 정확성과 효율성을 보장한다.
• 작은 부분집합 $ \sigma $ 에서 정확한 샘플링을 위해 DPPy 라이브러리를 사용하며, 전체 알고리즘이 원래 $[n]$ 에 대한 DPP에 대해 정확성을 유지한다.

실험 결과

연구 질문

• RQ1 정확한 DPP 샘플링이 $ n $ 에 대해 부분선형인 사전 처리 비용으로 달성될 수 있는가? 특히 $ k \ll n $ 일 경우에 대해.
• RQ2 반복 샘플링을 위해 $ n $ 에 독립적인 비용, 즉 $ \mathrm{poly}(k) $ 수준의 샘플링 비용을 확보할 수 있는가?
• RQ3 동일한 효율성 보장을 확보하면서도, 고정 크기 부분집합을 추출하는 $ k $-DPP에 대한 정확한 샘플링으로 방법을 확장할 수 있는가?
• RQ4 정확히 크기가 $ k $ 인 부분집합을 추출할 확률이 높은 스케일링 파라미터 $ \alpha^\star $ 는 무엇이며, 이를 효율적으로 계산할 수 있는가?
• RQ5 기존의 정확한 및 근사 DPP 샘플러들과 비교해 실질적으로 성능과 확장성 측면에서 어떻게 성능을 내는가?

주요 결과

• DPP-VFX는 $ n \cdot \mathrm{poly}(k) $ 의 사전 처리 시간과 $ \mathrm{poly}(k) $ 의 샘플링 시간을 확보하여, 부분선형 사전 처리와 일정한 샘플링 비용을 가진 최초의 정확한 DPP 샘플러이다.
• $ n = 10^6 $ 일 때, DPP-VFX는 평균적으로 $ 9 \pm 4.5 $ 번의 재시도를 거쳐 첫 번째 부분집합을 $ 68.479 \pm 2.63 $ 초 만에 샘플링하며, 정확한 방법과 MCMC 방법의 범위를 초월하는 확장성을 입증한다.
• 첫 번째 샘플링 비용은 $ \mathcal{O}(n^3) $ 에서 $ n \cdot \mathrm{poly}(k) $ 로 감소하였고, 재샘플링 비용은 $ n $ 에 선형적으로 의존하는 것에서 $ \mathrm{poly}(k) $ 로 감소하여 고주기 샘플링이 가능해졌다.
• $ k $-DPP에 대한 거부 샘플링 단계는 높은 확률로 성공하며, 최대 $ O(\sqrt{k}) $ 번 이내에 종료되며, $ \alpha^\star $ 는 $ \widetilde{\mathcal{O}}(n \cdot \mathrm{poly}(k)) $ 시간 내에 계산 가능하다.
• 실험 결과, $ n = 7 \cdot 10^5 $ 에서 DPP-VFX는 MCMC 기반 샘플링보다 10배 빠르게 동작하여 38초 대비 358초를 기록했으며, $ n $ 이 증가하더라도 재샘플링 비용이 일정하게 유지됨을 보였다.
• 사전 처리 이후 재샘플링 시간이 $ n $ 에 선형적으로 증가하는 최신 정확 샘플러 [21] 와 비교해 DPP-VFX는 일정한 비용을 유지하며 슈퍼어리어러의 성능을 보였다.