[논문 리뷰] Expectation-Maximization for Learning Determinantal Point Processes

Jennifer Gillenwater, Alex Kulesza외 2명|arXiv (Cornell University)|2014. 11. 04.

Point processes and geometric inequalities참고 문헌 29인용 수 36

한 줄 요약

이 논문은 고유값과 고유벡터를 통해 커널을 매개변수화함으로써 결정점과정(DPPs)의 전체 커널 행렬을 학습하기 위한 기대최대화(EM) 기반 알고리즘을 제안한다. 고유분해를 활용하고 로그우도에 대한 다루기 쉬운 하한을 유도함으로써, 이 방법은 투영된 경사상승법에서 발생하는 수치적 불안정성과 열화 문제를 피하며, 실세계 제품 추천 작업에서 테스트 로그우도에 대해 최대 16.5%의 상대적 향상을 달성한다.

ABSTRACT

A determinantal point process (DPP) is a probabilistic model of set diversity compactly parameterized by a positive semi-definite kernel matrix. To fit a DPP to a given task, we would like to learn the entries of its kernel matrix by maximizing the log-likelihood of the available data. However, log-likelihood is non-convex in the entries of the kernel matrix, and this learning problem is conjectured to be NP-hard. Thus, previous work has instead focused on more restricted convex learning settings: learning only a single weight for each row of the kernel matrix, or learning weights for a linear combination of DPPs with fixed kernel matrices. In this work we propose a novel algorithm for learning the full kernel matrix. By changing the kernel parameterization from matrix entries to eigenvalues and eigenvectors, and then lower-bounding the likelihood in the manner of expectation-maximization algorithms, we obtain an effective optimization procedure. We test our method on a real-world product recommendation task, and achieve relative gains of up to 16.5% in test log-likelihood compared to the naive approach of maximizing likelihood by projected gradient ascent on the entries of the kernel matrix.

연구 동기 및 목표

• DPP에서 전체 양의 준정부행렬 커널 행렬을 학습하는 문제에 대응하기 위해, 이는 비볼록이며 NP-난이도로 추측되는 바이다.
• 각 행에 대한 스칼라 가중치나 고정된 선형 조합에 국한된 기존 방법의 한계를 극복하기 위해.
• 경사상승법의 투영 단계에서 발생하는 열화된 해를 피하는 강건한 최적화 절차를 개발하기 위해.
• 계산 효율성을 유지하면서도 제약 없이 비모수적 방식으로 DPP 커널 행렬을 학습할 수 있도록 하기 위해.
• 고유분해와 EM 스타일 최적화를 활용하여 실세계 추천 작업에서 테스트 로그우도를 향상시키기 위해.

제안 방법

• 고유값 $ \Lambda $ 와 고유벡터 $ V $ 를 사용하여 DPP 커널 행렬 $ L $ 을 매개변수화함으로써, 우도 목표함수의 재매개변수화를 가능하게 한다.
• 현재의 $ V $ 와 $ \Lambda $ 추정치를 기반으로 하한을 구성함으로써 EM 스타일 알고리즘을 적용한다.
• E단계에서는 현재 파라미터 하에서 완전자료 로그우도의 기대값을 계산한다.
• M단계에서는 고유값 $ \Lambda $ 와 고유벡터 $ V $ 를 기준으로 하한을 최적화하며, 행렬 미분에서 유도된 닫힌 형태의 업데이트를 사용한다.
• 행렬의 크기가 $ |Y_i| \times |Y_i| $ 인 $ H^{Y_i} = V_{Y_i} R^2 V_{Y_i}^\top $ 을 사용하여 $ V $ 에 대한 기울기를 효율적으로 계산함으로써 계산 복잡도를 감소시킨다.
• 고유분해를 통해 양의 준정부행렬 성질를 자연스럽게 유지함으로써, 열화를 유발하는 투영 단계가 필요 없어진다.

실험 결과

연구 질문

• RQ1 투영 단계에 의존하지 않고 전체 DPP 커널 행렬을 학습할 수 있는 EM 스타일 알고리즘을 설계할 수 있는가?
• RQ2 고유값과 고유벡터를 기반으로 커널을 재매개변수화하면, 커널 행렬 원소에 직접 경사상승을 적용하는 것보다 더 안정적이고 효과적인 최적화가 가능한가?
• RQ3 제안된 방법이 실세계 부분집합 선택 작업에서 기준 방법보다 더 높은 테스트 로그우도를 달성할 수 있는가?
• RQ4 낮은 데이터 환경이나 나쁜 초기화 조건 하에서 이 방법의 성능은 어떠한가?
• RQ5 EM 기반 접근법이 경사상승법보다 항목 간의 다양성을 유도하는 음의 상호작용을 더 잘 유지하는가?

주요 결과

• 제안된 EM 기반 방법은 실세계 제품 추천 작업에서 투영된 경사상승법 대비 최대 16.5%의 상대적 향상된 테스트 로그우도를 달성했다.
• 경사상승법에서 투영으로 인해 발생하는 일반적인 열화된 해(거의 대각행렬에 가까운 커널 행렬)를 피함으로써, 다양성 모델링에 있어 뛰어난 성능을 발휘했다.
• 이 알고리즘은 경사상승보다 渐近적으로 더 빠르며, 초기화 및 데이터셋 변동에 더 강건하다.
• 낮은 데이터 환경에서도 이 방법은 강력한 성능 유지를 보였으며, 모멘트 매칭 초기화 시 기준 대비 중앙값 기준 4.55%의 상대적 향상을 달성했다.
• 고유분해를 활용하여 첫 번째 기울기 단계를 다항시간 내에 정확하게 계산할 수 있었으며, 복잡도는 $ O(nNk^2) $ 였다. 여기서 $ k $ 는 관측된 최대 부분집합의 크기이다.
• 이 방법은 부분집합 선택에서 다양성을 보장하기 위해 필수적인 항목 간의 음의 상호작용을 성공적으로 모델링했다.