[논문 리뷰] Markov Determinantal Point Processes

Raja Hafiz Affandi, Alex Kulesza외 1명|arXiv (Cornell University)|2012. 10. 16.

Random Matrices and Applications참고 문헌 11인용 수 27

한 줄 요약

이 논문은 시간에 따라 다양성이 보장되는 부분집합의 시계열을 모델링하는 새로운 확률과정인 마르코프 결정점프로세스(M-DPP)를 소개한다. DPP의 마진 분포를 통해 각 시간 단계 내에서의 다양성과 연속된 집합의 합집합가 DPP로 분포함으로써 시간에 따른 다양성을 확보함으로써, M-DPP는 정확하고 효율적인 샘플링과 순차적 뉴스 추천 작업에서 베이스라인 방법들을 능가하는 항목 관련성의 점진적 학습을 가능하게 한다.

ABSTRACT

A determinantal point process (DPP) is a random process useful for modeling the combinatorial problem of subset selection. In particular, DPPs encourage a random subset Y to contain a diverse set of items selected from a base set Y. For example, we might use a DPP to display a set of news headlines that are relevant to a user's interests while covering a variety of topics. Suppose, however, that we are asked to sequentially select multiple diverse sets of items, for example, displaying new headlines day-by-day. We might want these sets to be diverse not just individually but also through time, offering headlines today that are unlike the ones shown yesterday. In this paper, we construct a Markov DPP (M-DPP) that models a sequence of random sets {Yt}. The proposed M-DPP defines a stationary process that maintains DPP margins. Crucially, the induced union process Zt = Yt u Yt-1 is also marginally DPP-distributed. Jointly, these properties imply that the sequence of random sets are encouraged to be diverse both at a given time step as well as across time steps. We describe an exact, efficient sampling procedure, and a method for incrementally learning a quality measure over items in the base set Y based on external preferences. We apply the M-DPP to the task of sequentially displaying diverse and relevant news articles to a user with topic preferences.

연구 동기 및 목표

• 시간에 따라 다양성이 보장되는 부분집합의 시계열을 모델링하여, 각 부분집합 내에서뿐만 아니라 연속된 시간 단계 간의 다양성도 보장한다.
• DPP가 지닌 바람직한 다양성 성질을 유지하면서 시간적 종속성을 도입하는 확률과정을 개발한다.
• 실제로 순차적 추천 시스템에 구현하기 위해 M-DPP에서 정확하고 효율적인 샘플링을 가능하게 한다.
• 사용자 선호도에 기반해 항목 품질 점수를 점진적으로 학습시킬 수 있도록 지원하여 시간이 지남에 따라 관련성 향상을 이룬다.

제안 방법

• M-DPP는 부분집합 위의 정상 마르코프 과정으로 구성되며, DPP의 구조를 유지하는 커널을 통해 전이 확률이 정의된다.
• 이 과정은 각 개별 집합 Yt가 DPP 분포를 따르므로, 각 시간 단계에서 다양성이 유지된다.
• 연속된 집합의 합집합 Zt = Yt ∪ Yt−1는 마진 분포가 DPP가 되어 시간 간의 다양성이 강제된다.
• 커널 행렬의 스펙트럼 분해와 고유값 기반의 기각 샘플링을 이용해 정확하고 효율적인 샘플링 알고리즘을 유도한다.
• 사용자 피드백에 기반해 커널을 업데이트하는 방법을 도입하여 항목 관련성 점수의 점진적 학습을 가능하게 한다.
• 주제 선호도가 포함된 순차적 뉴스 기사 추천 작업에서 모델을 훈련하고 평가한다.

실험 결과

연구 질문

• RQ1 시간이 지남에 따라 DPP로 분포하는 부분집합을 유지하면서도 시간 간의 다양성을 보장할 수 있는 마르코프 과정을 설계할 수 있는가?
• RQ2 시계열에서 연속된 부분집합의 합집합이 마진적으로 DPP로 분포하도록 하여 시간적 다양성을 강제할 수 있는가?
• RQ3 근사 없이 M-DPP에서 정확한 생성을 가능하게 하는 효율적인 샘플링 절차는 무엇인가?
• RQ4 M-DPP 프레임워크 내에서 사용자 피드백으로부터 항목 관련성 점수를 어떻게 점진적으로 학습할 수 있는가?
• RQ5 M-DPP는 표준 DPP와 다른 베이스라인들보다 순차적이고 다양성이 보장되는 부분집합 선택 작업에서 성능이 뛰어나게 되는가?

주요 결과

• M-DPP는 개별 집합 Yt와 그들의 합집합 Zt = Yt ∪ Yt−1가 모두 마진적으로 DPP로 분포함을 보장하여 시간 내외에서의 다양성을 보장한다.
• 정확하고 효율적인 샘플링 절차가 개발되어 M-DPP의 실생활 응용에서의 구현이 가능해졌다.
• 외부 선호도에 기반해 항목 품질 점수의 점진적 학습을 지원하여 시간이 지남에 따라 추천의 관련성 향상을 이룬다.
• 뉴스 추천 작업에서의 실증적 평가 결과, M-DPP는 다양성 및 관련성 지표에서 베이스라인 방법들을 능가한다.
• 특히 장기적인 다양성 유지 측면에서 표준 DPP보다 사용자 선호도 일치도에서 뚜렷한 향상을 보였다.