[논문 리뷰] Collaboratively Learning Preferences from Ordinal Data

Sewoong Oh, Kiran Koshy Thekumparampil외 1명|arXiv (Cornell University)|2015. 06. 26.

Sparse and Compressive Sensing Techniques참고 문헌 22인용 수 19

한 줄 요약

이 논문은 두 가지 설정인 협업 랭킹과 번들 선택 모델링에서 순서형 데이터로부터 낮은 질서의 선호 행렬을 공동으로 학습하기 위해 핵노름 최소화의 볼록 relaxation을 제안한다. 유한 샘플 오차 한계를 증명함으로써 정보 이론적 하한선에 로그 인자까지 일치하는 최소 최대 최적성(minimax-optimality)을 확립한다.

ABSTRACT

In applications such as recommendation systems and revenue management, it is important to predict preferences on items that have not been seen by a user or predict outcomes of comparisons among those that have never been compared. A popular discrete choice model of multinomial logit model captures the structure of the hidden preferences with a low-rank matrix. In order to predict the preferences, we want to learn the underlying model from noisy observations of the low-rank matrix, collected as revealed preferences in various forms of ordinal data. A natural approach to learn such a model is to solve a convex relaxation of nuclear norm minimization. We present the convex relaxation approach in two contexts of interest: collaborative ranking and bundled choice modeling. In both cases, we show that the convex relaxation is minimax optimal. We prove an upper bound on the resulting error with finite samples, and provide a matching information-theoretic lower bound.

연구 동기 및 목표

• 추천 및 수익 관리 시스템에서 알려지지 않은 아이템이나 관측되지 않은 아이템 쌍에 대한 사용자 선호도를 예측하는 데 도전하는 것.
• 사용자와 아이템 간 잠재적 유사성을 포착하는 다항 로지스틱 모델(Multinomial Logit, MNL)을 통해 낮은 질서의 구조를 사용자 선호도를 모델링하는 것.
• 순서형 데이터(예: 랭킹 또는 선택) 형태의 노이즈가 섞인 부분 관측에서 잠재 선호 행렬을 학습하는 것.
• 협업 랭킹과 번들 선택 모델링 설정에서 샘플 복잡도와 추정 오차에 대한 이론적 보장을 제공하는 것.
• 추정 오차에 대한 상한과 하한을 일치시킴으로써 제안된 볼록 relaxation 방법의 최소 최대 최적성을 확립하는 것.

제안 방법

• MNL 모델을 사용하여 순서형 관측에서 낮은 질서 행렬 복원 문제를 공식화하는 것.
• 노출된 선호도로부터 낮은 질서 선호 행렬을 추정하기 위해 핵노름 최소화의 볼록 relaxation을 적용하는 것.
• MNL 모델의 랜덤 유틸리티 모델(RUM) 해석을 활용하여 추정 오차에 대한 이론적 한계를 도출하는 것.
• 행과 열의 합의 편차를 제어하기 위해 농도 불등식(Hoeffding의 및 Levy의)을 사용하는 것.
• 프로베니우스 노름이 제어되고 항목 값이 유계인 행렬의 집합을 구성하여 추정 오차에 대한 하한을 유도하는 것.
• McDiarmid의 부등식을 사용하여 모델 가정 하에 추정 행렬이 진짜 행렬 주위에 고확률로 집중됨을 증명하는 것.

실험 결과

연구 질문

• RQ1 핵노름 최소화의 볼록 relaxation이 순서형 데이터로부터 협업 선호 학습에서 최소 최대 최적의 추정 오차를 달성할 수 있는가?
• RQ2 제안된 볼록 relaxation 방법의 유한 샘플 오차율은 협업 랭킹과 번들 선택 모델링에서 어떻게 되는가?
• RQ3 낮은 질서 선호 모델에서 샘플 복잡도는 사용자 수, 아이템 수 및 질서 수에 따라 어떻게 스케일링되는가?
• RQ4 제안된 방법이 협업 랭킹과 번들 선택 설정 모두에서 정보 이론적 하한선에 도달할 수 있는가?
• RQ5 RUM 해석은 순서 샘플링 하에서 MNL 모델의 엄밀한 이론 분석을 가능하게 하는 데 어떤 역할을 하는가?

주요 결과

• 제안된 볼록 relaxation 방법은 협업 랭킹과 번들 선택 모델링 모두에서 최소 최대 최적성을 달성하며, 정보 이론적 하한선에 로그 인자까지 일치한다.
• 추정기의 유한 샘플 오차 한계는 $ O\left(\sqrt{\frac{r(d_1 + d_2)}{n}} \log^{3/2}(d_1 d_2)\right) $ 로 상한이 제시되며, 여기서 $ r $ 은 질서, $ d_1, d_2 $ 는 차원, $ n $ 은 관측 수이다.
• 일치하는 정보 이론적 하한선이 확립되어, 제안된 방법보다 더 나은 오차율을 달성할 수 있는 추정기는 존재하지 않음을 보여준다. 다만 로그 인자 정도의 오차만 존재할 수 있다.
• 분석을 통해 두 개의 서로 다른 모델 매개변수 간 프로베니우스 노름의 차이는 높은 확률로 $ \frac{1}{2}\delta $ 이상임을 증명하여, 샘플링 메커니즘 하에서 모델의 구별 가능성을 확인한다.
• 이전 연구가 쌍별 비교에 국한된 것과 달리, 본 방법은 일반적인 샘플링 모델을 다룰 수 있어 확장성을 확보한다.
• 랜덤 행렬에 대한 농도 불등식과 MNL 모델의 RUM 해석을 사용하여 이론적 보장을 도출하였으며, 이는 추정 오차를 엄밀하게 제어할 수 있도록 한다.