[논문 리뷰] Learning from Comparisons and Choices

Sahand Negahban, Sewoong Oh외 2명|arXiv (Cornell University)|2017. 04. 24.

Recommender Systems and Techniques참고 문헌 89인용 수 12

한 줄 요약

이 논문은 사용자 선택 및 비교 데이터로부터 다중군집 로짓(MultiNomial Logit, MNL) 모델 파라미터를 학습하기 위한 볼록 근사화 방법을 제안하며, 추천을 위한 협업적 표현 학습을 가능하게 한다. 이는 로그 인자까지의 최소최대 최적성(minimax optimality)을 확립하고, 샘플링 그래프의 구조가 추정 정확도에 미치는 영향을 규명하여 설문 조사 설계 지침을 제공한다.

ABSTRACT

When tracking user-specific online activities, each user's preference is revealed in the form of choices and comparisons. For example, a user's purchase history is a record of her choices, i.e. which item was chosen among a subset of offerings. A user's preferences can be observed either explicitly as in movie ratings or implicitly as in viewing times of news articles. Given such individualized ordinal data in the form of comparisons and choices, we address the problem of collaboratively learning representations of the users and the items. The learned features can be used to predict a user's preference of an unseen item to be used in recommendation systems. This also allows one to compute similarities among users and items to be used for categorization and search. Motivated by the empirical successes of the MultiNomial Logit (MNL) model in marketing and transportation, and also more recent successes in word embedding and crowdsourced image embedding, we pose this problem as learning the MNL model parameters that best explain the data. We propose a convex relaxation for learning the MNL model, and show that it is minimax optimal up to a logarithmic factor by comparing its performance to a fundamental lower bound. This characterizes the minimax sample complexity of the problem, and proves that the proposed estimator cannot be improved upon other than by a logarithmic factor. Further, the analysis identifies how the accuracy depends on the topology of sampling via the spectrum of the sampling graph. This provides a guideline for designing surveys when one can choose which items are to be compared. This is accompanied by numerical simulations on synthetic and real data sets, confirming our theoretical predictions.

연구 동기 및 목표

• 선택 및 비교와 같은 순서형 데이터로부터 사용자 및 아이템 표현의 협업 학습을 다루기 위해.
• 마케팅, 교통 및 임bedding 작업에서 경험적으로 성공한 다중군집 로짓(MultiNomial Logit, MNL) 프레임워크를 사용하여 사용자 선호도를 모델링하기 위해.
• 통계적으로 최적(로그 인자까지)인 MNL 파라미터 추정을 위한 볼록 근사화를 개발하기 위해.
• 문제의 최소최대 샘플 복잡도를 특성화하고, 샘플링 그래프의 스펙트럼 성질이 추정 정확도에 미치는 영향을 규명하기 위해.
• 샘플링 그래프의 스펙트럼 성질 분석을 통해 설문 조사 설계 원칙을 제공하기 위해.

제안 방법

• 저자들은 사용자 선택 및 쌍별 비교에서 관측된 데이터로부터 MNL 모델 파라미터 추정 문제를 수립한다.
• 효율적이고 안정적인 최적화를 가능하게 하기 위해 MNL 우도 최대화 문제의 볼록 근사화를 도입한다.
• 샘플링 그래프(어느 항목이 비교되는지를 나타냄)의 스펙트럼 성질을 활용하여 추정 오차와 샘플 복잡도를 분석한다.
• 이론적 분석을 통해 최소최대 하한을 유도하고, 제안된 추정기법이 이 하한을 로그 인자까지 달성함을 보여준다.
• 학습 정확도에 영향을 주는 샘플링 설계를 정량화하기 위해 그래프 라플라시안과 스펙트럼 간격 고려를 통합한다.
• 합성 및 실세계 데이터셋에서의 수치 실험을 통해 이론적 결과를 검증하고, 다양한 샘플링 구조에서의 강건한 성능을 입증한다.

실험 결과

연구 질문

• RQ1 선택 및 비교 데이터로부터 MNL 모델 파라미터를 학습하는 데 있어 기본적인 통계적 한계(최소최대 샘플 복잡도)는 무엇인가?
• RQ2 샘플링 그래프의 구조—즉, 어떤 항목이 비교되는지—는 MNL 파라미터 추정 정확도에 어떻게 영향을 미치는가?
• RQ3 MNL 우도의 볼록 근사화가 로그 인자까지 최소최대 최적성을 달성할 수 있는가?
• RQ4 두 번째로 작은 고유값(대칭 연결성, algebraic connectivity)과 같은 샘플링 그래프의 스펙트럼 성질은 추정 오차에 어느 정도 영향을 미치는가?
• RQ5 샘플링 그래프의 구조를 기반으로 설문 조사 설계를 어떻게 최적화하여 선호도 학습 성능을 향상시킬 수 있는가?

주요 결과

• 제안된 MNL 파라미터 추정을 위한 볼록 근사화는 로그 인자까지 최소최대 최적성을 확보하여 통계적으로 거의 최적임을 입증한다.
• 추정 오차는 샘플링 그래프의 스펙트럼 간격에 의존하며, 더 큰 간격은 빠른 수렴과 향상된 정확도를 초래한다.
• 문제의 최소최대 하한을 도출하여, 제안된 방법을 초월해 유의미하게 성능을 높일 수 있는 추정기는 존재하지 않음을 보여주며, 오직 로그 인자 정도의 차이만 존재한다.
• 수치 시뮬레이션은 그래프 구조에 따른 오차 의존성에 대한 이론적 예측이 실질적으로도 성립함을 확인하며, 특히 합성 및 실세계 데이터셋에서 뚜렷하게 나타난다.
• 분석을 통해 샘플링 그래프의 스펙트럼 성질을 최적화하는 비교 집합을 선택함으로써 설문 조사 설계의 체계적 지침을 제공한다.