[논문 리뷰] Actively Learning Hemimetrics with Applications to Eliciting User Preferences

Adish Singla, Sebastian Tschiatschek외 1명|arXiv (Cornell University)|2016. 05. 23.

Machine Learning and Algorithms참고 문헌 18인용 수 7

한 줄 요약

이 논문은 비대칭 헤미메트릭 거리(사용자 전환 비용을 나타냄)를 효율적으로 학습하기 위해 헤미메트릭 다면체의 구조적 제약 조건을 활용하는 활성 학습 알고리즘 LearnHM을 제안한다. 군집화된 설정에서 샘플 복잡도를 Θ(n²)에서 O(nK)로 감소시킴으로써, 증명 가능한 최적의 질의 효율성을 달성하면서 동시에 온라인 및 노이즈 있는 설정을 지원한다.

ABSTRACT

Motivated by an application of eliciting users' preferences, we investigate the problem of learning hemimetrics, i.e., pairwise distances among a set of $n$ items that satisfy triangle inequalities and non-negativity constraints. In our application, the (asymmetric) distances quantify private costs a user incurs when substituting one item by another. We aim to learn these distances (costs) by asking the users whether they are willing to switch from one item to another for a given incentive offer. Without exploiting structural constraints of the hemimetric polytope, learning the distances between each pair of items requires $Θ(n^2)$ queries. We propose an active learning algorithm that substantially reduces this sample complexity by exploiting the structural constraints on the version space of hemimetrics. Our proposed algorithm achieves provably-optimal sample complexity for various instances of the task. For example, when the items are embedded into $K$ tight clusters, the sample complexity of our algorithm reduces to $O(n K)$. Extensive experiments on a restaurant recommendation data set support the conclusions of our theoretical analysis.

연구 동기 및 목표

• 추천 시스템에서 비대칭 사용자 선호도 거리(헤미메트릭)를 효율적으로 학습하는 데 도전한다.
• 헤미메트릭 다면체의 구조적 제약 조건을 활용하여 쌍별 거리 학습의 샘플 복잡도를 Θ(n²)에서 감소시킨다.
• 최소한의 상호작용으로 사용자 전환 비용을 추론하기 위해 이진 피드백 질의를 사용하는 활성 학습 프레임워크를 개발한다.
• 실제 구현 조건을 반영하기 위해 온라인 및 노이즈 있는 설정으로 방법을 확장한다.
• 다양한 문제 인스턴스에 대해 학습된 경계의 샘플 복잡도와 최적성에 대한 이론적 보장을 제공한다.

제안 방법

• 비음성 및 삼각 부등식 제약 조건을 만족하는 헤미메트릭 D*를 학습하는 문제로 문제를 수립한다.
• 이진 질의를 사용: 항목 i, j와 인centive c가 주어지면, 사용자가 c ≥ D*i,j 라면 긍정적으로 응답함으로써 활성 학습이 가능해진다.
• 알 수 없는 헤미메트릭에 대한 하한 L^t과 상한 U^t을 유지하며, 투영 연산을 통해 반복적으로 개선한다.
• L-Proj 및 U-Proj 알고리즘을 적용하여 헤미메트릭 제약 조건을 만족하는 최적의 하한 및 상한 행렬을 계산한다.
• 헤미메트릭 다면체의 구조를 활용하여 전체 n²개의 쌍을 질의하지 않고도 정보가 풍부한 질의에 집중한다.
• 모순을 통한 최적성 증명을 통해 L^t과 U^t이 제약 최적화 문제의 유일한 해임을 보여준다.

실험 결과

연구 질문

• RQ1 구조적 제약 조건을 활용하여 헤미메트릭 거리 학습의 샘플 복잡도를 Θ(n²) 이하로 낮출 수 있는가?
• RQ2 항목이 K개의 밀집된 군집으로 구성되어 있을 때, 헤미메트릭을 학습하는 이론적 샘플 복잡도는 얼마인가?
• RQ3 비대칭적이고 비메트릭 거리 제약 조건 하에서 최적의 질의 효율성을 유지하는 활성 학습 알고리즘을 어떻게 설계할 수 있는가?
• RQ4 제안된 방법은 항목이 순차적으로 도착하는 온라인 설정으로 확장될 수 있는가?
• RQ5 실제 구현 환경에서 노이즈 있는 사용자 응답에 대해 알고리즘이 얼마나 강건한가?

주요 결과

• 제안된 LearnHM 알고리즘은 항목이 K개의 밀집된 군집으로 구성되어 있을 경우 샘플 복잡도가 O(nK)로 감소하여 기존의 Θ(n²) 기준보다 크게 향상된다.
• 이론적 분석을 통해 LU-Proj가 반환하는 하한 및 상한 행렬 L^t과 U^t이 각각의 제약 최적화 문제에 대해 유일한 최적 해임을 증명한다.
• 군집화된 설정과 일반적인 헤미메트릭 설정을 포함한 다양한 자연스러운 문제 인스턴스에서 알고리즘이 증명 가능한 최적 샘플 복잡도를 유지한다.
• 레스토랑 추천 데이터셋에 대한 실증 평가 결과 이론적 성과가 실질적으로도 확인되었으며, 실질적인 질의 요구량 감소를 입증한다.
• 알고리즘은 온라인 및 노이즈 있는 설정으로 자연스럽게 확장되며, 현실적인 사용자 피드백 조건에서도 효율성과 정확성을 유지한다.