[논문 리뷰] Ordered Submodularity and its Applications to Diversifying Recommendations

Jon Kleinberg, Emily Ryu외 1명|arXiv (Cornell University)|2022. 03. 01.

Multi-Criteria Decision Making인용 수 7

한 줄 요약

이 논문은 순서 기반 문제, 즉 항목의 위치가 가치에 영향을 미치는 문제(예: 콘텐츠 추천)로의 서브모듈러 최적화 확장을 위한 새로운 형식적 체계인 순서 기반 서브모듈러리티를 제안한다. 이는 탐욕 알고리즘이 순서 기반 서브모듈러 함수에 대해 2-근사값을 제공함을 증명하며, 이는 날카로운 경계를 확립하고 랭킹 및 다양성 최적화 작업에 대한 근사 보장을 가능하게 한다.

ABSTRACT

A fundamental task underlying many important optimization problems, from influence maximization to sensor placement to content recommendation, is to select the optimal group of $k$ items from a larger set. Submodularity has been very effective in allowing approximation algorithms for such subset selection problems. However, in several applications, we are interested not only in the elements of a set, but also the order in which they appear, breaking the assumption that all selected items receive equal consideration. One such category of applications involves the presentation of search results, product recommendations, news articles, and other content, due to the well-documented phenomenon that humans pay greater attention to higher-ranked items. As a result, optimization in content presentation for diversity, user coverage, calibration, or other objectives more accurately represents a sequence selection problem, to which traditional submodularity approximation results no longer apply. Although extensions of submodularity to sequences have been proposed, none is designed to model settings where items contribute based on their position in a ranked list, and hence they are not able to express these types of optimization problems. In this paper, we aim to address this modeling gap. Here, we propose a new formalism of ordered submodularity that captures these ordering problems in content presentation, and more generally a category of optimization problems over ranked sequences in which different list positions contribute differently to the objective function. We analyze the natural ordered analogue of the greedy algorithm and show that it provides a $2$-approximation. We also show that this bound is tight, establishing that our new framework is conceptually and quantitatively distinct from previous formalisms of set and sequence submodularity.

연구 동기 및 목표

• 순서가 가치에 상당한 영향을 미치는 문제(예: 순위 기반 콘텐츠 추천)에서 서브모듈러 최적화의 격차를 해소한다.
• 순위가 높을수록 더 많은 주목을 받는다는 실제 사용자 행동을 모델링하기 위해, 위치 효과를 고려하는 형식적 체계를 제안한다.
• 서브모듈러리티를 순서로 일반화하면서도 근사 보장을 유지하는 새로운 함수 클래스인 순서 기반 서브모듈러 함수를 개발한다.
• 순서 선택 문제에서 탐욕 최적화의 이론적 성능 한계를 제시하며, 특히 추천 시스템에서 커버리지 및 캘리브레이션에 초점을 맞춘다.
• 기존의 서브모듈러리티가 순서 의존성으로 인해 실패하는 바탕에서, 다양하고 고급 순위 기반 추천을 위한 근사 알고리즘을 가능하게 하는 형식적 프레임워크를 구축한다.

제안 방법

• 순서 기반 서브모듈러리티를 제안하여, 각 순위 위치에서 기여도가 다를 수 있는 순서 기반 함수에서 감소 수익의 특성을 포괄하는 형식적 체계를 구축한다.
• 순서의 구조를 고려하면서도 각 단계에서 가장 높은 경계 기여도를 제공하는 항목을 순차적으로 추가하는 탐욕 알고리즘을 정의한다.
• 목적 함수를 특정 순위에 위치한 항목들의 기여도의 합으로 정의하며, 기여도는 항목과 그 순위에 모두 의존한다.
• 예를 들어 $ f(x) = x^\alpha $와 같은 볼록 함수 기반의 중복 측정법을 도입하여 캘리브레이션을 모델링하며, 이는 순서 기반 서브모듈러리티를 유지하고 추천 시스템에서의 실용적 적용 가능성을 높인다.
• 순서 기반 서브모듈러 함수 전반에 대해 탐욕 알고리즘이 2-근사값을 달성함을 증명하며, 순서적 구조에 특화된 새로운 분석 기법을 사용한다.
• 커버리지 문제의 구성된 예시를 통해 이 2-근사값 경계가 날카로운지 입증하며, 이는 이전의 집합 및 순서 기반 서브모듈러리티 체계와의 차별성을 드러낸다.

실험 결과

연구 질문

• RQ1 순서가 가치에 영향을 미치는 순서 선택 문제로의 서브모듈러 최적화 확장을 가능하게 하는 형식적 체계를 개발할 수 있는가?
• RQ2 새로운 형식적 체계 하에서 순서 기반 순서 선택 최적화에 대해 탐욕 알고리즘이 일정 요소 근사 보장을 제공하는가?
• RQ3 순서 기반 서브모듈러 최대화에 대해 2-근사값 경계가 날카로운가? 기존 서브모듈러리티 프레임워크와 비교해보면 어떻게 되는가?
• RQ4 새로운 형식적 체계는 순위 기반 목록에서 다양성(커버리지)과 캘리브레이션(사용자 선호도와의 중복)과 같은 실질적인 추천 문제를 모델링할 수 있는가?
• RQ5 순서 기반 서브모듈러 프레임워크 하에서 품질과 캘리브레이션을 동시에 최적화하면서도 근사 보장을 유지할 수 있는가?

주요 결과

• 제안된 순서 기반 서브모듈러리티 프레임워크는 순위 기반 목록에서 항목의 위치가 가치에 영향을 미치는 최적화 문제(예: 콘텐츠 추천)를 성공적으로 모델링한다.
• 순서 기반 서브모듈러 최대화를 위한 탐욕 알고리즘은 2-근사값을 달성하며, 이 경계는 커버리지 문제의 구성된 예시를 통해 날카로운 것으로 입증되었다.
• 이 프레임워크는 위치에 따라 기여도가 달라지는 기여도를 통합함으로써 서브모듈러리티를 순서로 일반화하며, 랭킹 및 다양성 최적화 작업에서 새로운 근사 보장을 가능하게 한다.
• 예를 들어 $ G(p,q) = \sum_{x\in\Omega} p(x)^{1-\alpha} q(x)^\alpha $와 같은 중복 측정법에 기반한 광범위한 캘리브레이션 히우리스틱이 순서 기반 서브모듈러임이 입증되었으며, 이는 추천 시스템에서의 실용적 적용 가능성을 높인다.
• 품질과 캘리브레이션 메트릭을 가중치 합으로 조합함으로써도 순서 기반 서브모듈러리티가 유지되며, 이는 하이브리드 목표 함수에 대해 동일한 2-근사값 보장을 가능하게 한다.
• 실험 결과는 탐욕 알고리즘이 캘리브레이션 문제에서 거의 최적의 성능를 보이며, 이론적 근사 요소 2는 최악의 경우에도 날카로운 경계를 유지함을 시사한다.