[論文レビュー] Ordered Submodularity and its Applications to Diversifying Recommendations

Jon Kleinberg, Emily Ryu+1 more|arXiv (Cornell University)|Mar 1, 2022

Multi-Criteria Decision Making被引用数 7

ひとこと要約

本論文は、アイテムの順序が価値に影響を与える順序付き最適化問題（例：コンテンツ推薦）に拡張された新しい形式的枠組み「順序付きサブモジュラリティ」を導入する。グリーディアルゴリズムが順序付きサブモジュラ関数に対して2-近似解を提供することを証明し、タイトな境界を確立することで、ランク付けと多様性のタスクにおける近似保証を可能にする。

ABSTRACT

A fundamental task underlying many important optimization problems, from influence maximization to sensor placement to content recommendation, is to select the optimal group of $k$ items from a larger set. Submodularity has been very effective in allowing approximation algorithms for such subset selection problems. However, in several applications, we are interested not only in the elements of a set, but also the order in which they appear, breaking the assumption that all selected items receive equal consideration. One such category of applications involves the presentation of search results, product recommendations, news articles, and other content, due to the well-documented phenomenon that humans pay greater attention to higher-ranked items. As a result, optimization in content presentation for diversity, user coverage, calibration, or other objectives more accurately represents a sequence selection problem, to which traditional submodularity approximation results no longer apply. Although extensions of submodularity to sequences have been proposed, none is designed to model settings where items contribute based on their position in a ranked list, and hence they are not able to express these types of optimization problems. In this paper, we aim to address this modeling gap. Here, we propose a new formalism of ordered submodularity that captures these ordering problems in content presentation, and more generally a category of optimization problems over ranked sequences in which different list positions contribute differently to the objective function. We analyze the natural ordered analogue of the greedy algorithm and show that it provides a $2$-approximation. We also show that this bound is tight, establishing that our new framework is conceptually and quantitatively distinct from previous formalisms of set and sequence submodularity.

研究の動機と目的

• アイテムの順序が価値に顕著に影響を与える問題（例：順位付けされたコンテンツ推薦）におけるサブモジュラ最適化のギャップを埋める。
• ユーザーが上位に表示されたアイテムに注目を寄せるという現実のユーザー行動を、位置効果を考慮した形式的枠組みでモデル化する。
• サブモジュラリティを順序付きデータに一般化しつつ、近似保証を維持する新しい関数クラス「順序付きサブモジュラ関数」を構築する。
• 順序付き選択問題におけるグリーディ最適化の理論的性能境界を、特に推薦システムにおけるカバレッジとキャリブレーションの観点から提供する。
• 従来のサブモジュラリティが順序依存性のため失敗する状況においても、近似アルゴリズムが利用可能な形式的フレームワークを確立する。

提案手法

• 順序付きサブモジュラリティを、各位置が目的関数に異なる寄与をもたらす順序付きリストにおける逓減効果を捉える形式的枠組みとして提案する。
• グリーディアルゴリズムを、各ステップでその位置におけるマージナルゲインが最大となるアイテムを順次追加する、順序構造を尊重する順序付き選択のためのアルゴリズムとして定式化する。
• 目的関数を、特定の位置に配置されたアイテムの寄与の和として定式化し、その寄与はアイテムとそのリスト内順位の両方に依存する。
• 重なり測度を凹関数（例：$ f(x) = x^\alpha $）に基づいて導入し、キャリブレーションをモデル化することで、順序付きサブモジュラリティを保証するとともに、推薦システムにおける実用的応用を可能にする。
• 新しい順序構造に特化した分析手法を用いて、グリーディアルゴリズムがすべての順序付きサブモジュラ関数に対して2-近似解を達成することを証明する。
• カバレッジ問題の構築例を用いて、この2-近似境界がタイトであることを示し、従来の集合および順序付きサブモジュラリティ形式と区別する。

実験結果

リサーチクエスチョン

• RQ1 アイテムの順序が価値に影響を与える順序付き選択問題に拡張可能な形式的枠組みを開発することは可能か？
• RQ2 新形式下で順序付きシーケンスの最適化において、グリーディアルゴリズムが定数因子近似保証を提供するか？
• RQ3 順序付きサブモジュラ関数最大化における2-近似境界はタイトか？ また、既存のサブモジュラリティフレームワークと比較してどのように異なるか？
• RQ4 新形式は、順位付けされたリストにおける多様性（カバレッジ）とキャリブレーション（ユーザー好みとの重なり）といった実用的推薦問題をモデル化可能か？
• RQ5 品質とキャリブレーションを同時に最適化する際、近似保証を維持しながら順序付きサブモジュラフレームワークで実現可能か？

主な発見

• 提示された順序付きサブモジュラリティの枠組みは、コンテンツ推薦などの順位付きリストにおけるアイテム順序が価値に影響を与える最適化問題を効果的にモデル化できる。
• 順序付きサブモジュラ関数最大化のためのグリーディアルゴリズムは2-近似解を達成するが、カバレッジ問題の構築例により、この境界がタイトであることが示された。
• 位置依存の寄与を組み込むことで、サブモジュラリティを順序付きデータに一般化し、ランク付けと多様性タスクにおける新たな近似保証を可能にする。
• 重なり測度に基づく広範なキャリブレーションヒューリスティクス（例：$ G(p,q) = \sum_{x\in\Omega} p(x)^{1-\alpha} q(x)^\alpha $）が順序付きサブモジュラであることが示され、推薦システムにおける実用的応用を支援する。
• 品質とキャリブレーションの指標を重み付き和で組み合わせることで、順序付きサブモジュラリティが保持され、ハイブリッド目的関数に対しても同じ2-近似保証が得られる。
• 実験結果から、グリーディアルゴリズムはキャリブレーション問題においてほぼ最適に動作することが示唆されるが、理論的近似要因2は最悪ケースにおいて依然としてタイトである。