[論文レビュー] Hitting the High Notes: Subset Selection for Maximizing Expected Order Statistics

Aranyak Mehta, Uri Nadav+2 more|arXiv (Cornell University)|Dec 14, 2020

Auction Theory and Applications被引用数 8

ひとこと要約

この論文は、n個の独立な確率変数のうちk個を選択できる制約のもとで、期待される最大値または2番目に大きな値を最大化するサブセット選択を研究する。期待最大値を最大化するためのPTASを提示し、プラント・クリーク予想に基づく強い近似不能性を第二位の値に関して証明し、MHR分布に従う変数に対しては、1/√k分位数に基づく単純なスコアベースルールが、両目的に対して同時に定数倍近似を達成することを示している。

ABSTRACT

We consider the fundamental problem of selecting $k$ out of $n$ random variables in a way that the expected highest or second-highest value is maximized. This question captures several applications where we have uncertainty about the quality of candidates (e.g. auction bids, search results) and have the capacity to explore only a small subset due to an exogenous constraint. For example, consider a second price auction where system constraints (e.g., costly retrieval or model computation) allow the participation of only $k$ out of $n$ bidders, and the goal is to optimize the expected efficiency (highest bid) or expected revenue (second highest bid). We study the case where we are given an explicit description of each random variable. We give a PTAS for the problem of maximizing the expected highest value. For the second-highest value, we prove a hardness result: assuming the Planted Clique Hypothesis, there is no constant factor approximation algorithm that runs in polynomial time. Surprisingly, under the assumption that each random variable has monotone hazard rate (MHR), a simple score-based algorithm, namely picking the $k$ random variables with the largest $1/\sqrt{k}$ top quantile value, is a constant approximation to the expected highest and second highest value, \emph{simultaneously}.

研究の動機と目的

• 外生的容量制約のもとで、n個の確率変数の中からk個を選択し、期待される最大値または2番目に大きな値を最大化するという根本的な問題に取り組む。
• 標準的な計算仮定のもとで、期待順序統計量、特に2番目に大きな値を最大化する問題のアルゴリズム的複雑性を分析する。
• 単調ハザードレート（MHR）仮定の下で、期待最大値と2番目に大きな値の両方の期待値に対して、定数倍近似保証を達成するスコアベース選択ルールを設計・評価する。
• 合成データおよび実世界のデータ（Twitterのいいね数や正規分布のシミュレーションを含む）に対して、さまざまな選択手法（グリーディ、スコアベース、回帰／分位数モデル）の性能を評価する。

提案手法

• 確率変数が（値, 確率）ペアとして明示的に記述されている場合の期待最大値を最大化するためのPTAS（多項式時間近似スキーム）を提案する。
• 近似最適性能を近線形時間で達成するために、動的計画法と離散化・丸め技術を組み合わせる。
• 期待最大値と2番目に大きな値の両方に対して定数倍近似を達成するスコアベースアルゴリズムを導入し、k個の変数のうち1/√k分位数の値が最大のものを選択する。MHR仮定のもとで、このルールは両目的に対して有効である。
• モンテカルロサンプルを用いて真の期待最大値と2番目に大きな値を測定することで、合成データ（さまざまなサンプルサイズの正規分布）および実世界のTwitterデータに対して実験的評価を実施する。
• ツイートの特徴表現を用いてKerasとTensorFlowで回帰および分位数モデルを学習し、予測されたいいね数に基づいてk個の候補をランク付け・選択する。
• KR法を適用し、分位数予測に基づいて候補をフィルタリングし、残りのデータで学習を行い、ホールドアウトされたテストチャンクで性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 期待最大値をサブセット選択で最大化する多項式時間アルゴリズムで、(1+ε)-近似保証を達成できるか？
• RQ2 標準的な計算複雑性仮定のもとで、期待2番目に大きな値に対して定数倍近似を達成することは可能か？
• RQ3 MHR分布に従う変数に対して、1/√k分位数に基づく単純なスコアベースルールが、期待最大値と2番目に大きな値の両方に対して定数倍近似を達成できるか？
• RQ4 合成データおよび実世界データにおいて、回帰、分位数予測、KR法といったスコアベース手法が、期待順序統計量の最大化において実際にはどのように比較されるか？

主な発見

• 期待最大値を最大化するためのPTASは存在し、近線形時間で実行可能であり、変数間の明示的相互作用がスコアベースルールよりも良い保証を可能にすることを示している。
• プラント・クリーク予想に基づくと、期待2番目に大きな値を最大化するための定数倍近似アルゴリズムは多項式時間で実行不可能であり、強い非可解性を示している。
• MHR分布に従う確率変数に対しては、1/√k分位数に基づくスコアベースルールが、期待最大値と2番目に大きな値の両方に対して同時に定数倍近似を達成する。
• 実験的評価により、分位数法とKR法が、合成データおよびTwitterデータにおいて、単純な回帰法やグリーディ選択よりも、期待最大値と2番目に大きな値の両方を高めるサブセット選択で優れていることが示された。
• Twitterデータでは、分位数法が、少ないサンプル数のデータ（小規模データ）をより高い割合で選択しながらも、高い期待性能を維持しており、データ品質のばらつきに対して頑健であることが示唆された。
• 分位数予測に基づいて候補をフィルタリングするKR法は、高い性能を達成し、高分散・低分散の両方の候補をバランスよく選択しており、ベースライン手法に比べて期待最大値と2番目に大きな値の両方を向上させた。