[論文レビュー] Parallel Algorithms for Select and Partition with Noisy Comparisons

Mark Braverman, Jieming Mao+1 more|arXiv (Cornell University)|Mar 16, 2016

Complexity and Algorithms in Graphs参考文献 2被引用数 6

ひとこと要約

本稿では、ノイズあり、消去あり、ノイズなしの比較モデルにおける選択（Select）および分割（Partition）問題の並列アルゴリズムを提示し、総比較回数と誤り（誤って配置された要素）の間の最適なトレードオフを1ラウンドおよび複数ラウンドで達成している。一致する上界と下界を提示し、$ dn $ 回の比較を行う1ラウンドのアルゴリズムが、それぞれのモデルで高確率で $ O(n/d) $、$ O(n/(d\gamma)) $、$ O(n/(d\gamma^2)) $ 個の誤りを犯すことを示している。また、重み付き誤差測度への拡張も行っている。

ABSTRACT

We consider the problem of finding the $k^{th}$ highest element in a totally ordered set of $n$ elements (select), and partitioning a totally ordered set into the top $k$ and bottom $n-k$ elements (partition) using pairwise comparisons. Motivated by settings like peer grading or crowdsourcing, where multiple rounds of interaction are costly and queried comparisons may be inconsistent with the ground truth, we evaluate algorithms based both on their total runtime and the number of interactive rounds in three comparison models: noiseless (where the comparisons are correct), erasure (where comparisons are erased with probability $1-γ$), and noisy (where comparisons are correct with probability $1/2+γ/2$ and incorrect otherwise). We provide numerous matching upper and lower bounds in all three models. Even our results in the noiseless model, which is quite well-studied in the TCS literature on parallel algorithms, are novel.

研究の動機と目的

• 比較が誤りまたは消去される可能性があるノイズあり比較モデル下でのSelectおよびPartitionの効率的並列アルゴリズムの設計。
• 相互作用のラウンド数が高コストである（例：クラウドソーシングやピアレビューなど）環境において、総実行時間（比較回数）とラウンド複雑度のトレードオフの分析。
• ノイズなし、消去、ノイズありの3つの比較モデルにおいて、1ラウンドおよび複数ラウンドのアルゴリズムについて、誤り数（誤って配置された要素）のタイトな上界と下界を確立すること。
• 重み付き誤差測度（例：$ \text{WRONG}_i \cdot |i-k|^c $ の和）への分析を拡張し、定数倍の誤差範囲内で同じ境界が成り立つことを示すこと。
• 誤りが真の分割閾値 $ k $ からの距離に応じて重み付けされる場合でも、同じアルゴリズムと下界が最適であることを示すこと。

提案手法

• ノイズなし、消去、ノイズありの3つの比較モデルそれぞれに対して、誤りを最小限に抑えるために $ dn $ 回の比較を用いる確率的1ラウンドアルゴリズムを提案。
• 比較結果をモデル化するための補助変数 $ p(i) $ と $ q(i) $ を用いる確率的解析を行い、$ p(i) $ は正しい比較の回数を、$ q(i) $ はノイズや消去によるずれを表す。
• 集中不等式（MarkovとBerry-Esseen）を用いて、期待値からあまりに逸脱する比較が多すぎる確率を抑え、高確率で正しく動作することを保証。
• 観測された比較結果 $ S $ に条件づけ、特にノイズありモデルにおける要素の誤分類確率を条件付き確率で評価。
• 反集中不等式を用いて、有利な条件下でも正しく分類される確率が1から離れていることを示し、タイトな下界を確立。
• 複数ラウンドのアルゴリズムへの拡張を行い、$ O(n^{1/2+\varepsilon} \text{poly}(\log n)) $ 個の誤りを犯す2ラウンドアルゴリズムを設計。また、3ラウンドアルゴリズムでは高確率で0個の誤りを達成する。

実験結果

リサーチクエスチョン

• RQ1 ノイズあり比較下でのPartition問題において、1ラウンドアルゴリズムの比較回数と誤り数の最適なトレードオフは何か？
• RQ2 消去モデルおよびノイズありモデル下での1ラウンドアルゴリズムにおいて、誤り率 $ \gamma $ は誤り数にどのように影響するか？
• RQ3 同じアルゴリズムフレームワークが、ノイズなし、消去、ノイズありの3つの比較モデルすべてで一致する上界と下界を達成できるか？
• RQ4 重み付き誤差測度（例：$ \text{WRONG}_i \cdot |i-k|^c $ の和）は、境界の最適性にどのように影響するか？
• RQ5 複数ラウンドのアルゴリズムは、総比較回数とラウンド数を最小限に抑えつつ、高確率で0個の誤りを達成できるか？

主な発見

• ノイズなしモデルでは、$ dn $ 回の比較を用いる1ラウンドアルゴリズムが高確率で $ O(n/d) $ 個の誤りを犯し、この境界は定数倍の範囲でタイトである。
• 消去モデルでは、$ dn $ 回の比較を用いる1ラウンドアルゴリズムが高確率で $ O(n/(d\gamma)) $ 個の誤りを犯し、これは漸近的に最適である。
• ノイズありモデルでは、$ dn $ 回の比較を用いる1ラウンドアルゴリズムが高確率で $ O(n/(d\gamma^2)) $ 個の誤りを犯し、この境界もタイトである。
• すべての1ラウンドアルゴリズムは一致する下界に達している：$ dn $ 回の比較を用いる任意のアルゴリズムは、それぞれのモデルで期待値として $ \Omega(n/d) $、$ \Omega(n/(d\gamma)) $、$ \Omega(n/(d\gamma^2)) $ 個の誤りを犯さなければならない。
• 同じアルゴリズムと下界は、任意の $ c \geq 0 $ に対して $ \sum \text{WRONG}_i \cdot |i-k|^c $ のような重み付き誤差測度へも拡張可能であり、定数倍の誤差範囲内で成り立つ。
• 複数ラウンドのアルゴリズムに関しては、$ n/\varepsilon $ 回の比較を用いる2ラウンドアルゴリズムが高確率で $ O(n^{1/2+\varepsilon} \text{poly}(\log n)) $ 個の誤りを犯し、3ラウンドアルゴリズムでは高確率で0個の誤りを達成する。比較回数は $ O(n \cdot \text{poly}(\log n)) $ である。