[論文レビュー] Access to Data and Number of Iterations: Dual Primal Algorithms for Maximum Matching under Resource Constraints

Kook Jin Ahn, Sudipto Guha|arXiv (Cornell University)|Jul 16, 2013

Stochastic Gradient Optimization Techniques参考文献 11被引用数 17

ひとこと要約

本稿では、部分線形空間と制限されたデータアクセスの下で、(1−ε)-近似重み付き非二部マッチングを計算するためのデュアル・プライマルアルゴリズムを提示する。O(p/ε)の適応的スケッチラウンドとO(n^{1+1/p})の集中型メモリ空間を用いる。線形スケッチと緩められたDantzig-Wolfe分解およびペナルティに基づく線形緩和を組み合わせることで、反復的依存を軽減し、MapReduceに類似したモデルにおける効率的実装を可能にするとともに、明示的な近似保証を得る。

ABSTRACT

In this paper we consider graph algorithms in models of computation where the space usage (random accessible storage, in addition to the read only input) is sublinear in the number of edges $m$ and the access to input data is constrained. These questions arises in many natural settings, and in particular in the analysis of MapReduce or similar algorithms that model constrained parallelism with sublinear central processing. In SPAA 2011, Lattanzi etal. provided a $O(1)$ approximation of maximum matching using $O(p)$ rounds of iterative filtering via mapreduce and $O(n^{1+1/p})$ space of central processing for a graph with $n$ nodes and $m$ edges. We focus on weighted nonbipartite maximum matching in this paper. For any constant $p>1$, we provide an iterative sampling based algorithm for computing a $(1-ε)$-approximation of the weighted nonbipartite maximum matching that uses $O(p/ε)$ rounds of sampling, and $O(n^{1+1/p})$ space. The results extends to $b$-Matching with small changes. This paper combines adaptive sketching literature and fast primal-dual algorithms based on relaxed Dantzig-Wolfe decision procedures. Each round of sampling is implemented through linear sketches and executed in a single round of MapReduce. The paper also proves that nonstandard linear relaxations of a problem, in particular penalty based formulations, are helpful in mapreduce and similar settings in reducing the adaptive dependence of the iterations.

研究の動機と目的

• 制限されたデータアクセスの下で、部分線形空間のアルゴリズムを設計し、特にMapReduce風のモデルにおいて重み付き非二部最大マッチングを処理すること。
• 中央メモリに全グラフを格納せずに、最大マッチングの(1−ε)-近似を得ること。
• 非標準的なペナルティに基づく線形緩和を導入することで、反復的アルゴリズムの適応的依存を低減すること。
• 線形スケッチを活用し、各反復で1ラウンドのMapReduceに実装可能な効率的実装を可能にすること。
• アルゴリズムの構造に対する最小限の変更でbマッチングに拡張できること。

提案手法

• 複数ラウンドにわたる適応的スケッチを用い、各ラウンドで線形スケッチを介してエッジをサンプリングし、グラフのスパース表現を維持する。
• 双対問題を簡略化された部分問題に還元するため、緩められたDantzig-Wolfe分解を適用し、効率的なプライマル・デュアル更新を可能にする。
• 制約数を削減し、反復的依存の深さを制限するために、ペナルティに基づく線形緩和を導入する。
• 最小奇数カット近似とGomory-Huツリー構築を用いた離散化された奇数集合検出手順を活用し、密集した奇数集合を同定する。
• 各反復でエッジを1回スキャンし、O(nε⁻²)のメモリとO(m + n·poly(ε⁻¹, log n))の時間で、デュアルおよびプライマル推定値を維持する。
• 任意のbノルムが大きい奇数集合は、以前に選択された集合と交差するか、またはマッチング値が小さいため、誤差が有界であることを保証する。

実験結果

リサーチクエスチョン

• RQ1 部分線形空間とO(p/ε)の適応的ラウンドで、重み付き非二部マッチングの(1−ε)-近似解を計算可能か？
• RQ2 MapReduceモデルにおけるデータアクセス制約とメモリ制約の下で、反復的アルゴリズムをどのように分析・最適化できるか？
• RQ3 ペナルティ定式化のような非標準的な線形緩和は、プライマル・デュアル手法における適応的ラウンド数を削減できるか？
• RQ4 制約付きモデルにおける高精度マッチングを達成するための、ラウンド数とメモリ使用量のトレードオフは何か？
• RQ5 本手法は、アルゴリズム的構造への最小限の変更でbマッチングに拡張可能か？

主な発見

• 本アルゴリズムは、任意の定数p>1とε>0に対して、O(p/ε)ラウンドの適応的スケッチとO(n^{1+1/p})の集中型メモリ空間を用いて、重み付き非二部最大マッチングの(1−ε)-近似を達成する。
• 奇数集合のサイズを制限することで、LP緩和における制約数を2ⁿからn^{O(1/ε)}に削減し、問題の取り扱いやすさを向上させる。
• ペナルティに基づく緩和と線形スケッチを活用することで、反復の適応的依存を制限し、各ラウンドを1回のMapReduceフェーズに実装可能にする。
• 任意の奇数集合Uについて、||U||_b > 4/ε ならば、合計デュアル超過が少なくとも1以上であることが保証され、誤差の有界性と収束の保証に寄与する。
• bマッチングへの拡張は、わずかな変更のみで可能であり、ラウンド数とメモリ使用量の漸近的境界は同じままである。
• 解析により、LPの幅パラメータが根本的な障壁であることが示され、従来のプライマル・デュアル手法ではΩ(ρε⁻² log M)回の反復が必要であるが、本研究ではスケッチと緩和によりこれを回避する。