[论文解读] Access to Data and Number of Iterations: Dual Primal Algorithms for Maximum Matching under Resource Constraints

Kook Jin Ahn, Sudipto Guha|arXiv (Cornell University)|Jul 16, 2013

Stochastic Gradient Optimization Techniques参考文献 11被引用 17

一句话总结

本文提出了一种双对偶算法，用于在亚线性空间和有限数据访问条件下，计算加权非二分图最大匹配的 (1−ε)-近似解，采用 O(p/ε) 次自适应草图轮次和 O(n^{1+1/p}) 的集中式空间。该方法结合线性草图与松弛的 Dantzig-Wolfe 分解及基于惩罚项的线性松弛，以减少迭代依赖性，从而实现在类似 MapReduce 的模型中高效实现，并具备可证明的近似保证。

ABSTRACT

In this paper we consider graph algorithms in models of computation where the space usage (random accessible storage, in addition to the read only input) is sublinear in the number of edges $m$ and the access to input data is constrained. These questions arises in many natural settings, and in particular in the analysis of MapReduce or similar algorithms that model constrained parallelism with sublinear central processing. In SPAA 2011, Lattanzi etal. provided a $O(1)$ approximation of maximum matching using $O(p)$ rounds of iterative filtering via mapreduce and $O(n^{1+1/p})$ space of central processing for a graph with $n$ nodes and $m$ edges. We focus on weighted nonbipartite maximum matching in this paper. For any constant $p>1$, we provide an iterative sampling based algorithm for computing a $(1-ε)$-approximation of the weighted nonbipartite maximum matching that uses $O(p/ε)$ rounds of sampling, and $O(n^{1+1/p})$ space. The results extends to $b$-Matching with small changes. This paper combines adaptive sketching literature and fast primal-dual algorithms based on relaxed Dantzig-Wolfe decision procedures. Each round of sampling is implemented through linear sketches and executed in a single round of MapReduce. The paper also proves that nonstandard linear relaxations of a problem, in particular penalty based formulations, are helpful in mapreduce and similar settings in reducing the adaptive dependence of the iterations.

研究动机与目标

• 设计一种在受限数据访问条件下，针对加权非二分图最大匹配的亚线性空间算法，尤其适用于类似 MapReduce 的模型。
• 在不将整个图存储于中心内存的情况下，实现最大匹配的 (1−ε)-近似解。
• 通过引入非标准的基于惩罚项的线性松弛，减少迭代算法的自适应依赖性。
• 通过每轮迭代仅使用一次 MapReduce 阶段的线性草图，实现高效实现。
• 将该方法扩展至 b-匹配，且算法结构仅需最小修改。

提出的方法

• 该算法在多轮中使用自适应草图，每轮通过线性草图采样边，以保持图的稀疏表示。
• 应用松弛的 Dantzig-Wolfe 分解，将对偶问题简化为更简单的子问题，从而实现高效的原始-对偶更新。
• 引入基于惩罚项的线性松弛，以减少约束数量并限制迭代依赖的深度。
• 利用基于最小奇割近似和 Gomory-Hu 树构造的离散化奇集检测过程，识别密集奇集。
• 每轮迭代通过一次边遍历实现，使用 O(nε⁻²) 空间和 O(m + n·poly(ε⁻¹, log n)) 时间维护对偶和原始估计。
• 该算法确保任何满足 ||U||_b > 4/ε 的奇集，其总对偶盈余至少为 1，有助于控制误差并确保收敛。

实验结果

研究问题

• RQ1 能否在亚线性空间和 O(p/ε) 次自适应轮次下，计算加权非二分图匹配的 (1−ε)-近似解？
• RQ2 在 MapReduce 模型中，面对数据访问和空间限制时，如何分析和优化迭代算法？
• RQ3 非标准的线性松弛（如基于惩罚项的公式）能否减少原始-对偶方法中的自适应迭代次数？
• RQ4 在受限模型中，为实现高精度匹配，轮次数量与空间使用量之间的权衡是什么？
• RQ5 该方法能否通过最小修改扩展至 b-匹配？

主要发现

• 该算法通过 O(p/ε) 次自适应草图轮次和 O(n^{1+1/p}) 的集中式空间，实现了对加权非二分图最大匹配的 (1−ε)-近似解，其中常数 p>1 且 ε>0。
• 通过聚焦于有界大小的奇集，将线性规划松弛的约束数从 2ⁿ 减少至 n^{O(1/ε)}，使问题变得可处理。
• 通过使用基于惩罚项的松弛和线性草图，该算法限制了迭代的自适应依赖性，使得每轮均可在单个 MapReduce 阶段内实现。
• 该算法确保任何满足 ||U||_b > 4/ε 的奇集，其总对偶盈余至少为 1，有助于控制误差并确保收敛。
• 该方法可扩展至 b-匹配，仅需少量修改，且保持轮次和空间的相同渐近界。
• 分析表明，线性规划的宽度参数是根本性障碍，现有原始-对偶方法需要 Ω(ρε⁻² log M) 次迭代，而本工作通过草图和松弛避免了这一限制。