[论文解读] Greedy can also beat pure dynamic programming

Stasys Jukna, Hannes Seiwert|arXiv (Cornell University)|Jan 1, 2018

Advanced Graph Theory Research参考文献 15被引用 1

一句话总结

本文证明，对于最小权值生成树问题，纯动态规划（DP）算法至少需要 $2^{\Omega(n)}$ 次操作，而克鲁斯卡尔的贪心算法可在 $O(n^2\log n)$ 时间内解决该问题。该结果表明，贪心算法与纯DP算法具有不可比较的计算能力，因为每种算法都能高效处理对方无法高效处理的问题。

ABSTRACT

Many dynamic programming algorithms are in that they only use min or max and addition operations in their recursion equations. The well known greedy algorithm of Kruskal solves the minimum weight spanning tree problem on $n$-vertex graphs using only $O(n^2\log n)$ operations. We prove that any pure DP algorithm for this problem must perform $2^{\Omega(n)}$ operations. Since the greedy algorithm can also badly fail on some optimization problems, easily solvable by pure DP algorithms, our result shows that the computational powers of these two types of algorithms are incomparable.

研究动机与目标

• 分析纯动态规划算法在最小权值生成树（MST）问题上的计算复杂度。
• 比较克鲁斯卡尔等贪心算法与同一问题上的纯DP方法在效率上的差异。
• 在理论层面建立贪心算法与纯DP算法计算能力之间的分离。
• 证明纯DP算法在解决MST问题时本质上需要指数时间，尽管存在高效的贪心解法。

提出的方法

• 本文分析了纯DP算法中递归方程的结构，限制其仅使用最小值/最大值和加法运算。
• 基于纯DP递归方程的表达能力局限性，构建了一个下界论证。
• 通过组合与信息论推理，证明任何纯DP算法都必须探索指数数量的状态。
• 该分析与克鲁斯卡尔的贪心算法形成对比，后者利用简单的局部选择规则高效构造MST。
• 本文将“纯DP”形式化定义为仅在其递推关系中依赖最小值、最大值和加法运算的算法。

实验结果

研究问题

• RQ1 纯动态规划算法能否在多项式时间内解决最小权值生成树问题？
• RQ2 当纯DP算法被限制仅使用最小值、最大值和加法运算时，其固有的计算复杂度是什么？
• RQ3 在MST问题上，克鲁斯卡尔等贪心算法与纯DP在时间复杂度上的效率如何比较？
• RQ4 是否存在贪心算法失败而纯DP成功的问题，反之亦然？

主要发现

• 纯动态规划算法求解最小权值生成树问题至少需要 $2^{\Omega(n)}$ 次操作。
• 克鲁斯卡尔的贪心算法在 $O(n^2\log n)$ 时间内解决MST问题，远优于纯DP的指数下界。
• 贪心算法与纯DP算法的计算能力不可比较：每种算法都能高效解决对方无法高效处理的问题。
• 在纯DP算法仅使用最小值、最大值和加法运算的限制下，该结果依然成立。