[论文解读] Quasiconvex analysis of backtracking algorithms

David Eppstein|arXiv (Cornell University)|Jan 11, 2004

Complexity and Algorithms in Graphs参考文献 13被引用 53

一句话总结

本文提出一种结合拟凸规划的权重函数方法，用于推导NP难问题回溯算法中常见多变量递推式的紧致渐近上界。该方法证明这些上界与真实解相差一个多项式因子，并实现了具有保证数值精度的多梯度下降算法，以计算最坏情况时间上界。

ABSTRACT

We consider a class of multivariate recurrences frequently arising in the worst case analysis of Davis-Putnam-style exponential time backtracking algorithms for NP-hard problems. We describe a technique for proving asymptotic upper bounds on these recurrences, by using a suitable weight function to reduce the problem to that of solving univariate linear recurrences; show how to use quasiconvex programming to determine the weight function yielding the smallest upper bound; and prove that the resulting upper bounds are within a polynomial factor of the true asymptotics of the recurrence. We develop and implement a multiple-gradient descent algorithm for the resulting quasiconvex programs, using a real-number arithmetic package for guaranteed accuracy of the computed worst case time bounds.

研究动机与目标

• 为解决NP难问题的戴维斯-普特南风格回溯算法中最坏情况时间复杂度的分析挑战。
• 开发一种系统化技术，用于推导此类算法中出现的复杂多变量递推式的渐近上界。
• 通过使用拟凸规划优化权重函数，最小化递推式增长的上界。
• 确保计算出的上界与递推式的真正渐近行为相差一个多项式因子。
• 实现一种使用实数算术的数值可靠算法，以确保最坏情况时间上界计算的准确性。

提出的方法

• 该方法使用权重函数将多变量递推式转化为单变量线性递推式，从而简化分析。
• 将最优权重函数的选择形式化为一个拟凸规划问题，以最小化所得上界。
• 开发了一种多梯度下降算法，以高效且保证数值精度的方式求解拟凸规划问题。
• 全程采用实数算术，以确保计算出的最坏情况时间上界具有高精度。
• 该方法将分析复杂递推关系的复杂性，简化为求解凸优化问题。
• 该方法确保所推导的上界与递推式真正渐近增长率相差一个多项式因子。

实验结果

研究问题

• RQ1 如何通过权重函数变换系统性地界定回溯算法中多变量递推式的上界？
• RQ2 何种优化技术可实现权重函数的选择，从而得到递推增长的最紧致上界？
• RQ3 拟凸规划能否有效应用于最小化指数时间算法递推式的上界？
• RQ4 所得上界与递推式真正渐近增长的接近程度如何？
• RQ5 何种数值方法可确保在实践中最坏情况时间上界计算的可靠性和准确性？

主要发现

• 所提出的方法通过权重函数将复杂的多变量递推式转化为可处理的单变量线性递推式。
• 通过拟凸规划找到最优权重函数，从而最小化所推导的上界。
• 所得上界与递推式真正渐近增长速率相差一个多项式因子。
• 采用实数算术的多梯度下降算法可实现最坏情况时间上界计算的高精度与可靠性。
• 该方法为分析NP难问题回溯算法的最坏情况复杂度提供了一个通用且系统化的框架。
• 该方法在保持计算可行性与数值正确性的前提下，确保了边界的理论紧致性。