[论文解读] From Amortized to Worst Case Delay in Enumeration Algorithms

Florent Capelli, Yann Strozecki|arXiv (Cornell University)|Aug 23, 2021

Advanced Graph Theory Research参考文献 36被引用 3

一句话总结

本文研究了将具有多项式摊销延迟的枚举算法转换为具有多项式最坏情况延迟的算法，提出新颖的正则化技术以减少内存开销并适应未知的摊销延迟。证明了在摊销延迟方面，任何黑箱正则化都无法实现线性最坏情况延迟，并表明保持枚举顺序需要指数空间或指数延迟。

ABSTRACT

In this paper, we introduce a technique we call geometric amortization for enumeration algorithms, which can be used to make the delay of enumeration algorithms more regular with little overhead on the space it uses. More precisely, we consider enumeration algorithms having incremental linear delay, that is, algorithms enumerating, on input x, a set A(x) such that for every t ≤ ♯ A(x), it outputs at least t solutions in time O(t⋅p(|x|)), where p is a polynomial. We call p the incremental delay of the algorithm. While it is folklore that one can transform such an algorithm into an algorithm with maximal delay O(p(|x|)), the naive transformation may use exponential space. We show that, using geometric amortization, such an algorithm can be transformed into an algorithm with delay O(p(|x|)log(♯A(x))) and space O(s log(♯A(x))) where s is the space used by the original algorithm. In terms of complexity, we prove that classes DelayP and IncP₁ with polynomial space coincide. We apply geometric amortization to show that one can trade the delay of flashlight search algorithms for their average delay up to a factor of O(log(♯A(x))). We illustrate how this tradeoff is advantageous for the enumeration of solutions of DNF formulas.

研究动机与目标

• 研究是否可以系统性地将具有多项式摊销延迟的算法转换为具有多项式最坏情况延迟的算法。
• 设计高效的正则化方案，以最小化内存使用并适应未知的摊销延迟。
• 建立通过黑箱访问摊销延迟算法所能实现的最坏情况延迟的根本下界。
• 探索在枚举算法中空间、延迟和顺序保持之间的权衡。

提出的方法

• 提出一种惰性复制机制，使用标志数组 U 来跟踪寄存器更新，实现常数时间的复制操作，且开销恒定。
• 引入计数器 c 和数组 S 以跟踪指令 I 所写入的寄存器索引，仅将复制限制在已修改的寄存器上。
• 采用基于区域的模拟方法，仅在必要时触发每次复制，确保任意时刻仅有一个活跃的复制机制。
• 实现一种动态复制策略，仅复制前 rlast 个寄存器（即迄今已写入的寄存器），相比完整复制减少了操作次数。
• 应用基于缓冲区的正则化方法，使用队列将摊销延迟转换为最坏情况延迟，同时证明在某些情况下队列大小可以被限制。
• 通过限制活跃复制的数量并证明任意时刻仅有一个复制处于活动状态，分析转换的复杂度，从而确保效率。

实验结果

研究问题

• RQ1 是否任何具有多项式摊销延迟的算法都可以仅通过黑箱访问转换为具有多项式最坏情况延迟的算法？
• RQ2 实现此类转换所需的最小内存占用是多少？是否可以将其保持在输入大小的多项式范围内？
• RQ3 是否可以设计一种正则化方案，使其能够适应未知的摊销延迟，而无需事先知晓延迟函数？
• RQ4 在最坏情况延迟和空间复杂度方面，黑箱正则化的根本限制是什么？
• RQ5 在何种条件下，可以在不引入指数空间或指数延迟的情况下保持枚举过程中的顺序？

主要发现

• 任何黑箱正则化方案都无法实现与摊销延迟成线性关系的最坏情况延迟，从而证明了一个根本性的下界。
• 保持枚举顺序需要指数空间或指数最坏情况延迟，表明存在强烈的权衡关系。
• 所提出的惰性复制机制确保任意时刻仅有一个复制处于活动状态，从而实现常数时间的复制操作，且开销恒定。
• 该转换保持了多项式时间与空间复杂度，队列大小受解的数量限制，实践中避免了指数级空间消耗。
• 该方法可扩展以处理预处理操作，即在枚举前执行初始移动操作，从而实现带预处理的正则化。
• 结果表明，尽管摊销延迟弱于最坏情况延迟，但通常无法在不付出显著资源权衡的情况下高效地将一种转换为另一种。