[论文解读] Knapsack Problem With Cardinality Constraint: A Faster FPTAS Through the Lens of Numerical Analysis and Applications

Wenxin Li, Joohyun Lee+1 more|arXiv (Cornell University)|Feb 3, 2019

Optimization and Packing Problems被引用 1

一句话总结

本文提出了一种新的完全多项式时间近似方案（FPTAS），用于解决 $K$-物品背包问题，其时间与空间复杂度均得到改进。通过利用数值分析的洞察，所提出的 FPTAS 实现了 $\tilde{O}(n + z^2/\varepsilon^2)$ 的时间复杂度与 $O(n + z^2/\varepsilon)$ 的空间复杂度，其中 $z = \min\{K, 1/\varepsilon\}$，在所有参数配置下均优于以往的 FPTAS，在时间和空间上均有显著提升。

ABSTRACT

We study the $K$-item knapsack problem (i.e., $1.5$-dimensional KP), which is a generalization of the famous 0-1 knapsack problem (i.e., $1$-dimensional KP) in which an upper bound $K$ is imposed on the number of items selected. This problem is of fundamental importance and is known to have a broad range of applications in various fields. It is well known that, there is no FPTAS for the $d$-dimensional knapsack problem when $d\geq 2$, unless P $=$ NP. While the $K$-item knapsack problem is known to admit an FPTAS, the complexity of all existing FPTASs have a high dependency on the cardinality bound $K$ and approximation error $\varepsilon$, which could result in inefficiencies especially when $K$ and $\varepsilon^{-1}$ increase. The current best results are due to Mastrolilli and Hutter (2006), in which two schemes are presented exhibiting a space-time tradeoff--one scheme with time complexity $O(n+Kz^{2}/\varepsilon^{2})$ and space complexity $O(n+z^{3}/\varepsilon)$, while another scheme requires $O(n+(Kz^{2}+z^{4})/\varepsilon^{2})$ run-time but only needs $O(n+z^{2}/\varepsilon)$ space, where $z=\min\{K,1/\varepsilon\}$. In this paper we close the space-time tradeoff exhibited in the state-of-the-art by designing a new FPTAS with a run-time of $\widetilde{O}(n+z^{2}/\varepsilon^{2})$, while simultaneously reaching the $O(n+z^{2}/\varepsilon)$ space bound. Our scheme provides $\widetilde{O}(K)$ and $O(z)$ improvements on the state-of-the-art algorithms in time and space complexity respectively, and is the first scheme that achieves a run-time that is independent of cardinality bound $K$ (up to logarithmic factors) under fixed $\varepsilon$. Another salient feature of our scheme is that it is the first FPTAS that achieves better time and space complexity bounds than the very first standard FPTAS over all parameter regimes.

研究动机与目标

• 解决现有 FPTAS 在 $K$-物品背包问题上的低效性，其时间复杂度对基数上界 $K$ 和近似误差 $\varepsilon$ 的依赖性过高。
• 克服以往 FPTAS 中固有的空间-时间权衡问题，即减少空间使用会增加时间复杂度，反之亦然。
• 设计一种时间复杂度与 $K$ 无关（仅含对数因子）但保持最优空间使用效率的 FPTAS。
• 在所有参数配置下，包括 $K$ 较大或 $\varepsilon$ 较小时，实现优于原始标准 FPTAS 的时间与空间复杂度。
• 弥合理论效率与实际性能之间的差距，以更高效地求解具有基数约束的 $K$-物品背包问题。

提出的方法

• 通过数值分析技术重新表述 $K$-物品背包问题的动态规划方法，以降低计算开销。
• 提出一种新颖的缩放与舍入策略，在保持近似保证的同时最小化处理的状态数量。
• 应用解空间的分层分解方法，将中间状态数量限制在 $O(z^2/\varepsilon)$ 以内，其中 $z = \min\{K, 1/\varepsilon\}$。
• 使用紧凑的数据结构高效表示与更新状态，实现 $O(n + z^2/\varepsilon)$ 的空间使用。
• 通过基于优先级的选择机制优化状态转移过程，避免冗余计算。
• 通过精细的近似控制，限制每件物品的操作次数，从而实现 $\widetilde{O}(n + z^2/\varepsilon^2)$ 的时间复杂度。

实验结果

研究问题

• RQ1 能否设计一种 $K$-物品背包问题的 FPTAS，其时间复杂度与基数上界 $K$ 无关？
• RQ2 是否可能在该问题的 FPTAS 中同时实现最优的时间与空间复杂度界？
• RQ3 在不同 $K$ 与 $\varepsilon$ 取值下，所提出的 FPTAS 与原始标准 FPTAS 在时间和空间效率上的表现如何比较？
• RQ4 能否利用数值分析技术减少动态规划中的状态空间，而不损失近似质量？
• RQ5 新 FPTAS 是否消除了先前方案中观察到的空间-时间权衡？

主要发现

• 所提出的 FPTAS 实现了 $\widetilde{O}(n + z^2/\varepsilon^2)$ 的时间复杂度，其与 $K$ 无关（仅含对数因子），相比之前最优时间复杂度实现了 $\widetilde{O}(K)$ 的改进。
• 空间复杂度降低至 $O(n + z^2/\varepsilon)$，达到目前已知最优空间界，并相比之前最优空间复杂度实现了 $O(z)$ 的改进。
• 在所有参数配置下，包括 $K$ 较大或 $\varepsilon$ 较小时，新 FPTAS 在时间和空间复杂度上均优于原始标准 FPTAS。
• 这是首个同时实现最优时间与空间复杂度的 FPTAS，消除了先前方案中存在的时间-空间权衡。
• 该算法保持了完全多项式时间近似方案的特性，保证了 $1 - \varepsilon$ 的近似比，同时显著降低了计算开销。
• 该方案是首个在所有参数取值下，时间与空间复杂度均优于 $K$-物品背包问题首个标准 FPTAS 的方案。