[论文解读] Phase transition in the knapsack problem

Nitin Yadav, Carsten Murawski+2 more|arXiv (Cornell University)|Jun 26, 2018

Optimization and Search Problems参考文献 17被引用 3

一句话总结

本文研究了0-1背包问题中的相变现象，识别出归一化容量和利润作为决定可解性和计算难度的关键参数。研究证明，计算难度和人类决策时间在相变边界（c/p ≈ 1）附近达到峰值，为该区域在机器和人类层面均构成最困难实例提供了实证与理论依据。

ABSTRACT

We examine the phase transition phenomenon for the Knapsack problem from both a computational and a human perspective. We first provide, via an empirical and a theoretical analysis, a characterization of the phenomenon in terms of two instance properties; normalised capacity and normalised profit. Then, we show evidence that average time spent by human decision makers in solving an instance peaks near the phase transition. Given the ubiquity of the Knapsack problem in every-day life, a better understanding of its structure can improve our understanding not only of computational techniques but also of human behavior, including the use and development of heuristics and occurrence of biases.

研究动机与目标

• 使用归一化容量和利润作为序参，表征背包问题中的相变现象。
• 确定计算难度与人类认知难度是否在相变边界附近重合。
• 为实例复杂性与算法及人类决策情境中可解性相变之间的关联，提供理论与实证证据。
• 探讨相变对理解人类问题解决中启发式方法、认知偏差与认知过载的影响。

提出的方法

• 通过归一化容量（c）和归一化利润（p）作为关键实例属性，对随机0-1背包实例进行实证分析。
• 理论上推导出使用快速贪心型估计规则建模可解性的解概率下限。
• 开展人类实验，参与者通过计算机界面求解背包实例，并测量每个搜索状态的耗时。
• 使用log(c/p)作为接近相变的代理变量，并将其与人类参与者每状态的平均耗时进行相关性分析。
• 将人类响应时间与Minizinc求解器在相同实例上的性能进行比较，以验证相变效应。
• 应用约束度度量κ = 1 − log₂(E[Sol])/N来估计相变区域，表明当c/p ≈ 1时，κ ≈ 1。

实验结果

研究问题

• RQ1 0-1背包问题是否表现出可解性相变？若是，定义它的关键实例参数是什么？
• RQ2 如其他NP完全问题中所见，背包问题的计算困难实例是否位于相变边界附近？
• RQ3 人类决策时间是否在相变附近达到峰值，表明认知难度增加？
• RQ4 约束度度量κ与背包问题中的相变有何关系？
• RQ5 人类推理模式与计算难度在背包问题的相变附近有多大的一致性？

主要发现

• 背包问题的相变发生在log(c/p) ≈ 0附近，对应于c/p ≈ 1，此时归一化容量与利润达到平衡。
• 计算难度在相变边界处达到峰值，与SAT和哈密顿回路等其他NP完全问题中的发现一致。
• 人类参与者在相变边界附近每个搜索节点的平均耗时最长，表明认知努力增加。
• 人类在相变附近（log(c/p) ≈ 0）的节点平均耗时高于较低和较高值时，确认了人类难度的峰值。
• 当c/p ≈ 1时，约束度度量κ ≈ 1，证实该区域对应于相变的关键点。
• 本研究为可解性相变是算法与人类问题解决难度的统一因素提供了实证与理论证据。