[论文解读] Evolutionary Algorithms for the Chance-Constrained Knapsack Problem

Yue Xie, Oscar Harper+3 more|arXiv (Cornell University)|Feb 13, 2019

Optimization and Packing Problems参考文献 45被引用 4

一句话总结

本文提出了一种用于机会约束0-1背包问题（CCKP）的多目标进化算法（GSEMO），其中物品重量为随机变量，且总重量超过容量的概率必须不超过 α。该方法利用切比雪夫不等式和切尔诺夫界构造代理约束，表明GSEMO在所有实例规模下均优于单目标EA和确定性方法，在解质量与运行时间方面表现更优，尤其在大规模问题上优势显著。

ABSTRACT

Evolutionary algorithms have been applied to a wide range of stochastic problems. Motivated by real-world problems where constraint violations have disruptive effects, this paper considers the chance-constrained knapsack problem (CCKP) which is a variance of the binary knapsack problem. The problem aims to maximize the profit of selected items under a constraint that the knapsack capacity bound is violated with a small probability. To tackle the chance constraint, we introduce how to construct surrogate functions by applying well-known deviation inequalities such as Chebyshev's inequality and Chernoff bounds. Furthermore, we investigate the performance of several deterministic approaches and introduce a single- and multi-objective evolutionary algorithm to solve the CCKP. In the experiment section, we evaluate and compare the deterministic approaches and evolutionary algorithms on a wide range of instances. Our experimental results show that a multi-objective evolutionary algorithm outperforms its single-objective formulation for all instances and performance better than deterministic approaches according to the computation time. Furthermore, our investigation points out in which circumstances to favour Chebyshev's inequality or the Chernoff bound when dealing with the CCKP.

研究动机与目标

• 解决在严格容量违规概率阈值下，物品重量为随机变量的0-1背包问题优化挑战。
• 开发融合概率尾部不等式（切比雪夫与切尔诺夫）作为代理约束的进化算法，以高效处理机会约束。
• 在多样化CCKP实例上，对比确定性方法（ILP、动态规划、启发式算法）与单目标及多目标进化算法的性能表现。
• 识别在CCKP背景下，切比雪夫不等式与切尔诺夫界在何种条件下能取得更优性能。

提出的方法

• 利用切比雪夫不等式与切尔诺夫界构建代理适应度函数，以估计容量违规概率，而无需完整计算分布。
• 实现单目标(1+1)EA与多目标GSEMO算法，以探索利润与约束违规风险之间的权衡。
• 对轻尾分布（如泊松分布、正态分布）采用切尔诺夫界，对重尾或信息较少的分布则采用切比雪夫不等式。
• 通过统计检验（p值）比较30次运行中100、300与500个物品实例在不同α与β参数下的算法性能。
• 采用平均利润与Wilcoxon符号秩检验的p值作为性能评估指标。
• 设计一个多目标模型，同时最大化利润并最小化约束违规的估计概率。

实验结果

研究问题

• RQ1 在机会约束0-1背包问题中，切尔诺夫界在何种条件下能提供比切比雪夫不等式更紧的界？
• RQ2 多目标进化算法在CCKP实例上的性能与单目标公式及确定性方法相比如何？
• RQ3 基于概率不等式的代理约束能否有效引导进化搜索，同时在随机权重分布下保持可行性？
• RQ4 在CCKP中，不等式选择（切比雪夫 vs. 切尔诺夫）是否显著影响进化算法的解质量与收敛性？
• RQ5 在不同实例规模（100、300、500个物品）与概率阈值（α = 0.01、0.05、0.1）下，计算时间与解质量之间的权衡如何？

主要发现

• 在所有实例类别中，GSEMO均取得最佳解质量，100个物品实例的平均利润分别为148834（α=0.01）、149543（α=0.01）和209630（α=0.1），显著优于(1+1)EA与确定性方法。
• 在500个物品实例中，GSEMO的平均利润为209047（α=0.01）与209630（α=0.1），显著优于启发式方法，后者在两小时内未能完成计算。
• 在小规模实例（100个物品）中，启发式方法优于其他方法，但在500个物品实例中无法扩展，两小时内未能完成。
• GSEMO在小规模实例上的解质量与ILP及启发式方法相当，但计算时间显著更短，仅需数分钟而非数小时。
• 当违规概率较低（α ≤ 0.01）时，使用切尔诺夫界比切比雪夫不等式更有效，尤其适用于轻尾分布。
• 统计检验确认，GSEMO在所有实例类型中均显著优于(1+1)EA，所有比较的p值均小于0.05。