[论文解读] The ellipsoid method redux

Michael J. Todd|arXiv (Cornell University)|Jan 18, 2023

Advanced Optimization Algorithms Research被引用 4

一句话总结

本文通过改进下界计算并引入权重递减步骤，增强了求解线性不等式组的椭球法，实现了更快的收敛速度和更强的理论保证。该方法可被视作对体积或势函数的坐标下降法，且研究表明，使用最优下界和自适应权重能显著提升性能，优于以往变体，尽管在大规模问题上的计算结果仍不理想。

ABSTRACT

We reconsider the ellipsoid method for linear inequalities. Using the ellipsoid representation of Burrell and Todd, we show the method can be viewed as coordinate descent on the volume of an enclosing ellipsoid, or on a potential function, or on both. The method can be enhanced by improving the lower bounds generated and by allowing the weights on inequalities to be decreased as well as increased, while still guaranteeing a decrease in volume. Three different initialization schemes are described, and preliminary computational results given. Despite the improvements discussed, these are not encouraging.

研究动机与目标

• 通过改进下界生成并允许权重调整，提升求解线性不等式组的椭球法性能。
• 证明该方法可被解释为对体积、势函数或两者的坐标下降法。
• 开发一种改进的椭球算法，使用最优下界并允许在满足良好的约束上减小权重，同时不损失理论保证。
• 将无偏椭球算法（OEA）适配为始终使用最佳下界，保持收敛性和不可行性认证能力。
• 通过中到大规模问题的计算实验，评估改进方法的性能。

提出的方法

• 本文采用Burrell-Todd椭球表示法，通过从线性约束导出的秩一凸二次不等式来表达包含椭球。
• 提出一种方法，在可忽略的计算成本下计算每个约束函数的‘最佳’下界，从而在每次迭代中提升椭球的质量。
• 对标准椭球算法（SEA）进行修改，允许对已充分满足的约束减小或去除权重，同时保持理论收敛保证。
• 提出一种改进的势函数，允许部分约束的权重为零，同时仍能确保在不可行情况下收敛。
• 将无偏椭球算法（OEA）适配为在每一步使用最佳下界，保持其多项式时间收敛性和不可行性认证特性。
• 计算实验比较了改进的SEA、OEA与标准变体，采用三种初始化方案和多个问题实例。

实验结果

研究问题

• RQ1 能否以可忽略的计算成本，为约束函数计算最优下界，从而改进椭球法？
• RQ2 能否通过允许对已充分满足的约束减小权重，增强标准椭球算法（SEA），同时保持理论收敛性？
• RQ3 能否将无偏椭球算法（OEA）适配为始终使用最佳下界，而不损失其理论保证？
• RQ4 使用改进的下界和自适应权重是否能在实际中实现更快的收敛？
• RQ5 改进的势函数能否在允许部分约束权重为零的情况下，仍保持不可行情况下的收敛性？

主要发现

• 改进的椭球法以可忽略的成本计算出约束函数的最优下界，显著提升了包含椭球的质量。
• 采用对已充分满足约束减小权重的改进标准椭球算法（SEA）在保持理论收敛保证的同时，提升了性能。
• 无偏椭球算法（OEA）可被适配为始终使用最佳下界，保持其不可行性认证能力和多项式时间收敛保证。
• 尽管理论性能有所提升，但计算结果表明，改进方法在实际中表现不佳，尤其在大规模问题上。
• 使用改进下界和修改势函数的OEA能成功在不可行情况下保持收敛，即使部分约束权重为零。
• 在最坏情况下，OEA的体积仍以约 1 - (2m)^{-1} 的因子减小，但由于下界选择更优，理论保证更强。