[论文解读] A Computational Investigation on the Strength of Dantzig-Wolfe Reformulations

Bastubbe, Michael, Lübbecke, Marco E.+1 more|arXiv (Cornell University)|Dec 11, 2016

Computational Geometry and Mesh Generation参考文献 39被引用 7

一句话总结

该论文提出了一种基于离散多项式逼近与插值的计算高效线性估计器，用于解决不同元素数量问题，在 O(log log k) 因子范围内实现了最优样本复杂度。主要贡献在于对实矩形范德蒙德矩阵的最小奇异值给出了精确下界，从而实现了对大小为 n 的样本中不同颜色数量的近似最优估计，该结果在样本大小相对于瓮大小较小时，对有放回与无放回抽样模型均成立。

ABSTRACT

In Dantzig-Wolfe reformulation of an integer program one convexifies a subset of the constraints, leading to potentially stronger dual bounds from the respective linear programming relaxation. As the subset can be chosen arbitrarily, this includes the trivial cases of convexifying no and all constraints, resulting in a weakest and strongest reformulation, respectively. Our computational study aims at better understanding of what happens in between these extremes. For a collection of integer programs with few constraints we compute, optimally solve, and evaluate the relaxations of all possible (exponentially many) Dantzig-Wolfe reformulations (with mild extensions to larger models from the MIPLIBs). We observe that only a tiny number of different dual bounds actually occur and that only a few inclusion-wise minimal representatives exist for each. This aligns with considerably different impacts of individual constraints on the strengthening the relaxation, some of which have almost no influence. In contrast, types of constraints that are convexified in textbook reformulations have a larger effect. We relate our experiments to what could be called a hierarchy of Dantzig-Wolfe reformulations.

研究动机与目标

• 确定使用 n 个样本估计瓮中不同颜色数量的样本复杂度下限。
• 为不同元素问题开发一种计算高效的估计器，并提供可证明的加法误差保证。
• 建立实矩形范德蒙德矩阵最小奇异值的紧致边界，该边界在分析中起核心作用。
• 在统一框架下统一并比较多项式、超几何、伯努利与泊松抽样模型。

提出的方法

• 使用离散多项式逼近与插值构造不同元素问题的线性估计器。
• 应用 ℓ2-逼近与拉格朗日插值，推导出具有最优误差边界的估计器。
• 推导实矩形范德蒙德矩阵最小奇异值的精确下界，这对估计器稳定性至关重要。
• 通过泊松抽样模型下指纹统计量之间的相关性衰减分析，控制估计误差。
• 利用第一类斯特林数的均匀渐近展开，分析插值多项式中系数的增长。
• 通过在二次损失与零一律损失下的极小化最大风险分析，建立样本复杂度边界，与极小化均方误差相联系。

实验结果

研究问题

• RQ1 在允许加法误差 ∆ 的条件下，估计大小为 k 的总体中不同元素数量的最优样本复杂度是多少？
• RQ2 如何利用离散多项式逼近与插值方法，在不同元素问题中构造具有可证明误差保证的估计器？
• RQ3 实矩形范德蒙德矩阵的最小奇异值的精确下界是什么？该下界如何影响估计器性能？
• RQ4 不同抽样模型（有放回与无放回、泊松、多项式）在基本样本复杂度方面有何关联？
• RQ5 在不同 ∆ 与 k 的参数范围内，不同元素问题的极小化均方误差是多少？

主要发现

• 当 ∆ ≤ √k (log k)^{-δ} 时，估计不同元素数量的样本复杂度为 Θ(k log k / ∆²)，通过基于插值的估计器实现。
• 当 ∆ ∈ [k^{0.5+δ}, ck] 时，样本复杂度为 Θ(k / log k)，与一般支持大小估计问题一致。
• 基于插值的估计器在 n = O(k log log k) 样本下可实现 ∆ = √k，且当 ∆ ≤ k^{0.5−o(1)} 时，需要严格超线性样本规模。
• 建立了实矩形范德蒙德矩阵最小奇异值的精确下界，该结果本身具有独立的数学意义。
• 当 n ≤ k log k 时，极小化均方误差为 exp(−Θ(min{n log k / k, log k}))，在 n = k / log k 与 n = k 处出现相变。
• 本文表明，多项式与泊松抽样模型在样本复杂度方面渐近等价，且给出了两者之间变换的显式边界。