[论文解读] Geometry of Online Packing Linear Programs

Marco Molinaro, R. Ravi|arXiv (Cornell University)|Apr 26, 2012

Optimization and Search Problems参考文献 23被引用 6

一句话总结

本文提出一种新颖的在线算法 Robust DPA，用于在随机列顺序下求解线性规划的装箱问题，在右端项 B 为 Ω(m²/ε² log(m/ε)) 时，实现了 (1−ε)-竞争力，显著降低了对列数 n 的依赖，相比先前工作有明显改进。该方法结合了受 PAC-学习启发的线性分类与基于约束向量 1D 子空间的改进几何覆盖论证，通过迭代自适应训练阶段实现更紧的界。

ABSTRACT

We consider packing LP's with $m$ rows where all constraint coefficients are normalized to be in the unit interval. The n columns arrive in random order and the goal is to set the corresponding decision variables irrevocably when they arrive so as to obtain a feasible solution maximizing the expected reward. Previous (1 - ε)-competitive algorithms require the right-hand side of the LP to be Omega((m/ε^2) log (n/ε)), a bound that worsens with the number of columns and rows. However, the dependence on the number of columns is not required in the single-row case and known lower bounds for the general case are also independent of n. Our goal is to understand whether the dependence on n is required in the multi-row case, making it fundamentally harder than the single-row version. We refute this by exhibiting an algorithm which is (1 - ε)-competitive as long as the right-hand sides are Omega((m^2/ε^2) log (m/ε)). Our techniques refine previous PAC-learning based approaches which interpret the online decisions as linear classifications of the columns based on sampled dual prices. The key ingredient of our improvement comes from a non-standard covering argument together with the realization that only when the columns of the LP belong to few 1-d subspaces we can obtain small such covers; bounding the size of the cover constructed also relies on the geometry of linear classifiers. General packing LP's are handled by perturbing the input columns, which can be seen as making the learning problem more robust.

研究动机与目标

• 通过消除竞争力保证中对列数 n 的依赖，弥合单行与多行在线装箱 LP 之间的差距。
• 开发一种算法，在右端项边界与 n 无关的条件下实现 (1−ε)-竞争力，优于先前所需的 O(m/ε² log n/ε) 要求。
• 理解多行情形是否由于现有界中对 n 的依赖而本质上比单行情形更困难。
• 通过引入约束向量的几何结构（特别是其在低维子空间中的对齐）来优化基于 PAC-学习的在线算法。

提出的方法

• 提出 Robust DPA，在线算法将列处理划分为对数规模的阶段，利用早期列对后续列进行分类并设定决策。
• 引入扰动步骤以确保输入列处于一般位置，从而支持稳健的学习与分类。
• 使用修改后的 (s,δ)-OTP 子程序，该子程序在 2s 个列上求解采样 LP，并利用对偶价格为接下来的 s 个列设定变量。
• 应用一种非标准的几何覆盖论证，基于包含约束向量 a^t 的 1维子空间数量，以界定分类问题的复杂度。
• 利用线性分类器的几何特性控制泛化误差，确保各阶段中误分类列的数量保持较小。
• 通过在每个阶段逐步增加训练集大小（从 ε2^i n 增至 ε2^{i+1}n），提升泛化性能，从而收紧竞争力比并降低对 ε 的敏感性。

实验结果

研究问题

• RQ1 在多行情形下，是否可以消除在线装箱 LP 实现 (1−ε)-竞争力对列数 n 的右端项要求依赖？
• RQ2 由于先前界中对 n 的依赖，多行在线装箱 LP 是否本质上比单行情形更困难？
• RQ3 能否利用几何结构——特别是包含约束向量的 1D 子空间数量——来改进基于学习的在线算法？
• RQ4 在多行情形下，基于几何洞察能否对 PAC-学习技术进行优化，以减少在线线性分类中 LP 列的误差？

主要发现

• 当右端项 B 为 Ω(m²/ε² log(m/ε)) 时，算法 Robust DPA 对在线装箱 LP 实现了 (1−50ε)-竞争力。
• 在 B 的要求中消除了对列数 n 的依赖，优于先前 O(m/ε² log n/ε) 的界。
• 关键改进源于基于包含约束向量的 1维子空间数量的改进几何覆盖论证，该论证界定了学习问题的复杂度。
• 该算法采用迭代自适应训练阶段，训练集大小呈指数增长，从而实现更紧的泛化界并降低对 ε 的敏感性。
• 分析表明，所有阶段的误差可相互抵消，且总误差被控制在 O(ε·OPT) 以内，从而在给定 B 条件下实现 (1−ε)-竞争力。