[论文解读] Exponentiated Subgradient Algorithm for Online Optimization under the Random Permutation Model

Reza Eghbali, Jon Swenson+1 more|arXiv (Cornell University)|Oct 27, 2014

Optimization and Search Problems参考文献 23被引用 6

一句话总结

本文提出了一种在随机排列模型下的在线凸优化的指数化次梯度算法，将Devanur等人基于线性规划的方法扩展至一般凹效用函数。在出价与预算比例约束为$O\left(\frac{\epsilon^{2}}{\log(m/\epsilon)}\right)$的条件下，实现了$1-O(\epsilon)$的竞争比，且计算成本显著低于先前的最优算法。

ABSTRACT

Online optimization problems arise in many resource allocation tasks, where the future demands for each resource and the associated utility functions change over time and are not known apriori, yet resources need to be allocated at every point in time despite the future uncertainty. In this paper, we consider online optimization problems with general concave utilities. We modify and extend an online optimization algorithm proposed by Devanur et al. for linear programming to this general setting. The model we use for the arrival of the utilities and demands is known as the random permutation model, where a fixed collection of utilities and demands are presented to the algorithm in random order. We prove that under this model the algorithm achieves a competitive ratio of $1-O(ε)$ under a near-optimal assumption that the bid to budget ratio is $O (\frac{ε^2}{\log({m}/ε)})$, where $m$ is the number of resources, while enjoying a significantly lower computational cost than the optimal algorithm proposed by Kesselheim et al. We draw a connection between the proposed algorithm and subgradient methods used in convex optimization. In addition, we present numerical experiments that demonstrate the performance and speed of this algorithm in comparison to existing algorithms.

研究动机与目标

• 解决未来需求未知且效用函数为凹函数的在线资源分配问题。
• 设计一种高效的在线算法，在输入顺序均匀随机的随机排列模型下保持高性能。
• 在出价与预算比例的合理假设下，实现接近1的竞争比（$1-O(\epsilon)$）。
• 相比现有最优算法（如Kesselheim等人提出的算法），降低计算成本。
• 建立所提算法与凸优化中次梯度方法之间的理论联系。

提出的方法

• 算法采用指数化次梯度更新规则，根据传入的效用和需求信息动态调整对偶变量。
• 引入一种随机舍入方案，并通过指数加权实现对偶变量更新，以平衡资源使用与效用增益。
• 利用随机排列模型确保输入序列可交换，从而支持概率浓度界限的推导。
• 关键组件包括跟踪资源消耗的对偶变量$\phi_i^t$和跟踪效用贡献的对偶变量$\chi^t$，并通过指数缩放控制其增长。
• 分析中使用鞅浓度不等式和马尔可夫不等式，以界定违反资源或效用目标的概率。
• 通过势函数论证，将算法的期望目标值与最优离线解进行比较，从而推导出竞争比。

实验结果

研究问题

• RQ1 在随机排列模型下，能否针对一般凹效用函数实现$1-O(\epsilon)$的竞争比？
• RQ2 实现近似最优竞争性能所需的最小出价与预算比例假设是什么？
• RQ3 所提出的指数化次梯度方法在计算效率上与现有最优算法相比如何？
• RQ4 该算法与凸优化中经典次梯度方法之间存在何种理论联系？
• RQ5 在给定假设下，当资源数量$m$增长时，该算法是否仍能保持高性能？

主要发现

• 在随机排列模型下，该算法实现了$1-O(\epsilon)$的竞争比，这是该问题类别的近似最优结果。
• 所需的出价与预算比例被限制在$O\left(\frac{\epsilon^{2}}{\log(m/\epsilon)}\right)$以内，该条件在实现常数竞争比方面几乎是最优的。
• 所提算法的计算成本显著低于Kesselheim等人提出的最优算法，使其更具可扩展性。
• 该方法与凸优化中的次梯度方法建立了正式联系，为在线对偶更新提供了新视角。
• 数值实验验证了算法的高性能与高效率，在运行时间和收敛速度上均优于现有方法。
• 理论分析表明，违反资源或效用边界的概率随$\epsilon^2$指数衰减，从而保证了鲁棒性。