[論文レビュー] Exponentiated Subgradient Algorithm for Online Optimization under the Random Permutation Model

Reza Eghbali, Jon Swenson+1 more|arXiv (Cornell University)|Oct 27, 2014

Optimization and Search Problems参考文献 23被引用数 6

ひとこと要約

本稿では、ランダム順列モデル下でのオンライン凸最適化に対して、一般の凹関数型利得関数に拡張されたデヴァヌールらの線形計画法を拡張した指数型部分勾配アルゴリズムを提案する。入札額対予算比制約 $O\left(\frac{\epsilon^{2}}{\log(m/\epsilon)}\right)$ の下で、$1-O(\epsilon)$ の競合比を達成し、先行の最適アルゴリズムと比較して著しく低い計算コストを実現する。

ABSTRACT

Online optimization problems arise in many resource allocation tasks, where the future demands for each resource and the associated utility functions change over time and are not known apriori, yet resources need to be allocated at every point in time despite the future uncertainty. In this paper, we consider online optimization problems with general concave utilities. We modify and extend an online optimization algorithm proposed by Devanur et al. for linear programming to this general setting. The model we use for the arrival of the utilities and demands is known as the random permutation model, where a fixed collection of utilities and demands are presented to the algorithm in random order. We prove that under this model the algorithm achieves a competitive ratio of $1-O(ε)$ under a near-optimal assumption that the bid to budget ratio is $O (\frac{ε^2}{\log({m}/ε)})$, where $m$ is the number of resources, while enjoying a significantly lower computational cost than the optimal algorithm proposed by Kesselheim et al. We draw a connection between the proposed algorithm and subgradient methods used in convex optimization. In addition, we present numerical experiments that demonstrate the performance and speed of this algorithm in comparison to existing algorithms.

研究の動機と目的

• 未知の将来の需要を伴うオンラインリソース割り当て問題と凹関数型利得関数を扱うため。
• 入力順序が一様にランダムであるランダム順列モデル下でも高い性能を維持できる効率的なオンラインアルゴリズムを開発するため。
• 入札額対予算比に関する現実的な仮定の下で、競合比を1に近い値（$1-O(\epsilon)$）に達成するため。
• ケッセルハイムらの手法のような既存の最適アルゴリズムと比較して、計算コストを低減するため。
• 提案されたアルゴリズムと凸最適化における部分勾配法との理論的関連を確立するため。

提案手法

• 入ってくる利得および需要情報に基づき、双対変数を動的に調整するための指数型部分勾配更新則を用いる。
• 確率的ラウンディング方式と指数的重みによる双対変数更新を導入し、リソース使用量と利得の増加をバランスさせる。
• 入力列が交換可能であることを保証するため、ランダム順列モデルを活用し、確率的集中不等式を導出する。
• 主な構成要素として、リソース消費を追跡する双対変数 $\phi_i^t$ と、利得寄与度を追跡する $\chi^t$ を含み、成長を制御するため指数的スケーリングを施す。
• マルティンゲールの集中とマルコフの不等式を用いて、リソースまたは利得の目標違反確率を上界で制約する。
• 潜在関数の議論を用いて、アルゴリズムの期待目的値を最適オフライン解と比較することで、競合比を導出する。

実験結果

リサーチクエスチョン

• RQ1 一般の凹関数型利得関数に対して、ランダム順列モデル下で $1-O(\epsilon)$ の競合比を達成できるオンラインアルゴリズムは存在するか？
• RQ2 ほぼ最適の競合性能を達成するために必要な最小の入札額対予算比仮定は何か？
• RQ3 提案された指数型部分勾配法は、既存の最適アルゴリズムと比較して計算効率に優れているか？
• RQ4 提案されたアルゴリズムと凸最適化における古典的部分勾配法との理論的関連は何か？
• RQ5 与えられた仮定の下で、リソース数 $m$ が増加しても、アルゴリズムは高い性能を維持できるか？

主な発見

• 提案アルゴリズムは、ランダム順列モデル下で $1-O(\epsilon)$ の競合比を達成し、この問題クラスにおいてほぼ最適である。
• 必要な入札額対予算比は $O\left(\frac{\epsilon^{2}}{\log(m/\epsilon)}\right)$ で抑えられ、定数競合比を達成するにはほぼ最適な条件である。
• 提案アルゴリズムの計算コストは、ケッセルハイムらの最適アルゴリズムと比較して著しく低く、スケーラビリティに優れる。
• この手法は、凸最適化における部分勾配法と正式な関連を確立し、オンライン双対更新の新たな視点を提供する。
• 数値実験により、アルゴリズムの高い性能と高速性が確認され、実行時間および収束性において既存手法を上回る。
• 理論的分析により、リソースまたは利得の境界違反確率が $\epsilon^2$ に指数的に減少することが示され、ロバスト性が保証される。