[论文解读] Improved Path-length Regret Bounds for Bandits

Sébastien Bubeck, Yuanzhi Li+2 more|arXiv (Cornell University)|Jan 29, 2019

Advanced Bandit Algorithms Research参考文献 26被引用 6

一句话总结

本文通过一种优化的乐观镜面下降框架，结合自适应乐观预测、对近期选择臂的偏好以及混合正则化等创新技术，提出了多臂Bandit和线性Bandit问题的改进遗憾界。该工作建立了比以往更紧致的路径长度遗憾界，尤其在对抗者为非自适应（oblivious）且路径长度较大时表现更优，并通过凸体追踪（convex body chasing）将结果扩展至线性Bandit设置，首次在该领域实现了路径长度遗憾界的分析。

ABSTRACT

We study adaptive regret bounds in terms of the variation of the losses (the so-called path-length bounds) for both multi-armed bandit and more generally linear bandit. We first show that the seemingly suboptimal path-length bound of (Wei and Luo, 2018) is in fact not improvable for adaptive adversary. Despite this negative result, we then develop two new algorithms, one that strictly improves over (Wei and Luo, 2018) with a smaller path-length measure, and the other which improves over (Wei and Luo, 2018) for oblivious adversary when the path-length is large. Our algorithms are based on the well-studied optimistic mirror descent framework, but importantly with several novel techniques, including new optimistic predictions, a slight bias towards recently selected arms, and the use of a hybrid regularizer similar to that of (Bubeck et al., 2018). Furthermore, we extend our results to linear bandit by showing a reduction to obtaining dynamic regret for a full-information problem, followed by a further reduction to convex body chasing. We propose a simple greedy chasing algorithm for squared 2-norm, leading to new dynamic regret results and as a consequence the first path-length regret for general linear bandit as well.

研究动机与目标

• 通过衡量损失变化路径长度而非仅时间或轮次数，改进Bandit问题中的遗憾界。
• 解决以往路径长度遗憾界在自适应对抗者下的局限性，证明某些遗憾界在理论上无法进一步改进。
• 设计新算法，在自适应与非自适应对抗者下，均实现优于Wei等人（2018）的遗憾界。
• 将路径长度遗憾分析扩展至更一般的线性Bandit设置，此前该问题尚未被解决。
• 建立线性Bandit路径长度遗憾与全信息问题中动态遗憾及凸体追踪之间的新归约关系。

提出的方法

• 改进乐观镜面下降框架，引入新型乐观预测机制，以更准确预测损失趋势。
• 引入对近期选择臂的偏好，提升对非平稳环境的响应能力。
• 采用结合l1与l2类项的混合正则化，受Bubeck等人（2018）启发，以平衡稀疏性与平滑性。
• 通过一种新颖变换，将线性Bandit问题转化为全信息设置下的动态遗憾问题。
• 进一步将动态遗憾问题归约为凸体追踪问题，利用该领域已有的算法与界限。
• 通过上述归约链，首次推导出一般线性Bandit问题的路径长度遗憾界。

实验结果

研究问题

• RQ1 能否在自适应对抗者下，将Wei等人（2018）的路径长度遗憾界超越现有最优水平？
• RQ2 Wei等人（2018）的路径长度遗憾界在自适应对抗者下是否本质上已达到紧致性，或仍可改进？
• RQ3 自适应乐观预测与臂历史偏好等新算法技术是否能带来更优的遗憾表现？
• RQ4 路径长度遗憾界能否从多臂Bandit问题推广至更一般的线性Bandit设置？
• RQ5 能否利用动态遗憾与凸体追踪之间的联系，推导出线性Bandit问题中的新型路径长度遗憾界？

主要发现

• 证明了Wei等人（2018）的路径长度遗憾界在自适应对抗者下本质上不可改进，确立了理论极限。
• 提出一种新算法，通过使用更小的路径长度度量，严格优于Wei等人（2018），实现更紧致的遗憾界。
• 对于非自适应对抗者，当路径长度较大时，新算法在遗憾表现上优于以往工作。
• 通过将问题归约为凸体追踪，首次建立了通用线性Bandit问题的路径长度遗憾界。
• 该归约框架催生了新的动态遗憾结果，并证明了在复杂Bandit设置中路径长度分析的可行性。