[论文解读] Input Perturbations for Adaptive Regulation and Learning.

Mohamad Kazem Shirani Faradonbeh, Ambuj Tewari+1 more|arXiv (Cornell University)|Nov 10, 2018

Advanced Bandit Algorithms Research被引用 12

一句话总结

本文提出了一种通过输入信号扰动实现的扰动贪婪策略，在MIMO线性系统自适应调节与估计中，实现了近乎平方根阶的非渐近遗憾界。通过利用鞅理论与策略分解，该方法在无需系统参数先验知识的前提下，建立了高概率的遗憾与学习精度边界，克服了现有计算不可行或不稳定的局限性。

ABSTRACT

Design of adaptive algorithms for simultaneous regulation and estimation of MIMO linear dynamical systems is a canonical reinforcement learning problem. Efficient policies whose regret (i.e. increase in the cost due to uncertainty) scales at a square-root rate of time have been studied extensively in the recent literature. Nevertheless, existing strategies are computationally intractable and require a priori knowledge of key system parameters. The only exception is a randomized Greedy regulator, for which asymptotic regret bounds have been recently established. However, randomized Greedy leads to probable fluctuations in the trajectory of the system, which renders its finite time regret suboptimal. This work addresses the above issues by designing policies that utilize input signals perturbations. We show that perturbed Greedy guarantees non-asymptotic regret bounds of (nearly) square-root magnitude w.r.t. time. More generally, we establish high probability bounds on both the regret and the learning accuracy under arbitrary input perturbations. The settings where Greedy attains the information theoretic lower bound of logarithmic regret are also discussed. To obtain the results, state-of-the-art tools from martingale theory together with the recently introduced method of policy decomposition are leveraged. Beside adaptive regulators, analysis of input perturbations captures key applications including remote sensing and distributed control.

研究动机与目标

• 解决现有MIMO线性系统自适应调节算法中计算不可行性与缺乏系统参数先验知识的问题。
• 克服随机化贪婪策略在有限时间内的遗憾次优性与轨迹波动问题。
• 在任意输入扰动下，建立遗憾与学习精度的高概率边界。
• 分析贪婪策略达到信息论对数遗憾下界的情形。
• 通过输入扰动分析，将适用性扩展至遥感与分布式控制。

提出的方法

• 设计一种注入受控输入扰动以提升探索与稳定性的扰动贪婪策略。
• 应用先进的鞅理论，推导遗憾与估计误差的高概率集中边界。
• 利用近期提出的策略分解方法，将探索与利用组件解耦。
• 制定随时间T（T为时间）呈（近乎）√T量级的遗憾与学习精度边界。
• 分析任意输入扰动对系统轨迹与收敛特性的影响。
• 建立贪婪策略达到信息论对数遗憾下界的条件。

实验结果

研究问题

• RQ1 能否通过输入扰动在自适应MIMO调节中实现时间阶为√T的非渐近遗憾界？
• RQ2 任意输入扰动如何影响遗憾与学习精度的高概率边界？
• RQ3 在何种条件下贪婪策略可达到信息论对数遗憾下界？
• RQ4 所提方法能否在无需系统参数先验知识的前提下确保计算可处理性？
• RQ5 策略分解与鞅工具在推导有限时间性能保证中起何作用？

主要发现

• 扰动贪婪策略实现了近乎平方根阶时间量级的非渐近遗憾界，优于随机化贪婪策略的有限时间次优性。
• 在任意输入扰动下，建立了遗憾与学习精度的高概率边界，确保了鲁棒性能。
• 该方法计算可处理，且无需事先知晓关键系统参数，与大多数现有方法不同。
• 理论分析证实，在特定条件下，贪婪策略可达到信息论对数遗憾下界。
• 该框架不仅适用于自适应控制，还可扩展至遥感与分布式控制系统。
• 策略分解与鞅理论的结合，为自适应调节提供了紧致的有限时间性能保证。