[论文解读] A Kernel Mean Embedding Approach to Reducing Conservativeness in Stochastic Programming and Control

Jia-Jie Zhu, Moritz Diehl+1 more|arXiv (Cornell University)|Jan 28, 2020

Probabilistic and Robust Engineering Design参考文献 16被引用 4

一句话总结

本文提出一种核均值嵌入方法，通过在再生核希尔伯特空间（RKHS）中将场景削减问题形式化为基于分布距离正则化的优化问题，以减少随机规划与控制中的保守性。通过在RKHS距离正则化下使用缩减集展开，该方法选取一个更小且具代表性的场景子集，保持约束满足的同时提升最优性，实现高达5%的约束违反概率，同时显著降低计算负担。

ABSTRACT

We apply kernel mean embedding methods to sample-based stochastic optimization and control. Specifically, we use the reduced-set expansion method as a way to discard sampled scenarios. The effect of such constraint removal is improved optimality and decreased conservativeness. This is achieved by solving a distributional-distance-regularized optimization problem. We demonstrated this optimization formulation is well-motivated in theory, computationally tractable and effective in numerical algorithms.

研究动机与目标

• 减少传统随机规划与控制方法中因对所有采样场景强制执行约束而产生的保守性。
• 开发一种数据驱动且可计算的优化框架，选取最小但具代表性的场景子集，以保持可行性的同时提升解的最优性。
• 应用再生核希尔伯特空间（RKHS）嵌入来建模不确定性的经验分布，并基于分布接近度对场景移除进行正则化。
• 证明基于核方法的分布距离移除场景可生成更不保守、性能更高的控制器，通过数值实验验证。

提出的方法

• 将场景削减问题形式化为凸优化问题，最小化经验分布与支持在场景子集上的缩减分布之间的RKHS距离。
• 使用缩减集展开方法，将缩减分布表示为选定场景上狄拉克测度的加权和，权重通过l1-正则化优化学习得到。
• 在目标函数中引入一个缩放因子，优先移除其轨迹接近违反约束的场景，基于其与约束边界的距离。
• 通过将连续时间动力学转录为使用多重 shooting 方法的离散化最优控制问题（OCP），并使用IPOPT求解。
• 使用大规模蒙特卡洛模拟估算场景削减后的约束违反概率与期望成本。
• 使用基于RKHS的距离度量对场景选择过程进行正则化，确保缩减分布与原始经验分布保持接近。

实验结果

研究问题

• RQ1 核均值嵌入方法能否有效用于减少基于样本的随机规划与控制中的保守性？
• RQ2 如何将场景削减形式化为基于分布距离正则化的优化问题，以在保持可行性的同时提升最优性？
• RQ3 当基于场景与约束的接近程度移除场景时，约束违反概率与期望成本之间的权衡是什么？
• RQ4 基于RKHS的嵌入能否实现一种计算上可行且理论基础坚实的随机最优控制场景选择方法？

主要发现

• 所提方法在移除14个场景（l1正则化系数为10−5）时，实现2%的约束违反概率，表明保守性降低。
• 在移除83个场景（l1正则化系数为5×10−3）时，约束违反概率上升至5%，证实了保守性与性能之间的预期权衡。
• 使用缩减集嵌入方法得到的控制器相比全场景解，表现出更低的期望成本，表明最优性更优。
• 该方法有效识别并移除了轨迹接近违反约束的场景，这由基于到约束边界最小距离的缩放因子所证实。
• 蒙特卡洛模拟证实，缩减集方法在显著减少优化问题中的约束数量的同时，仍保持可接受的可行性水平。
• 该方法计算上可行，且具有坚实的理论基础，具有扩展至分布鲁棒优化的潜力。