[论文解读] Robust Optimization for Non-Convex Objectives

Robert F. Chen, Brendan Lucier+2 more|arXiv (Cornell University)|Jul 4, 2017

Machine Learning and Algorithms参考文献 10被引用 45

一句话总结

本论文提出了一种从非凸目标的鲁棒优化到贝叶斯优化的约化方法，利用一个$α$-近似oracle。通过在学习者与对手之间的零和博弈中应用无遗憾动态，可在凸化解空间中实现$α$-近似鲁棒解，实验验证了其在神经网络训练和影响力最大化中的有效性。

ABSTRACT

We consider robust optimization problems, where the goal is to optimize in the worst case over a class of objective functions. We develop a reduction from robust improper optimization to Bayesian optimization: given an oracle that returns $α$-approximate solutions for distributions over objectives, we compute a distribution over solutions that is $α$-approximate in the worst case. We show that de-randomizing this solution is NP-hard in general, but can be done for a broad class of statistical learning tasks. We apply our results to robust neural network training and submodular optimization. We evaluate our approach experimentally on corrupted character classification, and robust influence maximization in networks.

研究动机与目标

• 解决非凸目标函数在不确定性下的鲁棒优化问题，其中单个目标函数可能难以精确优化。
• 开发一种通用方法，将$α$-近似贝叶斯oracle转换为$α$-近似鲁棒解，即使原始解空间是非凸的。
• 证明在一般情况下，对解进行去随机化是必要的，因为对原始空间的精确鲁棒优化是NP难的。
• 表明对于预测变量中损失函数为凸的统计学习任务，单一确定性解可实现与随机解相同的近似保证。
• 在多种损坏模型下的神经网络训练和网络中的鲁棒影响力最大化任务中，对方法进行实证验证。

提出的方法

• 将鲁棒优化建模为学习者（拥有$α$-近似贝叶斯oracle）与选择最坏情况损失分布的对手之间的零和博弈。
• 对博弈应用无遗憾动态，其在$T$轮后以$O(T^{-1/2})$的遗憾收敛到$α$-近似极小极大解。
• 使用参数$γ$的乘法权重更新，自适应调整优化过程中损失函数（如损坏类型）的分布。
• 推导出一个凸化解空间，以支持非正规学习，其中最终解是原始解的分布。
• 提出一种约化方法，将任意$α$-近似贝叶斯oracle映射为$α$-近似鲁棒解，即使目标函数是非凸的。
• 通过在输入受损的字符分类和使用真实与合成数据的网络影响力最大化任务中的实验验证该方法。

实验结果

研究问题

• RQ1 能否利用$α$-近似贝叶斯oracle构造非凸目标的$α$-近似鲁棒解？
• RQ2 是否可能在不进行去随机化的情况下实现鲁棒优化，还是在一般情况下必须采用非正规学习？
• RQ3 乘法权重参数$γ$的选择在实践中如何影响收敛性和性能？
• RQ4 所提出的方法能否在鲁棒学习任务中超越平均情况优化或单个损失优化等基线方法？
• RQ5 该方法是否可扩展至真实世界问题，如不确定性下的神经网络训练和影响力最大化？

主要发现

• 所提出的约化方法即使在目标函数非凸的情况下，也能利用$α$-近似贝叶斯oracle实现$α$-近似鲁棒解。
• 去随机化解在理论上是必需的：即使使用精确的贝叶斯oracle和多项式数量的损失函数，对原始解空间的鲁棒优化也是NP难的。
• 对于预测变量中损失函数为凸的统计学习任务，单一确定性解可实现与随机解相同的近似保证。
• 在字符识别实验中，所提鲁棒优化方法显著优于平均情况优化和单个损失优化等基线方法。
• 在影响力最大化任务中，该方法在Wikipedia A图上的最坏情况影响力达到94.33（90.61, 98.05），优于均匀基线（82.30）和扰动分布基线（83.35），且差异具有统计显著性。
• 通过鲁棒优化过程生成的单个种子集在Complete A图上的平均比值为0.733，在Wikipedia A图上为0.995，表明在真实图上表现优异。