[论文解读] Distributionally Robust Submodular Maximization

Matthew Staib, Bryan Wilder+1 more|arXiv (Cornell University)|Feb 14, 2018

Risk and Portfolio Optimization参考文献 35被引用 8

一句话总结

该论文提出了一种在未知分布的随机函数下进行子模最大化问题的分布鲁棒优化（DRO）框架，仅能获得该分布的有限样本。通过直接优化一个平衡偏差与方差的方差正则化目标，该方法在泛化性能上优于标准的经验风险最小化，其新颖的算法（MFW）提供了理论保证和实证改进，尤其在高方差和样本有限的情况下表现更优。

ABSTRACT

Submodular functions have applications throughout machine learning, but in many settings, we do not have direct access to the underlying function $f$. We focus on stochastic functions that are given as an expectation of functions over a distribution $P$. In practice, we often have only a limited set of samples $f_i$ from $P$. The standard approach indirectly optimizes $f$ by maximizing the sum of $f_i$. However, this ignores generalization to the true (unknown) distribution. In this paper, we achieve better performance on the actual underlying function $f$ by directly optimizing a combination of bias and variance. Algorithmically, we accomplish this by showing how to carry out distributionally robust optimization (DRO) for submodular functions, providing efficient algorithms backed by theoretical guarantees which leverage several novel contributions to the general theory of DRO. We also show compelling empirical evidence that DRO improves generalization to the unknown stochastic submodular function.

研究动机与目标

• 解决在仅能获得未知分布的少量样本时，子模优化中的泛化差距问题。
• 通过直接优化偏差-方差权衡，而非依赖经验平均，来提升在真实潜在随机子模函数上的性能。
• 开发一种可处理且可扩展的分布鲁棒子模优化算法，克服标准方差正则化方法中的不可计算性。
• 建立DRO在子模设置下的理论基础，包括对DRO与方差正则化之间关系的改进刻画。
• 通过实证验证，所提方法在样本方差较高时，其泛化性能优于标准基线方法。

提出的方法

• 该方法将问题形式化为分布鲁棒优化（DRO）问题，目标是最大化在扰动经验分布上的最坏情况期望值。
• 提出一种方差正则化目标，其对应于DRO公式，通过考虑经验分布中的不确定性，实现更好的泛化性能。
• 核心算法MFW（改进的Frank-Wolfe）设计用于处理子模函数的非凸与组合性质，同时在Lipschitz梯度有界条件下保证收敛。
• 该方法利用子模函数的多元线性扩展，并应用交换取样（swap rounding）将分数解转换为可行子集上的分布，保证近似比。
• 通过利用子模性和有界边际收益，界定DRO目标的梯度Lipschitz常数，建立理论收敛速率。
• 该方法采用项目上的乘积分布，并应用相关性间隙结果，证明最优乘积分布与最优任意分布之间的差距在(1−1/e)因子以内。

实验结果

研究问题

• RQ1 在仅能获得少量样本时，分布鲁棒优化能否改善子模最大化中的泛化性能？
• RQ2 尽管问题具有非凸性和组合性，但在随机子模函数背景下，方差正则化是否仍具有可计算性和可扩展性？
• RQ3 DRO公式与子模设置下的方差正则化之间有何关系？哪些结构特性使得高效优化成为可能？
• RQ4 能否为Frank-Wolfe风格算法在该非凸、子模DRO设置下建立理论收敛保证？
• RQ5 在实践中，该方法是否优于标准的经验风险最小化（即样本平均），尤其是在高方差条件下？

主要发现

• 所提出的MFW算法在Lipschitz梯度有界条件下实现收敛，其界为$ b\big(\big|V\big|^{1/2}L + 1\big) $，其中$ b $为最大边际收益，$ L $为与函数相关的常数。
• 该方法保证：从分数输出$ x $得到的解可通过舍入转化为子集分布，其期望值在DRO问题的最优值的$ (1 - 1/e) $因子以内。
• 实证结果表明，DRO方法在样本方差较高时，其泛化性能优于标准的经验平均方法。
• 理论分析揭示，DRO目标等价于方差正则化目标，且该方法对二者关系的刻画比先前工作更为精细。
• 该框架通过引入子模性特异性结构，优于先前的鲁棒子模优化方法，并提供更强的算法保证。
• 该方法在低样本场景下仍具备可扩展性和有效性，而标准经验风险最小化因方差过高而失效。