[论文解读] Multistage Stochastic Optimization via Kernels

Dimitris Bertsimas, Kimberly Villalobos Carballo|arXiv (Cornell University)|Mar 11, 2023

Statistical Methods and Inference被引用 4

一句话总结

本文提出一种非参数、数据驱动的方法，利用再生核希尔伯特空间（RKHS）中的核方法进行多阶段随机优化，通过基于核的函数随机梯度下降和函数子空间投影实现稀疏化，实现可处理的函数优化。该方法在大规模数据集和高维问题上展现出可扩展的计算性能，并达到渐近最优性。

ABSTRACT

We develop a non-parametric, data-driven, tractable approach for solving multistage stochastic optimization problems in which decisions do not affect the uncertainty. The proposed framework represents the decision variables as elements of a reproducing kernel Hilbert space and performs functional stochastic gradient descent to minimize the empirical regularized loss. By incorporating sparsification techniques based on function subspace projections we are able to overcome the computational complexity that standard kernel methods introduce as the data size increases. We prove that the proposed approach is asymptotically optimal for multistage stochastic optimization with side information. Across various computational experiments on stochastic inventory management problems, {our method performs well in multidimensional settings} and remains tractable when the data size is large. Lastly, by computing lower bounds for the optimal loss of the inventory control problem, we show that the proposed method produces decision rules with near-optimal average performance.

研究动机与目标

• 开发一种非参数、数据驱动的多阶段随机优化框架，避免场景树枚举和维度灾难。
• 将决策规则表示为再生核希尔伯特空间（RKHS）中的函数，以捕捉历史数据和附加信息中的复杂非线性依赖关系。
• 通过函数子空间投影实现稀疏化，克服标准核方法在大规模设置下的计算不可行性。
• 在不确定性分布满足弱正则性条件时，确保决策规则的渐近最优性。
• 在高维、大规模数据设置下，通过实证验证方法的性能，特别是在库存和运输规划问题中。

提出的方法

• 决策变量被建模为由通用核生成的再生核希尔伯特空间（RKHS）中的元素，实现对复杂决策规则的非参数逼近。
• 使用函数随机梯度下降在RKHS上最小化经验正则化损失函数，优化的是函数参数而非离散决策。
• 通过函数子空间投影实现稀疏化，减少每个决策变量的活跃参数数量，缓解核方法的计算负担。
• 在功能形式下利用表示定理，但通过投影到低维函数子空间避免完整的核矩阵求逆。
• 算法在历史数据和附加信息上进行训练，对不确定性在各阶段之间的相关结构无任何假设。
• 通过在每个阶段使用基于核的函数表示，依次优化基于观测信息的决策规则，将方法扩展至多阶段问题。

(a)

实验结果

研究问题

• RQ1 非参数、基于核的方法是否能在具有附加信息的多阶段随机优化中实现渐近最优性？
• RQ2 如何使核方法在大规模多阶段问题中计算上可行，而不依赖场景树？
• RQ3 通过函数子空间投影实现的稀疏化在多大程度上减少了参数数量，同时保持了解决方案质量？
• RQ4 与传统方法（如SAA、SRO和基于knn的方法）相比，该方法在样本外性能和计算时间方面表现如何？
• RQ5 该方法是否能在高维设置和大规模数据量下保持高性能？

主要发现

• 在N=100个数据点的运输规划问题中，SMOK算法在所有测试方法中实现了最高的平均样本外利润（160,737.0）。
• 即使在N=5000时，SMOK也仅需每个决策约60个参数，展现出强大的可扩展性。
• SMOK的计算时间随数据规模增长缓慢——在N=5000时仅耗时252秒，而SRO-knn和SAA-knn在N=5000时变得不可行（超过54,000秒）。
• 在所有数据规模下，MOK和SMOK在样本外利润方面均优于SRO、SRO-knn和SAA-knn，SMOK在性能与效率之间实现了最佳平衡。
• 该方法生成的决策规则具有接近最优的平均性能，库存控制问题的下界计算结果证实了这一点。
• 理论分析证实，在弱条件下，所提方法具有渐近最优性，验证了其在数据规模增加时的一致性。

(c)