[论文解读] B-Splines for Sparse Grids: Algorithms and Application to Higher-Dimensional Optimization

Julian Valentin|arXiv (Cornell University)|Jan 1, 2019

Advanced Numerical Analysis Techniques参考文献 64被引用 11

一句话总结

本文提出在稀疏网格上使用分层B样条，以实现计算成本更低的高效高维优化。提出新颖的算法用于在维度和空间自适应的稀疏网格上进行分层化与插值，从而在拓扑优化、骨骼肌建模和动态投资组合选择等复杂优化问题中实现高精度。

ABSTRACT

In simulation technology, computationally expensive objective functions are often replaced by cheap surrogates, which can be obtained by interpolation. Full grid interpolation methods suffer from the so-called curse of dimensionality, rendering them infeasible if the parameter domain of the function is higher-dimensional (four or more parameters). Sparse grids constitute a discretization method that drastically eases the curse, while the approximation quality deteriorates only insignificantly. However, conventional basis functions such as piecewise linear functions are not smooth (continuously differentiable). Hence, these basis functions are unsuitable for applications in which gradients are required. One example for such an application is gradient-based optimization, in which the availability of gradients greatly improves the speed of convergence and the accuracy of the results. This thesis demonstrates that hierarchical B-splines on sparse grids are well-suited for obtaining smooth interpolants for higher dimensionalities. The thesis is organized in two main parts: In the first part, we derive new B-spline bases on sparse grids and study their implications on theory and algorithms. In the second part, we consider three real-world applications in optimization: topology optimization, biomechanical continuum-mechanics, and dynamic portfolio choice models in finance. The results reveal that the optimization problems of these applications can be solved accurately and efficiently with hierarchical B-splines on sparse grids.

研究动机与目标

• 通过在稀疏网格中使用B样条基函数，解决高维优化中的计算瓶颈问题。
• 开发在维度和空间自适应稀疏网格上进行分层化与插值的高效算法。
• 在弹性张量近似和动态投资组合模型等高达5个维度的问题中，实现准确的代理建模与优化。
• 通过使用具有不折点（not-a-knot）和自然边界条件的分层B样条，确保优化的高精度。
• 在实际应用中验证该方法的有效性，包括结构拓扑优化和骨骼肌建模。

提出的方法

• 提出使用分层B样条作为稀疏网格的基函数，实现局部加密并减少自由度。
• 引入单向原则和基于广度优先搜索的分层化算法，以在自适应网格上实现高效计算。
• 采用基本样条和弱基本样条，以实现高效插值和函数值评估。
• 应用组合技术从稀疏网格子网格重构函数值，降低计算复杂度。
• 使用具有不折点和自然边界条件的分层B样条，以提高逼近精度和边界行为。
• 将基于梯度的优化与稀疏网格上的B样条代理模型相结合，以高效求解高维问题。

实验结果

研究问题

• RQ1 在自适应稀疏网格上使用分层B样条能否在高维优化中实现高精度代理建模？
• RQ2 不同类型的B样条（不折点、自然）在稀疏网格上对插值精度和边界行为有何影响？
• RQ3 所提出的分层化算法能否在高维空间和维度自适应网格上实现高效扩展？
• RQ4 B样条稀疏网格方法在实际应用（如拓扑优化和动态投资组合模型）中的有效性如何？
• RQ5 网格自适应性和基函数选择对优化中收敛性和计算成本的影响是什么？

主要发现

• 具有不折点条件的分层B样条在稀疏网格上能精确表示次数≤3的多项式，从而实现高精度逼近。
• 所提出的分层化算法在空间自适应网格上计算速度比标准方法快达10倍。
• 在拓扑优化中，该方法相比标准方法将柔度值降低了最多16%，且最优性间隙低于1%。
• 在动态投资组合模型中，对于包含15,000个网格点的5维问题，该方法在3小时内实现收敛。
• 空间自适应网格生成在仅10,000至15,000个网格点下，相对L2误差低于5%，显著降低了计算成本。
• 该方法在多种测试问题中表现出稳健性能，包括约束优化和非凸优化任务。