[论文解读] The Barycenter Method for Direct Optimization

Felipe Pait|arXiv (Cornell University)|Jan 31, 2018

Control Systems and Identification参考文献 6被引用 11

一句话总结

本文提出了一种用于无导数优化的随机重心方法，通过函数评估值的加权平均来引导搜索向极小值点。该方法表现出类似梯度的行为，对噪声具有鲁棒性，并通过复数值扩展在高梯度区域实现性能提升，适用于非光滑和噪声环境下的黑箱优化。

ABSTRACT

A randomized version of the recently developed barycenter method for derivative-free optimization has desirable properties of a gradient search. We develop a complex version to avoid evaluations at high-gradient points. The method, applicable to non-smooth functions, is parallelizable in a natural way and shown to be robust under noisy measurements.

研究动机与目标

• 开发一种无需导数信息即可模拟梯度下降的直接优化方法。
• 解决在非光滑和噪声函数中无导数优化所面临的挑战。
• 通过复数值公式减少对高梯度区域的依赖，从而提高搜索效率。
• 提供一种鲁棒且可并行化的算法，适用于超参数调优和系统辨识。

提出的方法

• 该方法计算测试点的重心（质心），其权重为函数值负数的指数：$\hat{x}_n = \frac{\sum_{i=1}^n x_i e^{-\nu f(x_i)}}{\sum_{i=1}^n e^{-\nu f(x_i)}}$。
• 推导出递归更新规则：$\hat{x}_n = \frac{1}{m_n}(m_{n-1}\hat{x}_{n-1} + e^{-\nu f(x_n)}x_n)$，其中 $m_n = m_{n-1} + e^{-\nu f(x_n)}$。
• 引入一种随机搜索策略，其中新测试点生成为 $x_n = \hat{x}_{n-1} + z_n$，$z_n$ 从正态分布中抽取，以支持概率分析。
• 提出一种复数值变体，通过降低快速函数变化区域的评估影响，减少高梯度区域的影响。
• 通过理论分析函数评估中误差的方差和偏差，证明该方法在噪声测量下具有鲁棒性。
• 理论分析采用二阶泰勒近似和矩估计方法，推导出期望行为和收敛特性。

实验结果

研究问题

• RQ1 在无法获取导数信息的情况下，无导数优化方法能否表现出类似梯度下降的行为？
• RQ2 如何使重心方法对函数评估中的噪声具有鲁棒性？
• RQ3 复数值公式能否降低搜索空间中高梯度区域的敏感性？
• RQ4 在随机探索下，重心更新的收敛行为如何？
• RQ5 与现有无导数算法相比，该方法在鲁棒性和效率方面表现如何？

主要发现

• 随机重心方法表现出类似梯度下降的行为，其步长在期望上与负梯度方向成正比。
• 复数值扩展降低了高梯度区域函数评估的影响，从而在噪声较大或病态条件的景观中提升了稳定性。
• 该方法在噪声测量下具有鲁棒性，表现为重心估计的方差在加性噪声下保持有界。
• 理论分析表明，在小步长和光滑函数的极限下，期望的重心更新与最速下降方向一致。
• 递归公式支持高效的在线更新，并天然适用于多点评估的并行化。
• 该方法适用于非光滑函数和超参数调优，已在系统辨识和滤波器设计中得到验证。