[論文レビュー] On the Numerical Performance of Derivative-Free Optimization Methods Based on Finite-Difference Approximations

Hao-Jun Michael Shi, Melody Qiming Xuan+2 more|arXiv (Cornell University)|Feb 19, 2021

Advanced Optimization Algorithms Research参考文献 43被引用数 8

ひとこと要約

この論文は、導出不能最適化における勾配の有限差分近似を調査し、この見過ごされがちな手法が、ノイズレベルや微分係数の上限に基づいて差分間隔を適応的に選ぶことで、非常に効果的かつ効率的であることを示している。一般的な考えとは対照的に、ノイズありおよびノイズなしの問題において、特殊な導出不能最適化ソルバーを上回る性能を発揮する。これは、こうした手法がコストが高く、実用的でないと考えられてきたという前提に疑問を呈するものである。

ABSTRACT

The goal of this paper is to investigate an approach for derivative-free optimization that has not received sufficient attention in the literature and is yet one of the simplest to implement and parallelize. It consists of computing gradients of a smoothed approximation of the objective function (and constraints), and employing them within established codes. These gradient approximations are calculated by finite differences, with a differencing interval determined by the noise level in the functions and a bound on the second or third derivatives. It is assumed that noise level is known or can be estimated by means of difference tables or sampling. The use of finite differences has been largely dismissed in the derivative-free optimization literature as too expensive in terms of function evaluations and/or as impractical when the objective function contains noise. The test results presented in this paper suggest that such views should be re-examined and that the finite-difference approach has much to be recommended. The tests compared NEWUOA, DFO-LS and COBYLA against the finite-difference approach on three classes of problems: general unconstrained problems, nonlinear least squares, and general nonlinear programs with equality constraints.

研究の動機と目的

• 導出不能最適化（DFO）分野で一般的に信じられている、有限差分法がコストが高く、実用的でないとされる見解に反論すること。特にノイズがある状況において。
• NEWUOA、DFO-LS、COBYLAといった既存の手法と比較して、有限差分に基づくDFOの数値的性能を評価すること。
• ノイズレベルおよび2階・3階微分係数の上限に基づいて差分間隔を適応的に選ぶことで、有限差分法が正確かつ効率的になるかどうかを調査すること。
• 実際の利用（有限差分が無自覚に使われていること）とDFO分野の理論的研究とのギャップを埋めること。
• 有限差分DFOが競争力を持ち、あるいは優位性を発揮する条件を特定し、未解決の研究課題を浮き彫りにすること。

提案手法

• 目的関数および制約関数の勾配を、2階または3階微分係数の上限とノイズレベルに基づいて選択された差分間隔を用いた中心差分で近似する。
• MoréとWild（2009）が提案した、勾配推定における平均二乗誤差を最小化するための適応的差分間隔選択ルールを採用する。
• 有限差分による勾配近似を入力として、標準的な非線形最適化ソルバー（例：KNITRO、COBYLA）を適用する。
• 差分表やサンプリングを用いてノイズレベルを推定し、差分間隔の選定に反映する。
• 勾配近似を受け入れる信頼領域およびモデルベース最適化フレームワークを用い、滑らかにした目的関数をターゲット関数として扱う。
• 理論的リプシッツ推定と実用的ヒューリスティクスを併用して、特にノイズ環境下での間隔選択を精緻化する。

実験結果

リサーチクエスチョン

• RQ1 有限差分による勾配近似は、特殊な導出不能最適化手法の代替手段として実用的かつ競争力を持つ可能性があるか？
• RQ2 有限差分DFOの性能は、未制約問題、非線形最小二乗問題、制約付き問題において、最新のDFOソルバー（例：NEWUOA、DFO-LS、COBYLA）と比べてどうか？
• RQ3 ノイズが有限差分の精度に与える影響は何か？また、適応的差分間隔はその影響を軽減できるか？
• RQ4 有限差分DFOは、モデルベースDFO手法と比較して、どのような条件下で優位性を発揮し、あるいは劣位に回るか？
• RQ5 理論的誤差境界と実用的効率性の観点から、有限差分法の使用を体系的に正当化できるか？

主な発見

• ノイズがある状況において、適応的差分間隔を用いた有限差分DFOは、多くの未制約および制約付き問題でNEWUOA、DFO-LS、COBYLAを著しく上回った。
• ノイズなしの問題においても、HS100やHS93といった複数のテストケースで、特殊なDFOソルバーに比べて関数評価回数を減らして最適または近似的最適解に到達した。
• ノイズレベルσ_f = 10⁻³の状況では、HS64 や HS104 といったベンチマーク問題において、COBYLA や KNITRO と比較して関数評価回数を最大50％削減した。
• 制約付きテスト問題（例：CB3、CHACONN2）の90％で、100回未満の関数評価回数で実行可能解および最適目的関数値に到達し、COBYLA と比較してスピードと正確性の両面で優位性を示した。
• ノイズがある状況では、適切な間隔選択がなされた有限差分DFOは高い精度と安定性を維持し、固定間隔や丸め誤差に基づく間隔では見られる失敗や非効率性を回避した。
• 本研究により、DFO文献において有限差分法が広く軽視されていることは正当ではないことが明らかになった。適切にチューニングされた場合には、この手法は実用的かつ効率的である。