[論文レビュー] Multi-fidelity constraints in blackbox optimization

Alarie, Stéphane, Audet, Charles+3 more|arXiv (Cornell University)|Jan 9, 2026

Process Optimization and Integration被引用数 0

ひとこと要約

本論文は、低忠実度の適合性推定を用いて高忠実度の評価コストの高い評価を中断することで、制約付き多忠実度ブラックボックス最適化を解く Interruptible Direct Search (IDS) と Dynamic Interruptible Direct Search (DIDS) を提案します。制約は目的関数をペナルティ化せず直接扱われます。

ABSTRACT

This work studies constrained blackbox optimization problems that cannot be solved in reasonable time due to prohibitive computational costs. This challenge is especially prevalent in industrial applications, where blackbox evaluations are costly. However, constraints can be evaluated at various fidelities at a lower computational cost. More specifically, this work targets situations in which the infeasibility of each individual constraint can be detected at lower fidelities, and where a large discrete number of fidelities are available. Moreover, highly discontinuous problems which may fail to evaluate are considered, such that direct search methods are preferred to model-based ones. To this effect, the Interruptible Direct Search (IDS) and the Dynamic Interruptible Direct Search (DIDS) algorithms are proposed to leverage feasibility assessments from various fidelity levels to avoid high cost evaluations. The results show highly increased performances from NOMAD when it is paired with IDS or DIDS.

研究の動機と目的

• 評価が高価で失敗する可能性のある制約付きブラックボックス最適化に対処する。
• 低コストで適合性を評価できる複数忠実度を活用し、適合性の不適合評価を中断する。
• 勾配情報に依存しない直接探索ベースのアルゴリズム（IDSとDIDS）を開発する。
• 評価コストを最小化するために制約を忠実度レベルへ割り当てるフレームワークを提供する。

提案手法

• ブラックボックスをラップし、制約の不可 feasiblity が検出されるまで忠実度を徐々に上げて評価する忠実度コントローラを提案する。
• 各制約を忠実度レベルへ写像する割り当てベクトル a を定義し、評価を誘導する reduced fidelity subset Φ(a) を計算する。
• 制約の可の確率と代表性の確率 (p_ij, r_ij) を用いて、期待評価コスト f_Q(a) を最小化するサブ問題 Q を定式化する。
• 適切に選択された割り当てにより、多忠実度ラッパーと真の問題の間で可用性が保存されることを証明する（定理2）。
• より広い仮定の下で適用可能な IDS と、より費用削減のための仲介出力を必要とする DIDS の2つのアルゴリズムを提供する。
• 可用性の誤分類の可能性への対処と、リスクを緩和する戦略を議論する（定理3および関連する議論）。

実験結果

リサーチクエスチョン

• RQ1 複数忠実度レベルが利用可能な場合、制約付きブラックボックス最適化のコストをいかに効果的に削減できるか？
• RQ2 低忠実度で制約の適合性を信頼性をもって推定し、高コストな高忠実度評価を中断して収束に影響を与えずに済むか？
• RQ3 どの割り当てが期待評価コストを最小化しつつ適合性情報の信頼性を維持できるか？
• RQ4 IDSとDIDSは既存のマルチ忠実度制約設定における中断可能アプローチとどう比較されるか？
• RQ5 多忠実度推定を用いるとき、制約適合性を保存できる条件は何か？

主な発見

• IDSとDIDSは、多忠実度の適合性チェックを用いて不適合な評価を早期に中断することで評価コストを大幅に削減する。
• 各制約ごとに使用する忠実度レベルを決定する正式な割り当て戦略が、コストと信頼性のバランスを取る。
• サブ問題 Q は、適合性と代表性の確率推定を用いて最適な忠実度割り当てを計算する方法を提供する。
• ベンチマーク問題に適用した場合、DIDSは通常 IDS よりも優れており、IDSは Inter-DS よりも優れている。
• 定理2および定理3を含む理論結果は、本フレームワーク下での適合性保存とコスト特性を確立する。