[论文解读] Multi-fidelity constraints in blackbox optimization

Alarie, Stéphane, Audet, Charles+3 more|arXiv (Cornell University)|Jan 9, 2026

Process Optimization and Integration被引用 0

一句话总结

该论文提出 Interruptible Direct Search (IDS) 和 Dynamic Interruptible Direct Search (DIDS)，通过使用低保真度的可行性估计来中断成本高昂的高保真度评估，以解决受约束的多保真黑盒优化。对约束直接处理，不对目标函数进行罚函数处理。

ABSTRACT

This work studies constrained blackbox optimization problems that cannot be solved in reasonable time due to prohibitive computational costs. This challenge is especially prevalent in industrial applications, where blackbox evaluations are costly. However, constraints can be evaluated at various fidelities at a lower computational cost. More specifically, this work targets situations in which the infeasibility of each individual constraint can be detected at lower fidelities, and where a large discrete number of fidelities are available. Moreover, highly discontinuous problems which may fail to evaluate are considered, such that direct search methods are preferred to model-based ones. To this effect, the Interruptible Direct Search (IDS) and the Dynamic Interruptible Direct Search (DIDS) algorithms are proposed to leverage feasibility assessments from various fidelity levels to avoid high cost evaluations. The results show highly increased performances from NOMAD when it is paired with IDS or DIDS.

研究动机与目标

• 解决评估成本高且可能失败的受约束黑盒优化问题。
• 利用多种保真度水平以便宜地评估可行性并中断不可行评估。
• 开发基于直接搜索的算法（IDS 和 DIDS），在不依赖梯度信息的情况下工作。
• 提供一个框架，将约束分配到保真度水平以最小化评估成本。

提出的方法

• 提出一个保真度控制器，将黑盒包装起来，逐步在提高的保真度下进行评估，直到检测到约束不可行性为止。
• 定义一个分配向量 a，将每个约束映射到一个保真度水平，并计算一个受约束引导评估的简化保真集 Φ(a)。
• 把子问题 Q 表述为在约束条件下，利用可行性和代表性概率 (p_ij, r_ij) 来最小化期望评估成本 f_Q(a)。
• 证明在恰当选择的分配下，多保真包装器与真实问题之间的可行性保持一致性（定理 2）。
• 提供两种算法，IDS 和 DIDS，其中 IDS 在更广的假设下适用，DIDS 需要中间输出以获得更多成本节省。
• 讨论对可行性潜在误判的处理以及减小风险的策略（定理 3 及相关讨论）。

实验结果

研究问题

• RQ1 在存在多种保真度可用时，如何有效降低受约束黑盒优化的成本？
• RQ2 是否能够在较低保真度下可靠估计约束的可行性，以中断成本高昂的高保真评估而不牺牲收敛到可行解？
• RQ3 哪种约束到保真度的分配能够在保持可行性信息可靠性的同时最小化期望评估成本？
• RQ4 与现有的多保真受约束设定中的中断方法相比，IDS 和 DIDS 有何优势？
• RQ5 在使用多保真估计时，在哪些条件下可以保持约束的可行性？

主要发现

• 通过使用多保真可行性检查在早期中断不可行评估，IDS 和 DIDS 显著降低评估成本。
• 一种正式的分配策略确定对每个约束应使用哪些保真度水平，以在成本和可靠性之间取得平衡。
• 子问题 Q 提供了一种在可行性和代表性概率估计下计算最优保真度分配的方法。
• 在基准问题上的应用表明，DIDS 通常优于 IDS，而 IDS 又优于 Inter-DS。
• 理论结果（定理 2 和定理 3）在所提出的框架下确立了可行性保留和成本特征。