[论文解读] The Offline-Frontier Shift: Diagnosing Distributional Limits in Generative Multi-Objective Optimization

Stephanie Holly, Alexandru-Ciprian Zăvoianu+3 more|arXiv (Cornell University)|Feb 11, 2026

Advanced Multi-Objective Optimization Algorithms被引用 0

一句话总结

论文分析离线多目标优化，结果显示生成方法在超体积指标上表现强劲，但在其他指标上落后于进化方法，这是由于离线前沿偏移限制了目标空间的分布式探索。

ABSTRACT

Offline multi-objective optimization (MOO) aims to recover Pareto-optimal designs given a finite, static dataset. Recent generative approaches, including diffusion models, show strong performance under hypervolume, yet their behavior under other established MOO metrics is less understood. We show that generative methods systematically underperform evolutionary alternatives with respect to other metrics, such as generational distance. We relate this failure mode to the offline-frontier shift, i.e., the displacement of the offline dataset from the Pareto front, which acts as a fundamental limitation in offline MOO. We argue that overcoming this limitation requires out-of-distribution sampling in objective space (via an integral probability metric) and empirically observe that generative methods remain conservatively close to the offline objective distribution. Our results position offline MOO as a distribution-shift--limited problem and provide a diagnostic lens for understanding when and why generative optimization methods fail.

研究动机与目标

• 动机研究在无法获取评估且数据来自固定离线数据集的离线多目标优化（MOO）。
• 评估生成建模方法（包括扩散和基于流的方法）在离线MOO中超体积之外的表现。
• 引入并形式化离线前沿偏移作为一种分布式限制。
• 在多种MOO指标上进行生成与进化方法的实证比较，以诊断局限性。

提出的方法

• 将离线MOO形式化为帕累托前沿作为流形与离线数据分布 P_off 的模型。
• 将离线前沿偏移 s(P_off) 定义为离线目标样本到帕累托前沿的期望平方距离。
• 将生成方法的性能与积分概率度量（IPMs），特别是 MMD，以及 GD/GD+ 指标联系起来。
• 在 Off-MOO-Bench 上对流/扩散生成模型与带代理的 NSGA-II 进行实证比较。
• 利用引理 1 将 s(P_off) 与 d_F(P_alg, P_off) 联系起来，作为对生成方法的基本限制。
• 给出 GD、GD+、IGD+、MMD 与目标空间偏移之间的理论与实证联系。

实验结果

研究问题

• RQ1 离线MOO中，生成方法在超体积以外的指标上表现如何？
• RQ2 离线前沿偏移在限制生成模型探索目标空间的能力方面起何作用？
• RQ3 生成方法是否仍然接近离线目标分布，是否通过离线外的采样可以提升性能？
• RQ4 扩散/流方法在离线MOO的分布偏移下与进化方法相比表现如何？

主要发现

• 生成方法在 HV（Hypervolume）方面表现强，但在 GD+、IGD+ 及相关指标上落后于进化方法。
• 增大离线前沿偏移 s(P_off) 会比对进化方法更显著地降低生成方法的性能。
• 生成方法比进化方法更接近离线目标分布（通过 MMD 测量的接近度更高），表明探索更为保守。
• 分布距离（MMD）与 GD 误差之间存在相关性，意味着改进需要在目标空间进行超出分布的采样。
• 在 Off-MOO-Bench 的经验结果显示，生成方法在 HV 上保持一致，但在 GD+/IGD+ 和 MMD 行为上较差，且偏移会扩大差距（表 1 和图 1）。
• 离线前沿偏移将 GD 推广到一个流形设定，将离线数据几何性与优化限制造成联系（引理 1–2）。
• 得出结论：离线MOO 受分布偏移限制，应在目标空间进行受控的外推以克服局限性。