[论文解读] Pareto-Conditioned Diffusion Models for Offline Multi-Objective Optimization

Jatan Shrestha, Santeri Heiskanen+4 more|arXiv (Cornell University)|Jan 31, 2026

Advanced Multi-Objective Optimization Algorithms被引用 0

一句话总结

PCD 将离线多目标优化重新表述为条件扩散采样，使用重加权策略和参考方向方案在没有代理模型的情况下对目标权衡进行条件化，能够在基准测试中实现具有竞争力且稳定的表现。

ABSTRACT

Multi-objective optimization (MOO) arises in many real-world applications where trade-offs between competing objectives must be carefully balanced. In the offline setting, where only a static dataset is available, the main challenge is generalizing beyond observed data. We introduce Pareto-Conditioned Diffusion (PCD), a novel framework that formulates offline MOO as a conditional sampling problem. By conditioning directly on desired trade-offs, PCD avoids the need for explicit surrogate models. To effectively explore the Pareto front, PCD employs a reweighting strategy that focuses on high-performing samples and a reference-direction mechanism to guide sampling towards novel, promising regions beyond the training data. Experiments on standard offline MOO benchmarks show that PCD achieves highly competitive performance and, importantly, demonstrates greater consistency across diverse tasks than existing offline MOO approaches.

研究动机与目标

• 在只可用静态数据集且代理可能不可靠的情况下激发离线多目标优化的动机。
• 开发一个条件生成框架，直接对目标帕累托权衡进行条件化采样解。
• Introduce a multi-objective reweighting strategy to emphasize high-quality Pareto-front regions.
• 提出一种参考方向机制，生成超越训练数据的多样且高质量的条件化点。

提出的方法

• 在离线数据集上训练一个条件扩散模型 p(x|y;σ)，对样本进行多目标重加权。
• 在目标空间上进行网格重加权并基于支配关系的权重，强调高性能点。
• 使用无分类器引导来引导采样朝向带有 γ 控制引导强度的条件目标。
• 通过受 NSGA-III 启发的参考方向机制生成条件点，产生多样且高质量的目标。
• 在采样过程中应用 CFG 以产生以 hat{y} 目标为条件的解 x。
• 使用超体积(HV)在前 P% 的 256 个样本上评估性能（P=100,75,50）。

Figure 1: Overview of the PCD framework, which reframes offline MOO as a conditional sampling problem. Training: A conditional diffusion model is trained on a static dataset, using a novel reweighting strategy to emphasize high-quality solutions near the Pareto front. Sampling: At inference, the mod

实验结果

研究问题

• RQ1 如何在离线多目标优化中将问题形式化为不依赖显式目标代理的条件采样？
• RQ2 在离线多目标优化中，针对目标权衡进行条件化的扩散模型是否能有效覆盖帕累托前沿？
• RQ3 重加权与参考方向条件化是否能提升帕累托前沿的覆盖度与质量？

主要发现

Method	Synthetic	MORL	RE	Scientific	MONAS	Avg. rank
 D best	5.45   0.19	1.70  0.27	2.60  0.07	9.35  0.14	11.53  0.06	7.43  0.05
MOBO	8.69  0.30	14.60  0.42	10.00  0.33	6.75  0.47	8.11  0.80	8.81  0.34
E2E + GN	7.33  0.55	5.70  2.14	7.06  0.32	5.35  1.38	9.33  0.53	7.82  0.40
E2E + PC	5.93  0.25	3.50  1.22	6.22  0.33	4.30  1.32	6.60  0.40	6.01  0.29
E2E	6.16  0.30	9.70  2.08	6.06  0.30	4.20  1.40	5.13  0.22	5.71  0.16
MH + GN	8.82  0.53	8.90  2.16	8.14  0.94	5.05  2.14	12.57  0.40	9.84  0.33
MH + PC	8.87  0.45	10.90  1.08	6.74  0.68	6.15  0.91	7.46  0.30	7.68  0.33
MH	6.18  0.53	8.00  1.41	6.14  0.29	5.80  0.89	5.88  0.49	6.10  0.22
MM + COMs	8.02  0.47	3.60  1.29	6.54  0.17	3.85  0.68	7.22  0.43	6.80  0.13
MM + ICT	6.73  0.46	9.10  1.95	5.44  0.32	5.05  0.74	8.42  0.40	7.08  0.13
MM + IOM	5.16  0.51	12.70  0.91	5.76  0.52	4.40  1.15	5.77  0.50	5.80  0.20
MM + TM	6.55  0.82	7.90  2.16	5.78  0.25	5.90  1.29	7.87  0.39	6.91  0.20
MM	6.07  0.50	9.50  0.79	5.94  0.41	6.55  0.93	4.97  0.46	5.80  0.21
ParetoFlow	2.44  0.28	8.50  1.32	1.74  0.17	9.05  0.27	11.19  0.52	6.74  0.23
PCD (ours)	3.38  0.20	5.50  3.30	1.51  0.13	4.05  0.33	7.54  0.50	4.80  0.30

• PCD 在合成数据、MORL、RE、Scientific、MONAS 等任务类别中实现了最佳的整体平均排名。
• PCD 优于如 ParetoFlow 等生成基线，在若干任务上与基于代理的基线相比具有竞争力甚至优越。
• 消融研究表明所提的重加权与参考方向机制对 HV 结果有稳定的提升效果。
• 带有 γ 约为 2.5 的无分类器引导在该水平以上收益递减。
• 在 MORL 任务中，由于高维搜索空间，所有方法的结果都具有挑战性，且没有方法超越离线数据集的非支配点。
• PCD 显示出在多样基准下使用单一固定超参数集的鲁棒性。

Figure 2: Overview of the conditioning points generation procedure : a) The objective space is partitioned via direction vectors, and points are ranked based on non-dominated sorting. b) Each direction vector is paired with the point closest to it in perpendicular distance (black arrow). The rest of