Skip to main content
Nubint
QUICK REVIEW

[論文レビュー] Pareto-Conditioned Diffusion Models for Offline Multi-Objective Optimization

Jatan Shrestha, Santeri Heiskanen|arXiv (Cornell University)|Jan 31, 2026
Advanced Multi-Objective Optimization Algorithms被引用数 0
ひとこと要約

PCDはオフラインのMOOタスクにおいて、 surrogate-modelを使わずターゲットトレードオフで条件付けを行う拡散サンプリングへとオフラインMOOを再定義する。リウェイト戦略と参照方向条件付けを用い、性能と多様性を両立。

ABSTRACT

Multi-objective optimization (MOO) arises in many real-world applications where trade-offs between competing objectives must be carefully balanced. In the offline setting, where only a static dataset is available, the main challenge is generalizing beyond observed data. We introduce Pareto-Conditioned Diffusion (PCD), a novel framework that formulates offline MOO as a conditional sampling problem. By conditioning directly on desired trade-offs, PCD avoids the need for explicit surrogate models. To effectively explore the Pareto front, PCD employs a reweighting strategy that focuses on high-performing samples and a reference-direction mechanism to guide sampling towards novel, promising regions beyond the training data. Experiments on standard offline MOO benchmarks show that PCD achieves highly competitive performance and, importantly, demonstrates greater consistency across diverse tasks than existing offline MOO approaches.

研究の動機と目的

  • 静的データセットのみが利用可能で、代理モデルが信頼できない可能性があるオフラインMOOを動機づける。
  • ターゲットParetoトレードオフに条件付けて解を直接サンプリングする条件付き生成フレームワークを開発する。
  • 高品質なParetoフロント領域を強調する多目的リウェイト戦略を導入する。
  • 訓練データを超えた多様で新規な条件付け点を生成する参照方向メカニズムを提案する。

提案手法

  • オフラインデータセット上で、複数の目的空間のグリッドとドミナンスベースの重み付けでサンプルを再重み付けした条件付き拡散モデル p(x|y;σ) を訓練する。
  • オブジェクティブスペース上のグリッドと支配関係に基づく重み付けで高性能点を強調する。
  • γでガイダンス強度を制御する classifier-free guidance により、条件付けターゲットへ向けたサンプリングを誘導する。
  • NSGA-IIIに触発された参照方向メカニズムで多様で高品質なターゲットを生み出す条件付け点を生成する。
  • サンプリング時には hat{y} ターゲットに条件付けた解 x を生成するために CFG を適用する。
  • 256サンプルの上位Pパーセンタイル（P=100,75,50）に対して HV（Hypervolume）で性能を評価する。
Figure 1: Overview of the PCD framework, which reframes offline MOO as a conditional sampling problem. Training: A conditional diffusion model is trained on a static dataset, using a novel reweighting strategy to emphasize high-quality solutions near the Pareto front. Sampling: At inference, the mod
Figure 1: Overview of the PCD framework, which reframes offline MOO as a conditional sampling problem. Training: A conditional diffusion model is trained on a static dataset, using a novel reweighting strategy to emphasize high-quality solutions near the Pareto front. Sampling: At inference, the mod

実験結果

リサーチクエスチョン

  • RQ1オフラインMOOを明示的な目的 surrogate なしで条件付きサンプリングとしてどう定式化できるか。
  • RQ2ターゲットトレードオフに条件付けられた拡散モデルは、オフラインMOOでパレート前線を効果的にカバーできるか。
  • RQ3リウェイトと参照方向条件付けはパレート前線のカバーと品質を改善するか。

主な発見

MethodSyntheticMORLREScientificMONASAvg. rank
\u0016 D best5.45 \u000b \u000b 0.191.70 \u000b 0.272.60 \u000b 0.079.35 \u000b 0.1411.53 \u000b 0.067.43 \u000b 0.05
MOBO8.69 \u000b 0.3014.60 \u000b 0.4210.00 \u000b 0.336.75 \u000b 0.478.11 \u000b 0.808.81 \u000b 0.34
E2E + GN7.33 \u000b 0.555.70 \u000b 2.147.06 \u000b 0.325.35 \u000b 1.389.33 \u000b 0.537.82 \u000b 0.40
E2E + PC5.93 \u000b 0.253.50 \u000b 1.226.22 \u000b 0.334.30 \u000b 1.326.60 \u000b 0.406.01 \u000b 0.29
E2E6.16 \u000b 0.309.70 \u000b 2.086.06 \u000b 0.304.20 \u000b 1.405.13 \u000b 0.225.71 \u000b 0.16
MH + GN8.82 \u000b 0.538.90 \u000b 2.168.14 \u000b 0.945.05 \u000b 2.1412.57 \u000b 0.409.84 \u000b 0.33
MH + PC8.87 \u000b 0.4510.90 \u000b 1.086.74 \u000b 0.686.15 \u000b 0.917.46 \u000b 0.307.68 \u000b 0.33
MH6.18 \u000b 0.538.00 \u000b 1.416.14 \u000b 0.295.80 \u000b 0.895.88 \u000b 0.496.10 \u000b 0.22
MM + COMs8.02 \u000b 0.473.60 \u000b 1.296.54 \u000b 0.173.85 \u000b 0.687.22 \u000b 0.436.80 \u000b 0.13
MM + ICT6.73 \u000b 0.469.10 \u000b 1.955.44 \u000b 0.325.05 \u000b 0.748.42 \u000b 0.407.08 \u000b 0.13
MM + IOM5.16 \u000b 0.5112.70 \u000b 0.915.76 \u000b 0.524.40 \u000b 1.155.77 \u000b 0.505.80 \u000b 0.20
MM + TM6.55 \u000b 0.827.90 \u000b 2.165.78 \u000b 0.255.90 \u000b 1.297.87 \u000b 0.396.91 \u000b 0.20
MM6.07 \u000b 0.509.50 \u000b 0.795.94 \u000b 0.416.55 \u000b 0.934.97 \u000b 0.465.80 \u000b 0.21
ParetoFlow2.44 \u000b 0.288.50 \u000b 1.321.74 \u000b 0.179.05 \u000b 0.2711.19 \u000b 0.526.74 \u000b 0.23
PCD (ours)3.38 \u000b 0.205.50 \u000b 3.301.51 \u000b 0.134.05 \u000b 0.337.54 \u000b 0.504.80 \u000b 0.30
  • PCDは合成、MORL、RE、Scientific、MONAS のタスクカテゴリ全体で最良の平均順位を達成。
  • PCDは ParetoFlow のような生成ベースのベースラインを上回り、複数のタスクで surrogate ベースのベースラインより優位または同等。
  • アブレーションにより提案されたリウェイトと参照方向メカニズムが HV の結果を一貫して改善。
  • γ が約 2.5 の分類なしガイダンスはそれ以上のレベルでのリターン減少を示す。
  • MORL タスクでは高次元探索空間のため全手法が難しく、オフラインデータセットの支配されていない点を上回る手法はなし。
  • PCDは多様なベンチマークに対して単一の固定ハイパーパラメータセットで頑健性を示す。
Figure 2: Overview of the conditioning points generation procedure : a) The objective space is partitioned via direction vectors, and points are ranked based on non-dominated sorting. b) Each direction vector is paired with the point closest to it in perpendicular distance (black arrow). The rest of
Figure 2: Overview of the conditioning points generation procedure : a) The objective space is partitioned via direction vectors, and points are ranked based on non-dominated sorting. b) Each direction vector is paired with the point closest to it in perpendicular distance (black arrow). The rest of

より良い研究を、今すぐ始めましょう

論文設計から論文執筆まで、研究時間を劇的に削減しましょう。

クレジットカード登録不要

このレビューはAIが作成し、人間の編集者が確認しました。