[論文レビュー] Stochastic convergence of random search to fixed size Pareto set approximations

Marco Laumanns|arXiv (Cornell University)|Nov 19, 2007

Advanced Multi-Objective Optimization Algorithms参考文献 17被引用数 7

ひとこと要約

本稿では、最大サイズ $k$ の固定されたパレート集合の近似に対して、保証された誤差境界 $ϵ$ を持つ確率的収束結果を提示する。$ϵ = 2^{\delta}$ であり、$δ$ はパレート集合を高々 $k$ 点で完全にカバーできる最小のグリッドレベルである。多層グリッドに基づく選択基準を導入し、ほとんど確実に $ϵ$-パレート集合への収束を保証する。

ABSTRACT

This paper presents the first convergence result for random search algorithms to a subset of the Pareto set of given maximum size k with bounds on the approximation quality. The core of the algorithm is a new selection criterion based on a hypothetical multilevel grid on the objective space. It is shown that, when using this criterion for accepting new search points, the sequence of solution archives converges with probability one to a subset of the Pareto set that epsilon-dominates the entire Pareto set. The obtained approximation quality epsilon is equal to the size of the grid cells on the finest level of resolution that allows an approximation with at most k points within the family of grids considered. While the convergence result is of general theoretical interest, the archiving algorithm might be of high practical value for any type iterative multiobjective optimization method, such as evolutionary algorithms or other metaheuristics, which all rely on the usage of a finite on-line memory to store the best solutions found so far as the current approximation of the Pareto set.

研究の動機と目的

• 固定サイズのパレート集合の部分集合への確率的収束をほとんど確実に確立すること。このとき、近似誤差は有界である。
• 進化的アルゴリズムなどの反復的多目的最適化手法における有限記憶領域のアーカイブ要件に対応すること。
• 最大アーカイブサイズ $k$ が与えられた場合、近似の品質を $\epsilon$-優位性で定量的に保証すること。
• 目的空間における階層的グリッドに基づく、新たな選択メカニズムを導入し、明確に定義された近似品質への収束を可能にすること。
• グリッド解像度のレベルを通じて、アーカイブサイズ $k$ と近似誤差 $\epsilon$ のトレードオフを形式化すること。

提案手法

• 目的空間に多層グリッド構造を導入し、各レベルが異なるセルサイズ $2^b$ を持つ。
• グリッドセルに基づく優位関係 $\unrhd_b$ を定義する：$x \unrhd_b y$ であるとは、$f(x) + 2^b \geq f(y)$ を満たすこと。これによりボックスベースの比較が可能になる。
• アーカイブアルゴリズムにおける二段階更新ルールを採用する。まず、現在のアーカイブ内での支配点を $\unrhd_b$ を用いて削除する。次に、カバレッジを向上させるか独立性を維持する場合にのみ、新しい点を追加する。
• 更新プロセスにおいて、カバレッジと多様性のバランスを取るために動的グリッドレベル $\beta$ を用いる。これにより、アーカイブが独立かつ支配されない状態を保つ。
• 収束の証明にマルコフ連鎖の吸収状態の概念を適用する。システムは、これ以上改善が不可能な状態に安定する。
• パレート集合全体を高々 $k$ 点でボックス優位に支配できる最小のグリッドレベル $\delta$ を用い、近似誤差 $\epsilon = 2^{\delta}$ を定義する。

実験結果

リサーチクエスチョン

• RQ1 確率的探索アルゴリズムは、有界な誤差 $\epsilon$ を持つ固定サイズのパレート集合近似へ、確率的に収束することができるか？
• RQ2 どの選択基準が、アーカイブが高々 $k$ 個の点で $\epsilon$-パレート集合に収束することを保証するか？
• RQ3 近似誤差 $\epsilon$ は、グリッド解像度および最大アーカイブサイズ $k$ とどのように関係しているか？
• RQ4 提案された選択ルールのもとで、$\epsilon$-パレート集合への収束がほとんど確実に成立するか？
• RQ5 提案手法は、最終的なアーカイブが最小限の冗長性で、$\epsilon$-優位性のもとでパレート集合全体をカバーすることを保証できるか？

主な発見

• 確率的探索アルゴリズムが生成する解アーカイブの系列は、確率1でパレート集合の部分集合に収束する。この部分集合は、全パレート集合を $\epsilon$-優位に支配する。
• 近似誤差 $\epsilon$ は正確に $2^{\delta}$ に等しく、ここで $\delta$ はパレート集合全体を高々 $k$ 点で完全にカバーできる最小のグリッドレベルである。
• アルゴリズムのマルコフ連鎖の任意の吸収状態は、$\mathcal{B}_{\delta}(\mathcal{A}) = \mathcal{X}$ を満たす。これは、アーカイブ $\mathcal{A}$ がすべての妥当な解を $\epsilon$-優位に支配することを意味する。
• アルゴリズムは、制約 $|\mathcal{A}| \leq k$ の下で、グリッドレベル $\delta-1$ のボックスごとにカバーされるパレート集合要素数を最大化する。
• この手法は、最終的なアーカイブが $\epsilon$-パレート集合であることを保証する。また、$\epsilon = 0$ の場合、これは標準的なカバー独立集合に帰着する。
• 収束結果は有限探索空間の仮定のもとで成立し、メタヒューリスティクスにおける有限記憶領域のアーカイブの理論的基盤を提供する。