[論文レビュー] MOEA/D-GM: Using probabilistic graphical models in MOEA/D for solving combinatorial optimization problems

Murilo Zangari de Souza, Roberto Santana+2 more|arXiv (Cornell University)|Nov 18, 2015

Manufacturing Process and Optimization参考文献 53被引用数 9

ひとこと要約

本稿では、組合せ最適化問題における性能向上を図るために、確率的グラフィカルモデル（PGM）を分解に基づくMOEA/Dアプローチに統合した、MOEA/D-GMと呼ばれる新しい多目的進化的アルゴリズムフレームワークを提案する。相互情報量行列から得られる木構造モデルを用いた多変量PGMの学習とサンプリングにより、MOEA/D-GMは、遺伝的演算子や一変量モデルを用いる従来のMOEA/Dと比較して、偽のbi-Trap5問題における真のパレート最適解集合に著しく優れた近似を達成する。

ABSTRACT

Evolutionary algorithms based on modeling the statistical dependencies (interactions) between the variables have been proposed to solve a wide range of complex problems. These algorithms learn and sample probabilistic graphical models able to encode and exploit the regularities of the problem. This paper investigates the effect of using probabilistic modeling techniques as a way to enhance the behavior of MOEA/D framework. MOEA/D is a decomposition based evolutionary algorithm that decomposes a multi-objective optimization problem (MOP) in a number of scalar single-objective subproblems and optimizes them in a collaborative manner. MOEA/D framework has been widely used to solve several MOPs. The proposed algorithm, MOEA/D using probabilistic Graphical Models (MOEA/D-GM) is able to instantiate both univariate and multi-variate probabilistic models for each subproblem. To validate the introduced framework algorithm, an experimental study is conducted on a multi-objective version of the deceptive function Trap5. The results show that the variant of the framework (MOEA/D-Tree), where tree models are learned from the matrices of the mutual information between the variables, is able to capture the structure of the problem. MOEA/D-Tree is able to achieve significantly better results than both MOEA/D using genetic operators and MOEA/D using univariate probability models, in terms of the approximation to the true Pareto front.

研究の動機と目的

• 多目的最適化における変数の依存関係をモデル化するために、確率的グラフィカルモデル（PGM）を統合した一般化されたMOEA/Dフレームワークの開発。
• 組合せ最適化問題における収束性と多様性の向上が、PGMベースのモデリングによって達成されるかどうかを実験的に評価すること。
• 特に偽の関数において、学習されたPGMが問題の本質的構造をどの程度正しく捉えられるかを調査すること。
• 二目的版Trap5関数を用いた比較実験を通じて、MOEA/D-GMの有効性を実証すること。
• サブプロブレム間でのモデルの再利用や転送が、スケーラビリティと効率性の向上に寄与する可能性を検討すること。

提案手法

• MOEA/D-GMフレームワークは、各スカラー化サブプロブレムに対して別個の確率的グラフィカルモデルを学習することで、MOEA/Dを拡張する。
• 変数間の相互情報量行列を用いて最大重みのスパニングツリーを構築し、これにより変数間の相互作用をPGMとして捉える。
• 隣接するサブプロブレムにすでに存在する解の生成を避けるために、多様性を保証するサンプリング機構を導入する。
• 一変量モデルと多変量PGMの両方をサポートし、実験では木構造モデル（MOEA/D-Tree）を用いる。
• 従来の遺伝的演算子の代わりに、モデルに基づくサンプリングを用いて新しい解を生成する。
• 近隣サイズと集団サイズを変化させ、それらがモデルの正確性と性能に与える影響を調査する。

実験結果

リサーチクエスチョン

• RQ1 MOEA/Dに確率的グラフィカルモデルを統合することで、多目的組合せ最適化問題における収束性と多様性が向上するか？
• RQ2 MOEA/D-GMは、bi-Trap5のような偽の多目的関数における構造的依存関係（例：構成要素）をどの程度正しく捉えられるか？
• RQ3 多変量PGM（例：木構造モデル）を用いることで、MOEA/Dにおける一変量モデルや標準的遺伝的演算子と比較して性能が向上するか？
• RQ4 近隣サイズが学習されたモデルの品質および得られるパレート最適解集合の近似に与える影響は？
• RQ5 MOEA/D-GMが学習したモデルは、サブプロブレム間で再利用または転送可能であり、計算効率の向上に寄与するか？

主な発見

• 木構造PGMを用いるMOEA/D-Treeは、遺伝的演算子を用いるMOEA/Dおよび一変量モデルを用いるMOEA/Dと比較して、真のパレート最適解集合への収束性が著しく優れている。
• サブプロブレムから学習されたマージ行列は、bi-Trap5関数に5変数の構成要素が存在することを明確に示しており、モデルが問題の真の構造を正しく捉えていることを確認した。
• 近隣サイズが70のとき、サイズ20のときよりもモデルの正確性が向上しており、これはより大きな近隣領域が誤った相関関係を低減し、構造的学習を促進することを示している。
• すべての分割で目的関数が相反する中間サブプロブレム（i=100）ですら、意味のあるモデルを学習できたことから、分解全体にわたるロバストネスが示された。
• 多様性を保証するサンプリング機構により、全テストアルゴリズムの収束性と多様性指標が向上した。
• 結果から、サブプロブレム間での構造的転送が可能であると考えられ、小さな近隣領域から学習されたモデルでさえも、重要な相互作用を捉えていた。