[论文解读] MOEA/D-GM: Using probabilistic graphical models in MOEA/D for solving combinatorial optimization problems

Murilo Zangari de Souza, Roberto Santana+2 more|arXiv (Cornell University)|Nov 18, 2015

Manufacturing Process and Optimization参考文献 53被引用 9

一句话总结

本文提出MOEA/D-GM，一种新颖的多目标进化算法框架，将概率图模型（PGMs）整合进基于分解的MOEA/D方法，以提升组合优化问题的性能。通过学习并采样多元PGMs——特别是基于互信息矩阵的树状结构模型——MOEA/D-GM在逼近欺骗性双Trap5问题的真实Pareto前沿方面，显著优于使用遗传算子或单变量模型的传统MOEA/D。

ABSTRACT

Evolutionary algorithms based on modeling the statistical dependencies (interactions) between the variables have been proposed to solve a wide range of complex problems. These algorithms learn and sample probabilistic graphical models able to encode and exploit the regularities of the problem. This paper investigates the effect of using probabilistic modeling techniques as a way to enhance the behavior of MOEA/D framework. MOEA/D is a decomposition based evolutionary algorithm that decomposes a multi-objective optimization problem (MOP) in a number of scalar single-objective subproblems and optimizes them in a collaborative manner. MOEA/D framework has been widely used to solve several MOPs. The proposed algorithm, MOEA/D using probabilistic Graphical Models (MOEA/D-GM) is able to instantiate both univariate and multi-variate probabilistic models for each subproblem. To validate the introduced framework algorithm, an experimental study is conducted on a multi-objective version of the deceptive function Trap5. The results show that the variant of the framework (MOEA/D-Tree), where tree models are learned from the matrices of the mutual information between the variables, is able to capture the structure of the problem. MOEA/D-Tree is able to achieve significantly better results than both MOEA/D using genetic operators and MOEA/D using univariate probability models, in terms of the approximation to the true Pareto front.

研究动机与目标

• 开发一种通用的MOEA/D框架，整合概率图模型（PGMs）以建模多目标优化中的变量依赖关系。
• 通过实验评估基于PGM的建模是否能提升MOEA/D在组合优化问题中的收敛性和多样性。
• 探究所学习的PGMs在捕捉问题内在结构（尤其是欺骗性函数）方面的效果。
• 通过在Trap5函数的双目标版本上进行对比实验，证明MOEA/D-GM的有效性。
• 探索在子问题间重用或迁移模型以提升可扩展性和效率的潜力。

提出的方法

• MOEA/D-GM框架通过为每个标量化子问题学习独立的概率图模型，扩展了MOEA/D。
• 利用变量间的互信息矩阵构建最大权生成树作为PGMs，以捕捉变量间的相互作用。
• 引入一种保持多样性的采样机制，以避免生成邻近子问题中已存在的解。
• 该框架支持单变量和多变量PGMs，实验中采用树模型（MOEA/D-Tree）。
• 算法采用基于模型的采样而非传统遗传算子来生成新解。
• 通过改变邻域大小和种群大小，研究其对模型准确性和性能的影响。

实验结果

研究问题

• RQ1 将概率图模型整合进MOEA/D是否能提升求解多目标组合优化问题时的收敛性和多样性？
• RQ2 MOEA/D-GM在捕捉欺骗性多目标函数（如双Trap5）中的结构依赖关系（例如构建块）方面表现如何？
• RQ3 使用多变量PGMs（如树模型）是否能带来优于单变量模型或标准遗传算子的性能提升？
• RQ4 邻域大小如何影响所学模型的质量及最终Pareto前沿的近似效果？
• RQ5 MOEA/D-GM所学的模型是否可在子问题间重用或迁移，以提升计算效率？

主要发现

• 采用树状结构PGMs的MOEA/D-Tree版本，在逼近真实Pareto前沿方面显著优于使用遗传算子的MOEA/D和使用单变量模型的MOEA/D。
• 从子问题学习到的合并矩阵清晰揭示了双Trap5函数中存在5个变量的构建块，证实模型准确捕捉了问题的真实结构。
• 当邻域大小为70时，模型准确率优于大小为20的情况，表明更大的邻域可减少虚假相关性并提升结构学习效果。
• 即使在中间子问题（i=100）中，尽管所有分区的目标均存在冲突，仍能学习到有意义的模型，表明该方法在分解过程中具有强鲁棒性。
• 保持多样性的采样机制显著提升了所有测试算法的收敛性和多样性指标。
• 结果表明，子问题间的结构迁移是可行的，因为小邻域中学习到的模型仍能捕捉到关键交互关系。