[论文解读] Deep Boltzmann Machines in Estimation of Distribution Algorithms for Combinatorial Optimization

Malte Probst, Franz Rothlauf|arXiv (Cornell University)|Sep 22, 2015

Generative Adversarial Networks and Image Synthesis参考文献 23被引用 5

一句话总结

该论文提出DBM-EDA，一种使用深度玻尔兹曼机（DBM）作为概率模型的估计分布算法（EDA），用于求解组合优化问题。该方法利用DBM的分层表征学习能力来建模复杂依赖关系，在可加分解、具有欺骗性的陷阱函数上表现优于BOA，特别是在75位和100位实例上，因其能够通过条件独立的隐层神经元捕捉可分离的、分块的适应度结构。

ABSTRACT

Estimation of Distribution Algorithms (EDAs) require flexible probability models that can be efficiently learned and sampled. Deep Boltzmann Machines (DBMs) are generative neural networks with these desired properties. We integrate a DBM into an EDA and evaluate the performance of this system in solving combinatorial optimization problems with a single objective. We compare the results to the Bayesian Optimization Algorithm. The performance of DBM-EDA was superior to BOA for difficult additively decomposable functions, i.e., concatenated deceptive traps of higher order. For most other benchmark problems, DBM-EDA cannot clearly outperform BOA, or other neural network-based EDAs. In particular, it often yields optimal solutions for a subset of the runs (with fewer evaluations than BOA), but is unable to provide reliable convergence to the global optimum competitively. At the same time, the model building process is computationally more expensive than that of other EDAs using probabilistic models from the neural network family, such as DAE-EDA.

研究动机与目标

• 探究深度玻尔兹曼机（DBMs）是否可作为估计分布算法（EDAs）中组合优化的有效概率模型。
• 评估DBM-EDA在基准问题上的性能，特别是具有复杂、欺骗性或分层适应度结构的问题。
• 将DBM-EDA的收敛速度、解的质量和计算效率与最先进的贝叶斯优化算法（BOA）进行比较。
• 分析DBM-EDA在某些问题上成功、在其他问题上失败的原因，尤其关注模型学习稳定性与分层抽象能力。
• 通过评估其通过学习表征捕捉问题特定结构特性的能力，探索深度生成模型在EDA中的潜力。

提出的方法

• 在EDAs中集成深度玻尔兹曼机（DBM）作为概率模型，替代BOA中使用的传统贝叶斯网络。
• 采用两隐层DBM架构，对决策变量和潜在特征的联合概率分布进行建模，实现多层抽象。
• 在DBM训练过程中使用平均场近似来估计后验分布，尽管这可能在多峰分布上限制性能。
• 从训练好的DBM中采样新候选解，以形成下一代EDAs，从而保持种群多样性与收敛性。
• 采用标准EDAs循环：选择高适应度个体，从父代构建模型，并采样新候选解用于下一代。
• 可视化学习到的权重矩阵，分析隐层神经元如何与问题结构对齐，特别是在分块可分离适应度函数中。

实验结果

研究问题

• RQ1 深度玻尔兹曼机能否有效建模组合优化中高质量解的概率分布？
• RQ2 DBM-EDA在收敛速度和解质量方面是否优于BOA，特别是在如串联欺骗性陷阱这类困难的可加分解问题上？
• RQ3 为何DBM-EDA无法解决更大的HIFF问题，尽管其分层架构在理论上适合此类问题？
• RQ4 DBM学习表征的结构（如权重矩阵）在多大程度上反映了底层问题结构，特别是在可分离适应度函数中？
• RQ5 DBM训练中的平均场近似在噪声较大的EDAs环境中，对模型质量与收敛可靠性的限制程度如何？

主要发现

• 在75位和100位的串联5陷阱问题上，DBM-EDA显著优于BOA，分别仅需6,752 ± 1,254和7,697 ± 843次适应度评估，而BOA分别需要192,125 ± 18,928和223,450 ± 21,500次评估。
• 在30位5陷阱问题上，DBM-EDA在20次运行中有18次达到最优解，仅需3,000次适应度评估，而BOA仅需500次，尽管后者在CPU时间上更快。
• 尽管问题具有分层结构，DBM-EDA完全未能解决128位的HIFF问题，表明其在模型学习或泛化能力方面存在局限。
• DBM-EDA的模型构建过程较快，但由于深层架构训练，其计算成本高于其他基于神经网络的EDAs（如DAE-EDA）。
• DBM第一层权重的可视化显示，单个隐层神经元强烈且选择性地影响相邻的五个变量块，与问题的加法可分离结构一致。
• 尽管收敛过程存在较高方差，DBM-EDA偶尔在比BOA更少的评估次数内找到最优解，表明在成功运行时具备实现高性能的潜力。