[论文解读] A Denoising Autoencoder that Guides Stochastic Search

Alexander W. Churchill, Siddharth Sigtia+1 more|arXiv (Cornell University)|Apr 6, 2014

Metaheuristic Optimization Algorithms Research参考文献 17被引用 6

一句话总结

本文提出一种去噪自编码器（DA），通过从迄今为止观察到的最佳基因型中学习非线性突变分布，引导遗传算法中的随机搜索。通过在高价值解的衰减记忆上在线训练DA，并利用噪声污染控制吸引盆大小，该方法在组合优化和连续优化问题上均加速了收敛，优于标准遗传算法，并实现了在相似问题间的迁移学习。

ABSTRACT

An algorithm is described that adaptively learns a non-linear mutation distribution. It works by training a denoising autoencoder (DA) online at each generation of a genetic algorithm to reconstruct a slowly decaying memory of the best genotypes so far. A compressed hidden layer forces the autoencoder to learn hidden features in the training set that can be used to accelerate search on novel problems with similar structure. Its output neurons define a probability distribution that we sample from to produce offspring solutions. The algorithm outperforms a canonical genetic algorithm on several combinatorial optimisation problems, e.g. multidimensional 0/1 knapsack problem, MAXSAT, HIFF, and on parameter optimisation problems, e.g. Rastrigin and Rosenbrock functions.

研究动机与目标

• 开发一种自适应学习非线性突变分布的方法，以提升进化算法中的搜索效率。
• 通过保留并重用先前求解实例中的知识，实现在相似优化问题间的迁移学习。
• 将去噪自编码器的表征能力与遗传算法相结合，以实现复杂问题的更快收敛。
• 探索正则化深度学习模型如何以生物上合理且计算高效的方式引导随机搜索。
• 在离散组合问题和连续参数优化任务（包括迁移学习场景）上评估该方法。

提出的方法

• 在每代中在线训练去噪自编码器（DA），使用种群中最佳基因型作为训练数据。
• DA的输入是最佳基因型的噪声版本，噪声以随机方式施加，以促进泛化并扩大吸引盆范围。
• DA的隐层学习压缩的、非线性的特征，表示高质量解中的结构模式。
• 解码器输出被解释为条件概率分布的参数：二值问题使用伯努利分布，连续问题使用多元正态分布。
• 通过从训练后DA的输出分布中采样生成后代，从而将其有效用作学习到的突变算子。
• 训练数据是最佳基因型的缓慢衰减记忆，确保模型能适应不断演化的解空间。

实验结果

研究问题

• RQ1 去噪自编码器能否学习到一种非线性、自适应的突变分布，以提升进化算法中的搜索性能？
• RQ2 去噪自编码器中输入噪声水平如何影响搜索空间中吸引盆的大小和形状？
• RQ3 从求解某一类问题的一个实例中学到的知识，是否可被迁移以加速求解该类的新、未见实例？
• RQ4 所提出的方法是否在离散组合问题和连续参数优化问题上均优于标准遗传算法？
• RQ5 具有在线学习能力的深层自编码器架构，在同一类问题的不同实例间，其泛化能力在多大程度上得以体现？

主要发现

• 所提出的DAGA（去噪自编码器引导算法）在256位HIFF和MAXSAT问题上优于标准遗传算法，实现了更快的收敛速度和更优的解质量。
• 在多维0/1背包问题上，DAGA相比标准GA将收敛速度提升了20%。
• 在Rastrigin和Rosenbrock函数等连续问题上，DAGA在收敛速率上表现出一致的改进，尤其在隐藏层较大时（为输入大小的2.5倍）。
• 迁移学习实验表明，显著加快了求解速度：在预训练先前实例后，DAGA平均仅需30%的迭代次数即可求解新问题实例。
• 低噪声水平（如0.05）在复杂结构问题（如256位HIFF）中表现最优，有助于保持种群多样性并防止过早收敛。
• 该方法在各类问题上均表现出鲁棒性，尤其在具有强关联性和非线性结构的问题上性能提升最为显著。