[论文解读] Evolutionary Dynamic Multi-objective Optimization Via Regression Transfer Learning

Zhengzhong Wang, Min Jiang+4 more|arXiv (Cornell University)|Oct 19, 2019

Advanced Multi-Objective Optimization Algorithms参考文献 28被引用 9

一句话总结

该论文提出RTLP-DMOA，一种新颖的进化动态多目标优化算法，通过回归迁移学习在环境变化后预测高质量的初始种群。通过重用历史种群数据训练回归模型以预测新环境中的目标值，该算法在收敛性和多样性方面显著优于当前最先进方法。

ABSTRACT

Dynamic multi-objective optimization problems (DMOPs) remain a challenge to be settled, because of conflicting objective functions change over time. In recent years, transfer learning has been proven to be a kind of effective approach in solving DMOPs. In this paper, a novel transfer learning based dynamic multi-objective optimization algorithm (DMOA) is proposed called regression transfer learning prediction based DMOA (RTLP-DMOA). The algorithm aims to generate an excellent initial population to accelerate the evolutionary process and improve the evolutionary performance in solving DMOPs. When an environmental change is detected, a regression transfer learning prediction model is constructed by reusing the historical population, which can predict objective values. Then, with the assistance of this prediction model, some high-quality solutions with better predicted objective values are selected as the initial population, which can improve the performance of the evolutionary process. We compare the proposed algorithm with three state-of-the-art algorithms on benchmark functions. Experimental results indicate that the proposed algorithm can significantly enhance the performance of static multi-objective optimization algorithms and is competitive in convergence and diversity.

研究动机与目标

• 解决动态多目标优化问题（DMOPs）中冲突目标随时间演变的挑战。
• 克服传统静态多目标优化算法（SMOAs）在适应环境变化方面的局限性。
• 通过智能初始种群生成，加速收敛并保持多样性，从而提升DMOPs中的进化性能。
• 提出一种克服动态环境中独立同分布（IID）假设失效的方法。
• 将迁移学习与回归建模相结合，预测优质解以实现环境变化后的快速再优化。

提出的方法

• 利用先前环境中的历史种群数据构建回归迁移学习模型，以预测新环境中的目标值。
• 重用过去的Pareto最优解及其目标值，训练可泛化于变化问题景观的回归预测器。
• 将训练好的回归模型应用于预测新环境中候选解的目标值。
• 选择预测目标值最优的高质量解作为下一进化周期的初始种群。
• 将基于预测的初始种群集成到静态多目标进化算法（如RM-MEDA）中，以提升在动态环境中的性能。
• 使用领域自适应原理对不同时点的解分布进行对齐，即使其非IID亦可适用。

实验结果

研究问题

• RQ1 基于回归的迁移学习是否能有效预测动态多目标优化中的高质量初始种群？
• RQ2 在基准函数上，所提出的RTLP-DMOA在收敛性和多样性指标方面与当前最先进DMOAs相比表现如何？
• RQ3 回归迁移学习的集成是否提升了静态多目标算法在动态环境中的性能？
• RQ4 该方法在多大程度上克服了传统迁移学习在非IID解分布中的局限性？
• RQ5 预测模型是否能在不同变化频率和强度的多种动态测试设置中保持鲁棒性？

主要发现

• 在16个测试实例中，RTLP-DMOA在逆向生成距离（MIGD）指标下取得了13个实例的最佳收敛性能。
• 在nt=10和τt=5时，与基线RM-MEDA相比，RTLP-DMOA在所有测试函数上的MIGD值显著提升了22.66%至96.39%。
• 在16个实例中，RTLP-DMOA在超体积度量（MS）上获得了13个最高值，且在所有配置下对FDA4和FDA5实现了完美得分（1.0000）。
• 消融实验确认，RTLP-RM-MEDA在MS值上优于RM-MEDA 0.08%至39.88%，在MIGD降低方面最高达96.39%。
• RTLP-DMOA在所有基准函数上均保持了优越的多样性和收敛性，尤其在三目标问题如FDA4和FDA5上表现突出。
• 该方法在不同环境变化频率（τt）和变化次数（nt）下均表现出鲁棒性，性能提升稳定一致。