[논문 리뷰] Evolutionary Dynamic Multi-objective Optimization Via Regression Transfer Learning

Zhengzhong Wang, Min Jiang외 4명|arXiv (Cornell University)|2019. 10. 19.

Advanced Multi-Objective Optimization Algorithms참고 문헌 28인용 수 9

한 줄 요약

이 논문은 환경 변화 이후 고품질의 초기 집단을 예측하기 위해 회귀 전이 학습을 활용하는 새로운 진화적 동적 다목적 최적화 알고리즘인 RTLP-DMOA를 제안한다. 기존 환경의 역사적 집단 데이터를 재사용하여 새로운 환경에서의 목적값을 예측하는 회귀 모델을 훈련시킴으로써, 최신 기술에 비해 수렴성과 다양성을 크게 향상시킨다.

ABSTRACT

Dynamic multi-objective optimization problems (DMOPs) remain a challenge to be settled, because of conflicting objective functions change over time. In recent years, transfer learning has been proven to be a kind of effective approach in solving DMOPs. In this paper, a novel transfer learning based dynamic multi-objective optimization algorithm (DMOA) is proposed called regression transfer learning prediction based DMOA (RTLP-DMOA). The algorithm aims to generate an excellent initial population to accelerate the evolutionary process and improve the evolutionary performance in solving DMOPs. When an environmental change is detected, a regression transfer learning prediction model is constructed by reusing the historical population, which can predict objective values. Then, with the assistance of this prediction model, some high-quality solutions with better predicted objective values are selected as the initial population, which can improve the performance of the evolutionary process. We compare the proposed algorithm with three state-of-the-art algorithms on benchmark functions. Experimental results indicate that the proposed algorithm can significantly enhance the performance of static multi-objective optimization algorithms and is competitive in convergence and diversity.

연구 동기 및 목표

• 시간이 지남에 따라 변화하는 충돌하는 목적이 존재하는 동적 다목적 최적화 문제(DMOPs)의 과제를 해결하기 위해.
• 환경 변화에 적응하는 데에 한계가 있는 전통적인 정적 다목적 최적화 알고리즘(SMOAs)의 한계를 극복하기 위해.
• 지능적인 초기 집단 생성을 통해 DMOPs에서의 진화 성능을 향상시키고 수렴성을 가속화하며 다양성을 유지하기 위해.
• 동적 환경에서 독립적이고 동일하게 분포된(IID) 가정이 성립하지 않는 문제를 해결하기 위한 방법을 개발하기 위해.
• 전이 학습을 회귀 모델링과 통합하여 환경 변화 이후 빠른 재최적화를 위한 우수한 해를 예측하기 위해.

제안 방법

• 이전 환경에서의 역사적 집단 데이터를 사용하여 새로운 환경에서의 목적값을 예측하는 데 목적이 있는 회귀 전이 학습 모델을 구축한다.
• 과거의 파레토 최적 해와 그 목적값을 재사용하여 변화하는 문제 환경 전역에서 일반화 가능한 회귀 예측기 모델을 훈련시킨다.
• 훈련된 회귀 모델을 사용하여 새로운 환경에서 후보 해의 목적값을 예측한다.
• 예측된 목적값이 가장 우수한 해들을 선별하여 다음 진화 사이클의 초기 집단으로 선정한다.
• 예측 기반 초기 집단을 정적 다목적 진화 알고리즘(RM-MEDA 등)에 통합하여 동적 환경에서의 성능을 향상시킨다.
• 해당 솔루션 분포가 비-IID일지라도, 영역 적응 원리를 적용하여 서로 다른 시간대의 분포를 정렬한다.

실험 결과

연구 질문

• RQ1 회귀 기반 전이 학습이 동적 다목적 최적화에서 고품질의 초기 집단을 효과적으로 예측할 수 있는가?
• RQ2 기본 테스트 함수들에 대해 RTLP-DMOA가 최신 기술의 DMOAs와 비교해 수렴성 및 다양성 지표에서 어떻게 성능을 내는가?
• RQ3 회귀 전이 학습의 통합이 정적 다목적 알고리즘의 성능을 동적 환경에서 향상시키는가?
• RQ4 기존 전이 학습의 한계를 비-IID 솔루션 분포에서 얼마나 효과적으로 극복하는가?
• RQ5 예측 모델이 다양한 변화 빈도와 강도를 가진 다양한 동적 테스트 설정에서 안정성을 유지할 수 있는가?

주요 결과

• RTLP-DMOA는 MIGD 지표 기준 16개 테스트 인스턴스 중 13개에서 최고의 수렴 성능를 기록했다.
• 모든 테스트 함수에서 nt=10 및 τt=5 조건에서 기준선 RM-MEDA 대비 MIGD 값이 22.66%에서 96.39%까지 유의미하게 향상되었다.
• 초과체적적률(MS) 지표 기준 RTLP-DMOA는 16개 인스턴스 중 13개에서 최고의 값을 기록했으며, 모든 구성에서 FDA4 및 FDA5에서 완벽한 점수(1.0000)를 기록했다.
• 제거 실험을 통해 RTLP-RM-MEDA가 RM-MEDA 대비 MS 값에서 0.08%에서 39.88%까지 향상되었고, MIGD 감소율에서 최대 96.39%까지 향상됨을 확인했다.
• RTLP-DMOA는 모든 기준 테스트 함수에서 뛰어난 다양성과 수렴성을 유지했으며, 특히 FDA4 및 FDA5와 같은 삼목적 문제에서 뛰어난 성능를 보였다.
• 변화 빈도(τt)와 변화 수(nt)가 다양한 조건에서도 일관된 성능 향상을 보이며 뛰어난 안정성을 입증했다.