[논문 리뷰] The Ant Swarm Neuro-Evolution Procedure for Optimizing Recurrent Networks

AbdElRahman ElSaid, Alexander G. Ororbia외 1명|ArXiv.org|2019. 09. 26.

Advanced Memory and Neural Computing참고 문헌 31인용 수 6

한 줄 요약

이 논문은 시간 시리즈 예측을 위한 희박하고 높은 성능을 보이는 순환 신경망(RNN) 아키텍처를 자동으로 설계하기 위해 개미 군집 최적화에 영감을 받은 새로운 신경진화 알고리즘인 Ant Swarm Neuro-Evolution(ASNE)을 제안한다. 전용 개미 에이전트, 동적 페로몬 정규화(L1/L2를 모방함), 그리고 라마르크주의 가중치 초기화 전략을 사용함으로써, ASNE는 실제 전력 발전소 데이터셋에서 NEAT와 이전 최고 성능 기준을 초월하여 테스트 RMSE 0.03286을 달성한다.

ABSTRACT

Hand-crafting effective and efficient structures for recurrent neural networks (RNNs) is a difficult, expensive, and time-consuming process. To address this challenge, we propose a novel neuro-evolution algorithm based on ant colony optimization (ACO), called ant swarm neuro-evolution (ASNE), for directly optimizing RNN topologies. The procedure selects from multiple modern recurrent cell types such as Delta-RNN, GRU, LSTM, MGU and UGRNN cells, as well as recurrent connections which may span multiple layers and/or steps of time. In order to introduce an inductive bias that encourages the formation of sparser synaptic connectivity patterns, we investigate several variations of the core algorithm. We do so primarily by formulating different functions that drive the underlying pheromone simulation process (which mimic L1 and L2 regularization in standard machine learning) as well as by introducing ant agents with specialized roles (inspired by how real ant colonies operate), i.e., explorer ants that construct the initial feed forward structure and social ants which select nodes from the feed forward connections to subsequently craft recurrent memory structures. We also incorporate a Lamarckian strategy for weight initialization which reduces the number of backpropagation epochs required to locally train candidate RNNs, speeding up the neuro-evolution process. Our results demonstrate that the sparser RNNs evolved by ASNE significantly outperform traditional one and two layer architectures consisting of modern memory cells, as well as the well-known NEAT algorithm. Furthermore, we improve upon prior state-of-the-art results on the time series dataset utilized in our experiments.

연구 동기 및 목표

• 효과적이고 효율적인 RNN 아키텍처를 수작업으로 설계하는 데 드는 시간과 복잡성을 해결하기 위해.
• 자연을 모방한 메타휴리스틱을 사용하여, 계층 간 및 시간 단계 간 순환 연결을 포함한 최적의 RNN 아키텍처를 자동으로 탐색하기 위해.
• 페로몬 기반 정규화를 통해 더 희박한 시냅스 연결 패턴을 촉진함으로써 일반화 능력과 효율성을 향상시키기 위해.
• 백프로파게이션 반복 횟수를 줄이는 데 기여하는 라마르크주의 가중치 초기화 전략을 통합하여 수렴 속도를 가속화하기 위해.
• 실제 시간 시리즈 예측 작업에서 기존의 신경진화 방법인 NEAT와 EXAMM을 능가하기 위해.

제안 방법

• ASNE는 '탐색자 개미'가 초기 피드포워드 구조를 구성하고 '사회적 개미'가 순환 기억 연결을 구축하는 다중 에이전트 개미 군집 시스템을 사용한다.
• L1 및 L2 정규화를 모방하는 동적 페로몬 업데이트 함수를 사용하여 더 희박하고 일반화 능력이 뛰어난 RNN 아키텍처를 선호한다.
• 다양한 페로몬 감쇠 및 침착 전략을 평가하여 고성능의 희박한 아키텍처로 유도한다.
• 특수화된 개미 역할(탐색자 대 사회적 개미)은 아키텍처 구축 과정을 모듈화하여 검색 효율성과 해법 품질을 향상시킨다.
• 라마르크주의 유전 전략을 통해 부모 네트워크 성능에 기반해 가중치를 초기화함으로써 후보 네트워크의 훈련 시간을 단축시킨다.
• 이 방법은 3,200만 개 이상의 RNN을 1,600회의 실험 동안 훈련한 실제 석탄 화력 발전소 시간 시리즈 데이터셋에서 평가된다.

실험 결과

연구 질문

• RQ1 자연을 모방한 메타휴리스틱 기반의 개미 군집 최적화가 RNN 아키텍처의 광범위한 조합 공간을 효과적으로 탐색할 수 있는가?
• RQ2 페로몬 기반 정규화(L1/L2 유사)를 도입하면 더 희박하고 일반화 능력이 뛰어난 RNN 아키텍처로 이어지는가?
• RQ3 특수화된 개미 에이전트(탐색자 및 사회적 개미)의 도입이 RNN 아키텍처 탐색의 품질과 효율성을 향상시키는가?
• RQ4 라마르크주의 가중치 초기화 전략이 후보 네트워크당 필수 백프로파게이션 반복 횟수를 크게 줄이는가?
• RQ5 ASNE는 시간 시리즈 예측 벤치마크에서 기존의 신경진화 방법인 NEAT와 EXAMM을 능가할 수 있는가?

주요 결과

• ASNE는 전력 발전소 시간 시리즈 데이터셋에서 테스트 RMSE 0.03286을 기록하여 이전 최고 성능 기준인 0.03493보다 뚜렷이 뛰어나다.
• 가장 우수한 성능를 보인 ASNE 설정인 'Φ.9 -L1.65- 2Ant_{20} -1J-ExpBkd'는 10회 반복 평균 0.03356, 표준편차 0.00452를 기록하며 테스트 RMSE 0.03286을 달성했다.
• ASNE는 이전에 이 데이터셋에서 최고 성능를 기록한 NEAT와 EXAMM을 뚜렷이 능가하여 더 뛰어난 일반화 능력과 아키텍처 품질을 입증했다.
• 특수화된 개미 에이전트(탐색자 및 사회적 개미)의 사용은 동종의 개미 집단보다 더 효과적이고 효율적인 아키텍처 탐색을 이끌었다.
• 라마르크주의 가중치 초기화 전략은 후보 네트워크당 필요한 백프로파게이션 반복 횟수를 줄여 전체 신경진화 과정의 속도를 가속화했다.
• 제거 실험을 통해 페로몬 정규화 함수(L1/L2 유사)가 희박하고 고성능 아키텍처를 탐색하는 데 핵심적인 역할을 했다.