[論文レビュー] The Ant Swarm Neuro-Evolution Procedure for Optimizing Recurrent Networks

AbdElRahman ElSaid, Alexander G. Ororbia+1 more|ArXiv.org|Sep 26, 2019

Advanced Memory and Neural Computing参考文献 31被引用数 6

ひとこと要約

本稿では、時間系列予測のためのスパースで高性能な再帰的ニューラルネットワーク（RNN）構造を自動的に設計することを目的として、アリ Colony 最適化にインspiredされた新しいニューロエボリューションアルゴリズム、Ant Swarm Neuro-Evolution（ASNE）を提案する。特殊なアリエージェント、動的フェロモン正則化（L1/L2を模倣）、およびラマクスキー型重み初期化戦略を用いることで、実世界の発電所データセットにおいてNEATや先行の最先端手法を上回り、テストRMSE 0.03286を達成した。

ABSTRACT

Hand-crafting effective and efficient structures for recurrent neural networks (RNNs) is a difficult, expensive, and time-consuming process. To address this challenge, we propose a novel neuro-evolution algorithm based on ant colony optimization (ACO), called ant swarm neuro-evolution (ASNE), for directly optimizing RNN topologies. The procedure selects from multiple modern recurrent cell types such as Delta-RNN, GRU, LSTM, MGU and UGRNN cells, as well as recurrent connections which may span multiple layers and/or steps of time. In order to introduce an inductive bias that encourages the formation of sparser synaptic connectivity patterns, we investigate several variations of the core algorithm. We do so primarily by formulating different functions that drive the underlying pheromone simulation process (which mimic L1 and L2 regularization in standard machine learning) as well as by introducing ant agents with specialized roles (inspired by how real ant colonies operate), i.e., explorer ants that construct the initial feed forward structure and social ants which select nodes from the feed forward connections to subsequently craft recurrent memory structures. We also incorporate a Lamarckian strategy for weight initialization which reduces the number of backpropagation epochs required to locally train candidate RNNs, speeding up the neuro-evolution process. Our results demonstrate that the sparser RNNs evolved by ASNE significantly outperform traditional one and two layer architectures consisting of modern memory cells, as well as the well-known NEAT algorithm. Furthermore, we improve upon prior state-of-the-art results on the time series dataset utilized in our experiments.

研究の動機と目的

• 効果的で効率的なRNNアーキテクチャを手作業で設計することは時間と手間がかかるため、その課題に対処すること。
• 自然にインspiredされたメタヒューリスティックを用いて、層間および時間ステップ間の再帰的接続を含む最適なRNN構造を自動で発見すること。
• フェロモンベースの正則化によって、スパースなシナプス接続パターンを促進することで、一般化性能と効率を向上させること。
• ラマクスキー型重み初期化戦略を組み込むことで、バックプロパゲーションのエポック数を削減し、収束を加速すること。
• 実世界の時間系列予測タスクにおいて、NEAT や EXAMM などの既存のニューロエボリューション手法を上回ること。

提案手法

• ASNEは、'探索アリ'が初期のフィードフォワード構造を構築し、'社会的アリ'が再帰的記憶接続を構築するマルチエージェントアリコロニー系を採用する。
• L1およびL2正則化を模倣する動的フェロモン更新関数を用い、よりスパースで一般化性の高いRNN構造を優遇する。
• フェロモンの減衰および沈殿戦略を複数評価し、高性能でスパースなアーキテクチャへの探索を導く。
• 特殊なアリの役割（探索 vs. 社会的）を導入することで、構造生成プロセスをモジュラー化し、探索効率と解の品質を向上させる。
• ラマクスキー型の遺伝的継承戦略により、親ネットワークの性能に基づいて重みを初期化し、候補ごとの訓練時間を短縮する。
• 本手法は、3200万件以上のRNNを1600回の実験でトレーニングした実世界の石炭火力発電所時間系列データセットで評価された。

実験結果

リサーチクエスチョン

• RQ1 アリコロニー最適化に基づく自然にインspiredされたメタヒューリスティックは、RNN構造の膨大な組み合わせ空間を効果的に探索できるか？
• RQ2 フェロモンベースの正則化（L1/L2に類似）を導入することで、よりスパースで一般化性の高いRNNアーキテクチャが得られるか？
• RQ3 特殊なアリエージェント（探索アリと社会的アリ）を導入することで、RNN構造探索の質と効率が向上するか？
• RQ4 ラマクスキー型重み初期化戦略は、候補ネットワークごとのバックプロパゲーションエポック数を顕著に削減できるか？
• RQ5 ASNEは、時間系列予測ベンチマークにおいて、NEAT や EXAMM といった確立されたニューロエボリューション手法を上回ることができるか？

主な発見

• ASNEは、発電所時間系列データセットにおいて、テストRMSE 0.03286を達成し、以前の最先端手法の0.03493を顕著に上回った。
• 最も優れた性能を示したASNE設定、'Φ.9 -L1.65- 2Ant_{20} -1J-ExpBkd' は、10回の実行における平均値0.03356、標準偏差0.00452を記録し、テストRMSE 0.03286を達成した。
• ASNEは、このデータセットで以前最高の結果を記録していたNEATおよびEXAMMを顕著に上回り、一般化性能とアーキテクチャ品質の優位性を示した。
• 特殊なアリエージェント（探索アリと社会的アリ）の導入により、同種のアリ集団に比べ、より効果的かつ効率的な構造探索が実現された。
• ラマクスキー型重み初期化戦略により、候補ごとのバックプロパゲーションエポック数が削減され、全体のニューロエボリューションプロセスが加速した。
• アブレーションスタディの結果、フェロモン正則化関数（L1/L2に類似）が、スパースで高性能なアーキテクチャを発見するために不可欠であることが確認された。