[論文レビュー] Qualities, challenges and future of genetic algorithms: a literature review

Aymeric Vié, Kleinnijenhuis, Alissa M.+1 more|arXiv (Cornell University)|Nov 5, 2020

Metaheuristic Optimization Algorithms Research参考文献 140被引用数 14

ひとこと要約

本レビューでは、遺伝的アルゴリズム（GAs）の最新動向を統合的に検討し、複雑で険しい探索空間の探索や高次元最適化問題の解決におけるその強みを分析すると同時に、計算コスト、パラメータチューニング、解の表現に関する核心的な課題を特定する。GPUアクセラレーション、自己適応的パラメータ制御、生物学的インスピレーションを受ける表現手法といった新たな解決策が強調され、GAsがオープンエンドドエボリューションおよび汎用人工知能の実現に不可欠な役割を果たす可能性を示唆する。

ABSTRACT

Genetic algorithms, computer programs that simulate natural evolution, are increasingly applied across many disciplines. They have been used to solve various optimisation problems from neural network architecture search to strategic games, and to model phenomena of adaptation and learning. Expertise on the qualities and drawbacks of this technique is largely scattered across the literature or former, motivating an compilation of this knowledge at the light of the most recent developments of the field. In this review, we present genetic algorithms, their qualities, limitations and challenges, as well as some future development perspectives. Genetic algorithms are capable of exploring large and complex spaces of possible solutions, to quickly locate promising elements, and provide an adequate modelling tool to describe evolutionary systems, from games to economies. They however suffer from high computation costs, difficult parameter configuration, and crucial representation of the solutions. Recent developments such as GPU, parallel and quantum computing, conception of powerful parameter control methods, and novel approaches in representation strategies, may be keys to overcome those limitations. This compiling review aims at informing practitioners and newcomers in the field alike in their genetic algorithm research, and at outlining promising avenues for future research. It highlights the potential for interdisciplinary research associating genetic algorithms to pulse original discoveries in social sciences, open ended evolution, artificial life and AI.

研究の動機と目的

• 遺伝的アルゴリズム（GA）の特性、限界、最近の進展に関する散在する知見を統合的にまとめ、包括的かつ最新のリソースとする。
• GAの応用において継続的に見られる課題、特に高い計算コスト、パラメータ設定の難しさ、不十分な解の表現方法を特定する。
• GPUコンピューティング、量子コンピューティング、自己適応的パラメータ制御といった新技術が、これらの制限をどのように克服できるかを検討する。
• 最適化を超えた分野におけるGAの可能性、特にオープンエンドドエボリューション、出現現象、人工生命のモデル化における応用を強調する。
• GAを社会学、AI、進化理論と統合する国際的・学際的研究を提唱し、一般知能および適応的システム分野における新たな発見を可能にする。

提案手法

• 1975年から2021年までの遺伝的アルゴリズムに関する査読付き論文および技術報告書を対象とした体系的レビュー。主な原則、応用、課題に焦点を当てる。
• GAの構成要素の分類：集団ベースの探索、遺伝的表現、適応度評価、選択、交差、突然変異演算子。
• 神経ネットワークアーキテクチャ探索、多目的最適化、遺伝的プログラミング、経済モデル化といった分野におけるGAのパフォーマンスを、実証的および理論的証拠を用いて分析。
• 最近の革新の検討：GPUアクセラレーションを用いた進化、共進化戦略、遺伝子の二重化や上位性（エピスタシス）といった生物学的現象を組み込んだ構造的GA。
• 自己適応的および動的チューニングを含むパラメータ制御メカニズムの検討により、手動による設定負荷を軽減する。
• 数学的遺伝学および統計力学とGAsを結びつける理論的枠組みの統合により、演算子の挙動と収束ダイナミクスの理解を深める。

実験結果

リサーチクエスチョン

• RQ1 遺伝的アルゴリズムが、巨大で複雑な探索空間を効果的に探索できる主な要因は何ですか？
• RQ2 遺伝的アルゴリズムが広範な応用が可能であるにもかかわらず、計算効率やパラメータ設定の難しさという課題を抱え続けるのはなぜですか？
• RQ3 新たな表現戦略および生物学的リアリズム（例：エピスタシス、多效性、遺伝子調節）を組み込むことで、GAの適応性と性能はどのように向上しますか？
• RQ4 ハードウェアの進歩（例：GPU、量子コンピューティング）およびアルゴリズム設計の革新（例：自己適応的パラメータ、共進化）は、現在の制限をどのように克服できますか？
• RQ5 遺伝的アルゴリズムは、新たな複雑な発見を生み出すことができる自己改善型のオープンエンドシステムの基盤として機能できるでしょうか？特に一般人工知能の実現に向けた道筋として。

主な発見

• GAsは、探索と活用のバランスを保つことで、巨大で険しく、多次元の探索空間を効果的に探索でき、適応度の地形が不完全に理解されていても、しばしばグローバル最適解に到達する。
• GAsは、ニューラルネットワークアーキテクチャの自動発見や多目的最適化問題において優れたパフォーマンスを示しており、高次元でスパース、あるいは微分不可能な空間では、従来の勾配ベースの手法を上回る。
• 遺伝子の二重化、転座、調節ネットワークといった生物学的インスピレーションを受けるメカニズムを構造的GAに統合することで、複雑で適応的なシステムを進化させる能力が向上する。
• GPUコンピューティングおよび並列処理の進歩により、計算コストが顕著に削減され、収束が速くなり、大規模な進化実験が可能になる。
• 自己適応的パラメータ制御および共進化戦略により、手動によるチューニングへの依存が軽減され、多様な問題領域においてもロバスト性が向上する。
• GAsにおけるオープンエンドで分岐する進化的プロセスは、内発的進化の可能性と新規性の創出を可能にし、一般人工知能および自律的発見システムへの実現可能性のある道筋を提供する。