[論文レビュー] A condition for the genotype-phenotype mapping: Causality

Bernhard Sendhoff, Martin Kreutz+1 more|arXiv (Cornell University)|Nov 4, 1997

Evolution and Genetic Dynamics参考文献 9被引用数 58

ひとこと要約

本稿では、進化的アルゴリズムにおけるゲノタイプからフェノタイプへのマッピングの品質を評価するための確率的因果条件を提案する。この条件により、微小な遺伝的変化が微小なフェノタイプ的変化をもたらすことが保証され、特にニューラルネットワーク構造最適化において、適応的ミューテーション戦略を用いることで因果性違反を最大50％まで低減できる。

ABSTRACT

The appropriate choice of the genotype-phenotype mapping in combination with the mutation operator is important for a successful evolutionary search process. We suggest a measure to quantify the quality of this combination by addressing the question whether the relation among distances is carried over from one space to the other. Search processes which do not destroy the neighbourhood structure are termed strongly causal. We apply the proposed measure to parameter and structure optimisation problems in order to assess the combination (mapping, mutation operator) and at the same time to be able to propose improved settings.

研究の動機と目的

• 微小な遺伝的変化が微小なフェノタイプ的変化をもたらすことを保証する形式的条件を開発し、進化的アルゴリズムにおける制御的・段階的探索を可能にする。
• 近傍構造の保存に関する確率的測度を用いて、(マッピング, ミューテーションオペレータ)の組み合わせの品質を定量化する。
• 特にニューラルネットワークアーキテクチャ探索のような複雑な構造最適化タスクにおいて、因果性を破る問題的なゲノタイプ・フェノタイプマッピングを同定する。
• 因果性を向上させることで探索効率および自己適応能力を向上させるミューテーションオペレータの設計を支援する。

提案手法

• ミューテーション確率に基づくゲノタイプ空間の距離測度を定義：$ d(g_i, g_j) = -\log\left(\frac{1}{P_{id}} P(g_i \xrightarrow{\vec{\sigma}} g_j)\right) $、ここで $ P_{id} $ は自己ミューテーション確率である。
• 強い因果性の概念を導入：ミューテーションによる微小なゲノタイプの変化は、必ず微小なフェノタイプの変化をもたらさなければならない。これは近傍構造の保存を意味する。
• 確率的因果条件を提案：$ P(A|B) \approx 1 $、ここで A は微小なフェノタイプ的変化、B は微小なゲノタイプ的変化を表し、$ 1 - P(A|B) $ が因果性違反の度合を測定する。
• モンテカルロサンプリングを用いて $ 10^5 $ 回の試行を実施し、$ P(A|B) $ を推定することで、パrameter最適化およびニューラルネットワーク構造最適化にこの条件を適用する。
• 位置および重複要因を考慮したミューテーションオペレータを設計：冗長なシンボルに対しては $ p_m(x_k(S_C)) = p_m \cdot (N_{x_k(S_C)} + 1) $、接続ベクトル内の初期位置にあるシンボルに対しては $ p_m^2 $ を適用する。
• ニューラルネットワーク符号化を用いた実験的検証により、固定と適応的ミューテーション率の両者において因果性違反確率を比較する。

実験結果

リサーチクエスチョン

• RQ1 ミューテーション下でのゲノタイプ・フェノタイプマッピングがどの程度近傍構造を保存しているか、そしてその保存度合いをどのように定量化できるか。
• RQ2 特定の符号化パrameter（例：$ d_{S_C}, N_{sym} $）が、ニューラルネットワーク構造最適化における因果性違反の発生確率にどのように影響を与えるか。
• RQ3 ミューテーションオペレータを変更することで因果性違反を低減できるか。もし可能であれば、どの変更が最も効果的か。
• RQ4 マッピングとミューテーションの組み合わせにおける因果性の向上が、進化的探索における性能向上に寄与するか。

主な発見

• システムは一般に強く因果的ではなく、特に $ d_{S_C} $ と $ N_{sym} $ の特定の組み合わせでは因果性違反が顕著に見られる。これは標準的な設定下で顕著な因果性違反が存在することを示している。
• 因果性違反率が最小となるのは $ d_{S_C} \approx N_{sym} $ のときであり、このパラメータ設定が近傍構造の保存を最適化していると示唆される。
• $ d_E $ と $ d_I $ の符号化方式間の因果性パフォーマンスの差は最小限であり、符号化タイプにかかわらず高いロバストネスを示している。
• 冗長なシンボルおよび初期位置の要素に対してミューテーション確率を増加させる適応的ミューテーションオペレータは、高冗長性構成において因果性違反確率を最大50％まで低減する。
• 変更されたミューテーションオペレータは、特に $ N_{sym} $ を固定した状態で $ d_{S_C} $ が増加する際、$ 1 - P(A|B) $ を顕著に低減し、因果性の向上を確認した。
• パrameter最適化においても、因果性の向上はアルゴリズムのパフォーマンス向上と相関しており、本手法の実用的有効性が裏付けられた。