[論文レビュー] Informed Down-Sampled Lexicase Selection: Identifying productive training cases for efficient problem solving

Ryan Boldi, Martin Briesch+6 more|arXiv (Cornell University)|Jan 4, 2023

Evolutionary Algorithms and Applications被引用数 7

ひとこと要約

本稿では、集団統計を用いて、同一の解をもつケースよりも相違する非冗長なケースを優先するトレーニングケースのダウンサンプルを構築する、インフォームド・ダウンサンプルド・レクシカス選択（IDS）を提案する。情報量の多いケースを優先することで、同じ計算予算内で遺伝的プログラミングにおける問題解決の成功確率を向上させ、複数のベンチマークおよびGPシステムにおいてランダムなダウンサンプルを上回る。

ABSTRACT

Genetic Programming (GP) often uses large training sets and requires all individuals to be evaluated on all training cases during selection. Random down-sampled lexicase selection evaluates individuals on only a random subset of the training cases allowing for more individuals to be explored with the same amount of program executions. However, creating a down-sample randomly might exclude important cases from the current down-sample for a number of generations, while cases that measure the same behavior (synonymous cases) may be overused despite their redundancy. In this work, we introduce Informed Down-Sampled Lexicase Selection. This method leverages population statistics to build down-samples that contain more distinct and therefore informative training cases. Through an empirical investigation across two different GP systems (PushGP and Grammar-Guided GP), we find that informed down-sampling significantly outperforms random down-sampling on a set of contemporary program synthesis benchmark problems. Through an analysis of the created down-samples, we find that important training cases are included in the down-sample consistently across independent evolutionary runs and systems. We hypothesize that this improvement can be attributed to the ability of Informed Down-Sampled Lexicase Selection to maintain more specialist individuals over the course of evolution, while also benefiting from reduced per-evaluation costs.

研究の動機と目的

• ランダムなダウンサンプルが、重要なトレーニングケースを除外するか、冗長なケースを過剰に使用するという非効率性を是正すること。
• 集団内に存在する相違する行動的特徴を示すトレーニングケースを含めることで、高い集団多様性を維持するダウンサンプルの構築により、進化的探索の性能を向上させること。
• 実行時における集団統計に基づくインフォームド・ダウンサンプルが、固定された計算予算内で遺伝的プログラミングにおける問題解決の成功を向上させられるかどうかを評価すること。
• 異なるGPシステムおよび進化的な実行において、一貫して重要とされるトレーニングケースが特定されるかどうかを調査すること。
• スペシャリスト個体（独自の行動を解ける個体）とケースの相違性が、進化的進歩をどのように駆動するかを探索すること。

提案手法

• IDSは、集団統計を用いて、異なる個体のサブセットによって解かれるトレーニングケースを特定し、それらを相違する（distinct）・より情報量の多いケースと定義する。
• 重複する解法サブセットによって解かれるケース（同じ解をもつケース）よりも、相違するケースを優先することで、ダウンサンプルを構築する。
• 進化の過程で動的にケースの相違性メトリクスを更新することで、ダウンサンプルが集団行動の変化に適応するようにする。
• 現在の集団における解法セットの重複度が低いケースを優先する重み付き選択プロセスを用いて、ダウンサンプルを生成する。
• 2つの独立したGPフレームワーク（PushGP および 語彙付き誘導GP：G3P）に適用することで、システム間での妥当性を検証する。
• レクシカス選択に統合可能であり、評価用トレーニングケースの選択をランダムなダウンサンプルから統計に基づく選択に置き換える。

実験結果

リサーチクエスチョン

• RQ1 ケースの相違性に基づくインフォームド・ダウンサンプルは、遺伝的プログラミングにおいてランダムなダウンサンプルよりも高い問題解決成功確率を達成するか？
• RQ2 独立した進化的実行および異なるGPシステムにおいて、最も生産的なトレーニングケースが一貫して同定されるか？
• RQ3 インフォームド・ダウンサンプルは、進化の全過程にわたりスペシャリスト個体（独自の行動を解ける個体）をどれほど維持できるか？
• RQ4 ダウンサンプルの構成は、進化的探索の多様性と収束性にどのように影響するか？
• RQ5 同じセットの重要なトレーニングケースが、異なるGP表現においても一貫して同定されるか？これは、問題構造に起因する重要性であり、システム固有のバイアスではないか？

主な発見

• インフォームド・ダウンサンプルド・レクシカス選択は、PushGPおよびG3Pの両システムにおいて、8つの現代的プログラム合成ベンチマーク問題においてランダムなダウンサンプルを著しく上回る。
• 独立した実行においても、同じ高影響力のトレーニングケースが一貫して含まれており、情報量の多いケースの堅牢な同定が示された。
• IDSによって生成されたダウンサンプルは、ランダムなダウンサンプルと比較して、より高い割合の相違する非冗長ケースを含んでおり、多様な解法行動に対する選択圧を高めている。
• 成功確率の向上は、スペシャリスト個体のより良い維持と、より知的ないくつかのケース選択による評価コストの低減に起因する。
• 条件分岐を必要とする問題（例：Small or Large and Grade）においても、IDSは両GPシステムで同じ重要なケースを的確に同定・利用できており、表現依存性ではなく問題構造に起因する重要性を示唆している。
• 分析により、IDSはダウンサンプルの情報量を増加させ、進化的実行全体にわたり一貫性があり、より効果的なトレーニングケースの使用が可能になったことが確認された。