[논문 리뷰] Informed Down-Sampled Lexicase Selection: Identifying productive training cases for efficient problem solving

Ryan Boldi, Martin Briesch외 6명|arXiv (Cornell University)|2023. 01. 04.

Evolutionary Algorithms and Applications인용 수 7

한 줄 요약

이 논문은 인지된 다운샘플링 렉시케이스 선택( IDS )을 제안한다. 이 방법은 개체군 통계를 사용하여 동일한 의미를 가진 사례보다는 상이하고 부적합하지 않은 사례를 우선시하는 훈련 사례의 다운샘플을 구성한다. 정보가 풍부한 사례를 우선시함으로써, 동일한 계산 예산 내에서 유전적 프로그래밍(GP)의 문제 해결 성공률을 향상시키며, 다양한 벤치마크와 GP 시스템에서 무작위 다운샘플링보다 뛰어난 성능을 보인다.

ABSTRACT

Genetic Programming (GP) often uses large training sets and requires all individuals to be evaluated on all training cases during selection. Random down-sampled lexicase selection evaluates individuals on only a random subset of the training cases allowing for more individuals to be explored with the same amount of program executions. However, creating a down-sample randomly might exclude important cases from the current down-sample for a number of generations, while cases that measure the same behavior (synonymous cases) may be overused despite their redundancy. In this work, we introduce Informed Down-Sampled Lexicase Selection. This method leverages population statistics to build down-samples that contain more distinct and therefore informative training cases. Through an empirical investigation across two different GP systems (PushGP and Grammar-Guided GP), we find that informed down-sampling significantly outperforms random down-sampling on a set of contemporary program synthesis benchmark problems. Through an analysis of the created down-samples, we find that important training cases are included in the down-sample consistently across independent evolutionary runs and systems. We hypothesize that this improvement can be attributed to the ability of Informed Down-Sampled Lexicase Selection to maintain more specialist individuals over the course of evolution, while also benefiting from reduced per-evaluation costs.

연구 동기 및 목표

• 무작위 다운샘플링의 비효율성을 해결하기 위해, 핵심적인 훈련 사례를 제외하거나 부적합한 사례를 과도하게 사용할 수 있다는 점을 다루기 위해.
• 특정 행동을 가진 훈련 사례를 포함시킴으로써 개체군 다양성을 유지하는 다운샘플을 구성함으로써, 진화적 탐색 성능을 향상시키기 위해.
• 실행 중인 개체군 통계에 기반한 지능적인 다운샘플링이 고정된 계산 예산 내에서 GP의 문제 해결 성공률을 향상시킬 수 있는지 평가하기 위해.
• 동일한 훈련 사례가 서로 다른 GP 시스템과 진화 런 간에 일관되게 중요하게 평가되는지 조사하기 위해.
• 전문가 개체(특정 행동을 독립적으로 해결하는 개체)와 사례의 상이성의 역할이 진화적 진전을 이끄는 데 어떤 영향을 미치는지 탐색하기 위해.

제안 방법

• IDS는 특정 훈련 사례가 서로 다른 개체군 하위집단에 의해 해결되는지 분석하여, 이를 상이하고 더 정보가 풍부한 사례로 정의한다.
• 이러한 상이한 사례를 무작위 사례보다 우선시함으로써, 중복되는 해결 집합을 가진 유사한 사례(동일한 의미의 사례)보다 더 적은 레이어의 중복성을 줄인다.
• 진화 과정 중에 동적으로 사례의 상이성 지표를 업데이트하여, 다운샘플이 변화하는 개체군 행동에 적응하도록 한다.
• 현재 개체군 내에서 해결 집합의 겹침이 적은 사례를 우선시하는 가중치 기반 선택 과정을 통해 다운샘플을 생성한다.
• 두 개의 독립된 GP 프레임워크인 PushGP와 문법 유도 GP(G3P)에 적용하여 시스템 간 검증을 가능하게 한다.
• 무작위 다운샘플링을 통계 기반의 훈련 사례 선택으로 대체함으로써, 렉시케이스 선택에 원활하게 통합된다.

실험 결과

연구 질문

• RQ1 사례의 상이성에 기반한 지능적인 다운샘플링이, 무작위 다운샘플링보다 GP에서 문제 해결 성공률을 높이는가?
• RQ2 독립적인 진화 런과 서로 다른 GP 시스템 간에 가장 생산적인 훈련 사례가 일관되게 식별되는가?
• RQ3 지능적인 다운샘플링이 진화 전반에 걸쳐 전문가 개체(유일한 행동을 해결하는 개체)를 얼마나 잘 유지하는가?
• RQ4 다운샘플의 구성이 진화적 탐색의 다양성과 수렴성에 어떤 영향을 미치는가?
• RQ5 동일한 핵심 훈련 사례 집합이 서로 다른 GP 표현 방식에서 일관되게 식별되는가? 이는 표현 방식에 의존하지 않고 문제의 구조적 특성에 기반한 중요성의 존재를 시사하는가?

주요 결과

• 인지된 다운샘플링 렉시케이스 선택은 PushGP와 G3P 시스템에서 모두 8개의 현대적 프로그램 합성 벤치마크 문제에서 무작위 다운샘플링보다 유의미하게 뛰어난 성능을 보였다.
• 독립된 런 간에 동일한 고성능 훈련 사례가 일관되게 포함되어 있어, 정보가 풍부한 사례를 안정적으로 식별하고 있음을 시사한다.
• IDS로 생성된 다운샘플은 랜덤 다운샘플 대비 더 높은 비율의 상이하고 중복되지 않는 사례를 포함하고 있어, 다양한 해결 행동에 대한 선택 압력을 높였다.
• 성공률 향상 요인은 전문가 개체의 더 나은 유지와 더 나은 사례 선택으로 인한 평가 비용 절감에 기인한다.
• 조건문이 필요한 문제들(예: Small or Large and Grade)에서 IDS는 두 GP 시스템 모두에서 동일한 핵심 사례를 성공적으로 식별하고 활용하여, 표현 방식에 의존하지 않고 문제의 구조적 특성에 기반한 중요성을 시사한다.
• 분석 결과, IDS는 다운샘플의 정보량을 증가시켜 진화 런 전반에 걸쳐 훈련 사례를 더 일관되고 효과적으로 활용함을 확인했다.