[논문 리뷰] New crossover operators for multiple subset selection tasks

Arnab Roy, J. David Schaffer외 1명|arXiv (Cornell University)|2014. 08. 06.

Fuzzy Logic and Control Systems참고 문헌 33인용 수 8

한 줄 요약

이 논문은 수치적 속성을 가진 특징과 변동하는 부분집합 크기를 갖는 동시에 다중 부분집합 선택을 동시에 수행하기 위해 설계된 두 가지 새로운 유전 알고리즘 교잡 연산자, MMX-BLX exploit 및 MMX-BLX explore를 소개한다. 이 연산자는 탐색과 탐색의 균형을 이루는 데 차이를 보이며, MMX-BLX explore는 일정한 변이율을 유지하여 일반화 능력을 향상시키는 반면, MMX-BLX exploit는 양부모의 공통 특징을 상속하는 양호한 존중도를 통해 수렴 제어를 강조한다. 뇌전도도 기반 알코올 중독 진단에서, MMX-BLX explore는 유의미하게 뛰어난 테스트 세트 성능을 기록하였으며(예: 0.0417 대 0.1282의 페널티), 더 뛰어난 강건성을 보였다.

ABSTRACT

We have introduced two crossover operators, MMX-BLXexploit and MMX-BLXexplore, for simultaneously solving multiple feature/subset selection problems where the features may have numeric attributes and the subset sizes are not predefined. These operators differ on the level of exploration and exploitation they perform; one is designed to produce convergence controlled mutation and the other exhibits a quasi-constant mutation rate. We illustrate the characteristic of these operators by evolving pattern detectors to distinguish alcoholics from controls using their visually evoked response potentials (VERPs). This task encapsulates two groups of subset selection problems; choosing a subset of EEG leads along with the lead-weights (features with attributes) and the other that defines the temporal pattern that characterizes the alcoholic VERPs. We observed better generalization performance from MMX-BLXexplore. Perhaps, MMX-BLXexploit was handicapped by not having a restart mechanism. These operators are novel and appears to hold promise for solving simultaneous feature selection problems.

연구 동기 및 목표

• 특징이 수치적 속성을 가질 수 있고 부분집합 크기가 사전 정의되지 않은 다중 부분집합 선택 문제를 동시에 해결하는 데 도전하는 것.
• 유전 알고리즘 기반 특징 선택에서 탐색과 탐색의 균형을 이루는 교잡 연산자를 개발하는 것.
• 실제 신경생리학적 데이터 분석에서의 일반화 능력을 향상시키기 위해, 자극 반응을 이용한 알코올 중독자와 대조군의 뇌 반응을 구분하는 것.
• 기존의 MMX 기반 교잡 연산자를 확장하여 BLX 기반 혼합 메커니즘을 통해 변동하는 부분집합 크기와 수치적 특징 속성을 지원하는 것.

제안 방법

• MMX-SSS 교잡 연산자의 확장으로서 제안된 MMX-BLX exploit 및 MMX-BLX explore는 수치적 속성과 변동하는 부분집합 크기를 처리하기 위해 BLX(블렌드 교잡) 메커니즘을 통합한다.
• MMX-BLX exploit는 양호한 존중도(부모의 공통 특징 상속)를 강제로 적용하고, 수렴 제어를 위한 변이를 사용하여 시간이 지남에 따라 유전적 다양성이 감소한다.
• MMX-BLX explore는 일부 존중도를 희생하여 일정한 변이율을 유지함으로써 지속적인 탐색과 다양성 유지에 기여한다.
• 이 연산자는 시각적 자극 반응 잠재 전위(VERPs)에서 확득한 뇌전도도 데이터를 사용한 워퍼 모델을 통해 평가되었으며, 이 과정에서 EEG 도전지와 시간 패턴을 모두 선택하는 것이 과제였다.
• 시간 패턴 검출기(TPD)는 복잡한 시공간 패턴을 인코딩하고 진화시켜, 사전에 정의된 특징 벡터 없이도 분류기를 직접 진화시킬 수 있도록 했다.
• 진화는 인구 페널티 함수에 의해 유도되었으며, 세 개의 독립 실험에서 학습 세트와 테스트 세트에서의 성능을 측정하였다.

실험 결과

연구 질문

• RQ1 수치적 특징 속성과 함께 다중 부분집합 선택 문제에 대해 탐색과 탐색의 균형을 효과적으로 유지할 수 있는 교잡 연산자를 설계할 수 있는가?
• RQ2 일정한 변이율을 유지하는 것이 신경생리학적 데이터에 대한 유전 알고리즘 기반 특징 선택에서 일반화 능력을 향상시키는가?
• RQ3 수렴 제어를 위한 변이와 존중 기반 유전 방식은 실제 뇌전도도 분류 과제에서 성능에 어떤 영향을 미치는가?
• RQ4 단일 진화 과정이 동시에 신경생리학적 분류 문제의 공간적(센서 선택) 및 시간적(패턴 검출) 측면을 최적화할 수 있는가?

주요 결과

• MMX-BLX explore는 세 개의 실험에서 각각 0.0417, 0.0703, 0.0906의 테스트 세트 페널티를 기록하여, MMX-BLX exploit의 0.1282, 0.0900, 0.1283보다 유의미하게 뛰어난 일반화 성능를 보였다.
• MMX-BLX exploit는 수렴 제어를 위한 변이를 보였으며, 제1500세대에 도달함에 따라 변이 사건이 0으로 감소하여 시간이 지남에 따라 탐색 능력이 감소함을 나타냈다.
• MMX-BLX explore는 일정한 변이율을 유지하여 유전적 다양성을 보존하고, 최소한 제5000세대까지 지속적인 탐색을 가능하게 하였다.
• 진화 과정은 사전에 정의된 작업 순서 없이도 자연스럽게 공간적 특징 선택(EEG 도전지 선택)을 우선적으로 수행한 후 시간 패턴 최적화로 전환하였다.
• 약간 더 뛰어난 학습 세트 성능를 기록했음에도 불구하고, MMX-BLX exploit는 소프트 리스타트 메커니즘이 없어 일반화 능력이 저하되었을 가능성이 있으며, 이는 수렴 제어 연산자에 이러한 메커니즘이 필요함을 시사한다.
• TPD 기반의 진화적 접근은 전형적인 방법에서 흔히 사용되는 사전 정의된 특징 벡터 구축 과정을 피하면서도 한 번의 과정으로 분류 과제를 성공적으로 해결하였다.