[논문 리뷰] A Stable Combinatorial Particle Swarm Optimization for Scalable Feature Selection in Gene Expression Data

Hassen Dhrif, Luis G. Sánchez Giraldo외 2명|arXiv (Cornell University)|2019. 01. 24.

Metaheuristic Optimization Algorithms Research참고 문헌 38인용 수 7

한 줄 요약

이 논문은 고차원 유전자 발현 데이터에서 특성 선택을 위한 안정성, 다양성 및 확장성 향상을 위해 COMB-PSO라는 새로운 조합형 입자군집최적화 알고리즘을 제안한다. 연속공간 인코딩, 적응형 관성 및 가속도 계수, 동적 인구 전략, 난류 연산자를 사용함으로써 COMB-PSO는 기존 PSO 변종보다 더 작은, 높은 정확도를 가진 유전자 서브셋을 식별하며, 실제 암 데이터셋에서 BPSO와 MOPSO를 크게 능가한다.

ABSTRACT

Evolutionary computation (EC) algorithms, such as discrete and multi-objective versions of particle swarm optimization (PSO), have been applied to solve the Feature selection (FS) problem, tackling the combinatorial explosion of search spaces that are peppered with local minima. Furthermore, high-dimensional FS problems such as finding a small set of biomarkers to make a diagnostic call add an additional challenge as such methods ability to pick out the most important features must remain unchanged in decision spaces of increasing dimensions and presence of irrelevant features. We developed a combinatorial PSO algorithm, called COMB-PSO, that scales up to high-dimensional gene expression data while still selecting the smallest subsets of genes that allow reliable classification of samples. In particular, COMB-PSO enhances the encoding, speed of convergence, control of divergence and diversity of the conventional PSO algorithm, balancing exploration and exploitation of the search space. Applying our approach on real gene expression data of different cancers, COMB-PSO finds gene sets of smallest size that allow a reliable classification of the underlying disease classes.

연구 동기 및 목표

• 유전자 발현 데이터의 고차원 특성 선택에서 표준 PSO의 불안정성과 조기 수렴 문제를 해결하기 위해.
• 낮은 샘플 수, 높은 특성 수를 가진 데이터셋에서 분류 정확도를 유지하면서 선택된 유전자 서브셋의 크기를 줄이기 위해.
• 조합 최적화 공간에서의 탐색과 이용의 균형을 유지하고, 군집의 다양성을 향상시키기 위해.
• 특성 공간에 관련 없는 특성이 추가될 경우에도 확장성과 강인성을 확보하기 위해.
• 기존 이산형 및 다목적 PSO 방법보다 실제 생물학적 데이터셋에서 뛰어난 성능을 보이는 안정적이고 확장 가능한 PSO 변종을 개발하기 위해.

제안 방법

• 입자 위치를 확률로 매핑하는 연속공간 인코딩 체계를 도입하여 연속형 PSO의 역학을 유지하고 탐색 능력을 향상시킨다.
• 위치와 속도에 기반한 적응형 관성 가중치 및 가속도 계수를 적용하여 탐색과 이용을 동적으로 균형 잡는다.
• 수렴 속도를 향상시키고 전역 최적해 탐색을 개선하기 위해 동적 인구 전략을 적용한다.
• 국소 최적해에서 벗어나 다양성을 향상시키기 위해 난류 연산자를 통합한다.
• 더 작은 특성 서브셋을 선호하기 위해 입자를 더 적은 비트 수를 가진 해로 제약하는 비대칭 위치 경계를 사용한다.
• 다목적 변종에서는 군집의 통합성을 유지하기 위해 국소 리더 선택 메커니즘을 구현하고, 비슷한 정도 기반의 다양성 메커니즘을 통해 비지배 해를 유지한다.

실험 결과

연구 질문

• RQ1 관련 없는 특성이 고차원 유전자 발현 데이터에 추가될 경우, 수정된 PSO 알고리즘이 안정적이고 작은 특성 서브셋 크기를 유지할 수 있는가?
• RQ2 실제 암 데이터셋에서 COMB-PSO는 표준 BPSO 및 MOPSO와 비교해 서브셋 크기, 분류 정확도 및 수렴 속도 측면에서 어떻게 다른가?
• RQ3 연속공간 인코딩과 적응형 파arameter 제어가 조합 최적화 특성 선택에서 탐색 다양성과 수렴에 얼마나 기여하는가?
• RQ4 다목적 변종인 COMB-PSO는 단일목적 변종보다 더 작은, 더 정확한 유전자 서브셋을 도출하는가?
• RQ5 COMB-PSO는 수천 개의 특성과 수백 개의 샘플을 가진 데이터셋에 대해 얼마나 확장 가능한가?

주요 결과

• COMB-PSO는 세 개의 실제 유전자 발현 데이터셋에서 표준 BPSO 및 MOPSO를 크게 능가하며, 더 작은 유전자 서브셋과 낮은 분류 오차율을 도출한다.
• 다목적 변종인 COMB-PSO는 단일목적 변종보다 더 작은 특성 서브셋을 생성하면서도 유사한 분류 정확도를 유지한다.
• 합성 데이터셋에서 COMB-PSO는 관련 없는 특성 수가 증가함에도 불구하고 안정적인 서브셋 크기를 유지하여 고차원 노이즈에 대한 강인성을 입증한다.
• Leukemia2, Prostate tumor 및 B-cell 림프종 데이터셋에서 검증된 결과, 최소한의 특성 집합으로도 높은 분류 정확도를 달성한다.
• 오차율과 강력하게 관련된 특성 커버리지에서 SO-COMB-PSO와 MO-COMB-PSO는 유사한 성능을 보이지만, 서브셋 크기에서 차이가 있으며, MO-COMB-PSO가 더 컴팩트한 해를 도출한다.
• 초대규모 데이터셋에서는 알고리즘의 계산 비용이 여전히 높아 확장성 향상을 위한 추가 최적화가 필요하다.