[논문 리뷰] Introns and Templates Matter: Rethinking Linkage in GP-GOMEA

Johannes Koch, Tanja Alderliesten외 1명|arXiv (Cornell University)|2026. 02. 02.

Bioinformatics and Genomic Networks인용 수 0

한 줄 요약

논문은 introns와 템플릿 구조를 고려한 GP-GOMEA용 두 가지 새로운 연결 학습 측정치를 소개하여 다수의 벤치마크에서 기호 회귀 성능을 향상시킵니다. 또한 이러한 측정치가 템플릿과 어떻게 정렬되는지 분석하고 정적 연결 트리와 무작위 연결 트리를 비교합니다.

ABSTRACT

GP-GOMEA is among the state-of-the-art for symbolic regression, especially when it comes to finding small and potentially interpretable solutions. A key mechanism employed in any GOMEA variant is the exploitation of linkage, the dependencies between variables, to ensure efficient evolution. In GP-GOMEA, mutual information between node positions in GP trees has so far been used to learn linkage. For this, a fixed expression template is used. This however leads to introns for expressions smaller than the full template. As introns have no impact on fitness, their occurrences are not directly linked to selection. Consequently, introns can adversely affect the extent to which mutual information captures dependencies between tree nodes. To overcome this, we propose two new measures for linkage learning, one that explicitly considers introns in mutual information estimates, and one that revisits linkage learning in GP-GOMEA from a grey-box perspective, yielding a measure that needs not to be learned from the population but is derived directly from the template. Across five standard symbolic regression problems, GP-GOMEA achieves substantial improvements using both measures. We also find that the newly learned linkage structure closely reflects the template linkage structure, and that explicitly using the template structure yields the best performance overall.

연구 동기 및 목표

• GP-GOMEA에서 더 작고 해석 가능한 기호 표현을 생성하기 위한 더 나은 연결 학습의 필요성을 제시한다.
• 비활성 변수(introns)가 전통적인 상호정보 기반 연결 추정치를 어떻게 왜곡하는지 조사한다.
• introns를 MI에서 마스킹하는 하나의 측정치와 템플릿 기반 그레이박스 연결을 사용하는 두 가지 새로운 측정치를 제안한다.
• 제안된 측정치를 표준 기호 회귀 데이터셋에서 평가하여 성능 향상과 학습된 연결 구조를 평가한다.

제안 방법

• 템플릿 매핑을 고정한 상태에서 변수들을 트리 노드에 매핑하는 GP-GOMEA를 설명한다.
• 두 가지 새로운 연결 학습 방식: MI에서 introns를 마스킹하고, 노드 근접도 측정을 이용한 템플릿 기반 그레이박스 연결을 도입한다.
• 유사도 매트릭스의 계층적 클러스터링을 통해 Linkage Tree를 형성하는 FOS(Family of Subsets)를 구성한다.
• 템플릿 높이와 선형 스케일링의 변화를 통해 여러 연결 측정치를 베이스라인과 비교한다.
• IMS 대 고정 크기 인구를 사용하여 연결 학습이 성능에 미치는 영향을 분리한다.
• 훈련 R^2 및 부트스트랩 신뢰 구간을 보고하여 통계적 유의성을 평가한다.

실험 결과

연구 질문

• RQ1 Introns가 GP-GOMEA의 상호정보 기반 연결 학습에 어떤 영향을 미치는가?
• RQ2 MI에서 introns를 마스킹하면 학습된 연결 구조의 정확도가 개선되는가?
• RQ3 템플릿 정보를 활용한 그레이박스 연결 측정이 데이터 기반 MI 기반 측정보다 더 나은 성능을 낼 수 있는가?
• RQ4 다양한 벤치마크에서 서로 다른 연결 측정치는 어떻게 비교되는가?
• RQ5 학습된 연결 구조와 고정 템플릿 구조 사이의 관계는 무엇인가?

주요 결과

• MI_masked로 introns를 마스킹하고 템플릿 정보에 기반한 노드 근접도 측정(Node)은 전통적인 MI 및 무작위 연결보다 교육 정확도에서 우수한 성능을 보인다.
• 노드 근접도 기반(Node) 측정은 문제와 설정 전반에서 최상의 성능을 달성하며 종종 다른 방법보다 빠르다.
• 정적 연결 트리는 LT를 재사용하기 때문에 무작위 LT 빌딩보다 성능이 떨어지는 경향이 있어 세대 간 연결 변화의 이점을 시사한다.
• 더 큰 템플릿과 선형 스케일링이 활성화될수록 성능이 일반적으로 향상된다.
• 새로 학습된 연결 구조는 템플릿 연결에 근접하고 명시적 템플릿 기반 접근 방식이 전체적으로 최상의 결과를 낳는다.