[논문 리뷰] Select-ProtoNet: Learning to Select for Few-Shot Disease Subtype Prediction

Ziyi Yang, Jun Shu외 3명|arXiv (Cornell University)|2020. 09. 02.

Gene expression and cancer classification참고 문헌 48인용 수 4

한 줄 요약

이 논문은 고차원적이고 노이즈가 많은 유전자 발현 데이터에서 소수의 예시로 질병 아형을 예측하는 데 있어, 특징 선택과 샘플 재가중 기법을 통합한 메타러닝 프레임워크인 Select-ProtoNet을 제안한다. 불필요한 유전자를 걸러내고 노이즈가 많은 샘플의 영향을 줄임으로써, 모델은 최신 기술 성능을 달성하며, 폐암 아형 예측에서 기반 모델인 ProtoNet보다 20퍼센트 이상 높은 정확도를 기록하고, 높은 노이즈 수준에서도 강인함을 입증한다.

ABSTRACT

Current machine learning has made great progress on computer vision and many other fields attributed to the large amount of high-quality training samples, while it does not work very well on genomic data analysis, since they are notoriously known as small data. In our work, we focus on few-shot disease subtype prediction problem, identifying subgroups of similar patients that can guide treatment decisions for a specific individual through training on small data. In fact, doctors and clinicians always address this problem by studying several interrelated clinical variables simultaneously. We attempt to simulate such clinical perspective, and introduce meta learning techniques to develop a new model, which can extract the common experience or knowledge from interrelated clinical tasks and transfer it to help address new tasks. Our new model is built upon a carefully designed meta-learner, called Prototypical Network, that is a simple yet effective meta learning machine for few-shot image classification. Observing that gene expression data have specifically high dimensionality and high noise properties compared with image data, we proposed a new extension of it by appending two modules to address these issues. Concretely, we append a feature selection layer to automatically filter out the disease-irrelated genes and incorporate a sample reweighting strategy to adaptively remove noisy data, and meanwhile the extended model is capable of learning from a limited number of training examples and generalize well. Simulations and real gene expression data experiments substantiate the superiority of the proposed method for predicting the subtypes of disease and identifying potential disease-related genes.

연구 동기 및 목표

• 유전체에서 학습 데이터가 제한적이고 노이즈가 많은 상황에서 소수의 예시로 질병 아형을 예측하는 문제를 해결하기 위해.
• 각 질병 아형을 독립적으로 다루는 대신, 상호 관련된 임상 변수를 동시에 모델링하여 임상적 추론를 시뮬레이션하기 위해.
• 유전자 발현 프로파일에 내재된 고차원성과 노이즈 문제를 해결함으로써 유전체 데이터를 위한 프로토타입 네트워크의 성능을 향상시키기 위해.
• 유사한 임상 과제들 간의 공유 지식을 활용하여 소수의 예시로부터 잘 일반화되는 데이터 효율적인 모델을 개발하기 위해.
• TCGA 데이터에서 생존 분석을 통한 검증을 통해 생물학적으로 관련된 유전자를 식별하기 위해.

제안 방법

• 고차원적 발현 데이터로부터 질병 관련 유전자를 자동으로 식별하는 학습 가능한 특징 선택 레이어를 프로토타입 네트워크에 확장한다.
• 지원 세트 임bedding 과정에서 노이즈가 많거나 이상치로 간주되는 샘플을 적응적으로 낮추는 샘플 재가중 전략을 도입한다.
• 각 클래스의 프로토타입이 지원 샘플의 가중 평균으로 유도되며, 가중치는 신경망을 통해 학습된다.
• 다양한 관련 임상 과제(예: TCGA의 질병 아형)에서 훈련함으로써 지식 전이가 가능한 메타러닝 프레임워크를 사용한다.
• 각 에피소드가 소수의 예시 분류 과제를 시뮬레이션하는 에피소드 기반 훈련을 통해 모델을 종합적으로 훈련한다.
• 소규모 TCGA 과제의 코어셋을 사용한 다중 과제 학습 설정을 도입하여, 벤치마킹을 위한 mini-TCGA 메타데이터셋을 구성한다.

실험 결과

연구 질문

• RQ1 소수의 예시로 제한적이고 노이즈가 많은 샘플을 가진 유전체 데이터에서 메타러닝 기법이 질병 아형 예측 성능을 향상시킬 수 있는가?
• RQ2 특징 선택과 샘플 재가중 기법을 통합함으로써, 고차원적이고 노이즈가 많은 유전자 발현 데이터에 대한 모델의 강인성은 어떻게 향상되는가?
• RQ3 상호 관련된 임상 과제들 간의 공유 지식은 소수의 예시로 이루어진 유전체 분류에서 일반화 성능을 얼마나 향상시킬 수 있는가?
• RQ4 모델은 환자의 생존 결과와 관련된 생물학적으로 의미 있는 유전자를 식별할 수 있는가?
• RQ5 다양한 노이즈 수준에서 기존의 지도 학습 방법과 기반 모델인 ProtoNet에 비해 Select-ProtoNet의 정확도와 강인성은 어떻게 비교되는가?

주요 결과

• Select-ProtoNet는 TCGA 메타데이터셋의 폐암 아형 예측 과제에서 97.78%의 정확도를 달성하여, 기반 모델인 ProtoNet보다 20퍼센트 이상 높은 성능을 기록했다.
• 소규모 TCGA 메타데이터셋에서 노이즈가 증가함에 따라 Select-ProtoNet은 50% 노이즈 수준에서 78.15%의 정확도를 유지했으며, 이는 로지스틱 회귀 모델의 57.06%보다 높은 성능이다.
• 폐암 과제에서 Select-ProtoNet은 기반 모델인 ProtoNet보다 정확도가 12.7퍼센트 포인트 향상되어, 메타학습을 통한 지식 전이에 의한 강력한 일반화 능력을 입증했다.
• Select-ProtoNet이 선별한 상위 20개 유전자에서는 유의미한 생존 차이가 관찰되었으며(logrank p-value = 5.801e-4), 이들 유전자에서 변이가 없는 환자군에서 더 긴 생존 기간을 기록했다.
• 특징 선택 레이어는 불필요한 유전자를 효과적으로 걸러내었고, 샘플 재가중 메커니즘은 노이즈가 많은 샘플의 영향을 감소시켜 모델의 안정성을 향상시켰다.
• 생존 분석 결과, Select-ProtoNet이 식별한 유전자들은 폐암 맥락에서 생물학적으로 관련 있고 임상적으로 의미 있는 것으로 확인되었다.