[논문 리뷰] Convolutional neural networks for structured omics: OmicsCNN and the OmicsConv layer

Giuseppe Jurman, Valerio Maggio외 8명|arXiv (Cornell University)|2017. 10. 16.

Bioinformatics and Genomic Networks참고 문헌 18인용 수 7

한 줄 요약

이 논문은 메트릭 공간에 특징을 매핑하는 새로운 OmicsConv Keras 레이어를 통해 구조화된 오미크스 데이터에 컨볼루션 신경망(CNN)을 적용하는 딥러닝 프레임워크인 OmicsCNN을 소개한다. 이는 계통발생적 패트리스틱 거리와 다층 네트워크 확산 거리 기반으로 미생물군집학 및 전사체학 데이터에서 CNN을 운영할 수 있게 하여, 기존의 SVM 및 랜덤 포레스트와 비교해 뛰어난 분류 성능을 보이며, 특히 도전적인 IBD 아형에서 뛰어난 성능을 발휘한다.

ABSTRACT

Convolutional Neural Networks (CNNs) are a popular deep learning architecture widely applied in different domains, in particular in classifying over images, for which the concept of convolution with a filter comes naturally. Unfortunately, the requirement of a distance (or, at least, of a neighbourhood function) in the input feature space has so far prevented its direct use on data types such as omics data. However, a number of omics data are metrizable, i.e., they can be endowed with a metric structure, enabling to adopt a convolutional based deep learning framework, e.g., for prediction. We propose a generalized solution for CNNs on omics data, implemented through a dedicated Keras layer. In particular, for metagenomics data, a metric can be derived from the patristic distance on the phylogenetic tree. For transcriptomics data, we combine Gene Ontology semantic similarity and gene co-expression to define a distance; the function is defined through a multilayer network where 3 layers are defined by the GO mutual semantic similarity while the fourth one by gene co-expression. As a general tool, feature distance on omics data is enabled by OmicsConv, a novel Keras layer, obtaining OmicsCNN, a dedicated deep learning framework. Here we demonstrate OmicsCNN on gut microbiota sequencing data, for Inflammatory Bowel Disease (IBD) 16S data, first on synthetic data and then a metagenomics collection of gut microbiota of 222 IBD patients.

연구 동기 및 목표

• 구조화된 오미크스 데이터에서 CNN의 한계를 극복하기 위해 구조화된 오미크스 데이터의 특징 거리 이론적 프레임워크를 수립한다.
• 메트릭 기반의 컨볼루션을 통합한 일반화된 딥러닝 아키텍처인 OmicsCNN을 개발한다.
• 실제 데이터가 제한된 오미크스 설정에서 합성 데이터 사전학습을 통해 도메인 적응을 가능하게 한다.
• 오미크스 분류에서 성실한 성능 평가를 위한 재현 가능하고 편향이 없는 실험 프rotocol(DAP)을 제공한다.
• 실제 장내 미생물군집 데이터를 활용해 염증성 장질환(IBD) 아형에 대해 본 방법의 효과성을 입증한다.

제안 방법

• OmicsConv는 특징 간의 학습된 또는 사전 정의된 거리 메트릭을 사용해 컨볼루션을 계산하는 사용자 정의 Keras 레이어로, 이웃 기반 필터링을 가능하게 한다.
• 미생물군집학에서는 계통발생 트리 기반의 패트리스틱 거리가 특징의 가까움을 정의하고, 전사체학에서는 유전체 기능 유사도와 유전자 공발현을 통합한 4층 다층 네트워크가 사용된다.
• 활성화 함수로는 스케일드 지수선형 단위(SELU)를 사용하고, 옵티마이저로는 학습률 0.0005를 사용한 Adam을 적용한다.
• 오버피팅과 선택 편향을 방지하기 위해 10×5겹 교차검증 데이터 분석 프로토콜(DAP)을 구현하였으며, 특징 순위 매기기에는 보르다 집계를 사용한다.
• 초기 레이어를 동결한 상태에서 대규모 합성 데이터셋으로 사전학습한 후 실제 IBD 데이터에 대해 미세조정함으로써 도메인 적응을 적용한다.
• 전체 파이프라인은 Python/Scikit-Learn 및 Keras v2.0.8로 구현되었으며, GPU 가속 Azure 인프라스트럭처에 배포되었다.

실험 결과

연구 질문

• RQ1 의미 있는 특징 거리 메트릭을 정의함으로써 비이미지 오미크스 데이터에 대해 컨볼루션 신경망을 효과적으로 적용할 수 있는가?
• RQ2 전통적인 기계학습 모델과 비교해, OmicsCNN은 IBD 장내 미생물군집학 데이터와 같은 저표본 오미크스 데이터셋에서 어떻게 성능을 내는가?
• RQ3 합성 데이터 사전학습이 실제 데이터가 제한된 오미크스 분류 작업에서 일반화 성능을 향상시킬 수 있는가?
• RQ4 생물학적 지식(예: 계통발생 트리, 유전자 기능 유사도)을 거리 메트릭에 통합할 경우 오미크스 표현에 어떤 영향을 미치는가?
• RQ5 OmicsCNN 프레임워크는 표준 딥러닝 또는 얕은 모델보다 더 해석 가능하고 강건한 생물학적 생체지표를 도출할 수 있는가?

주요 결과

• OmicsCNN는 병변성 크로운병(iCDf) 분류에서 맥컬럿 상관계수(MCC) 0.858을 기록했으며, 이는 다음으로 우수한 성능을 보인 랜덤 포레스트(RF, F1 0.920이지만 MCC는 낮음)를 뛰어넘고, LSVM(0.418)과 MLPNN(0.401)보다도 뛰어나다.
• 가장 도전적인 과제인 iCDf에서 OmicsCNN는 기준 LSVM 대비 MCC에서 42% 향상되어 희귀하거나 복잡한 아형에서도 강력한 일반화 능력을 보였다.
• 궤양성 대장염 악화(UCf)의 경우 OmicsCNN는 MCC 0.741을 기록했으며, 최고 성능를 보인 LSVM(0.740)와 유사했고, MLPNN(0.666)과 RF(0.699)를 모두 능가했다.
• 모든 여섯 개의 IBD 아형에서 안정적인 성능을 보였으며, 특히 CD와 iCD와 같은 고복잡도 조건에서 네 가지 과제에서 뛰어난 성능를 기록했다.
• 합성 데이터를 활용한 사전학습 덕분에 효과적인 도메인 적응이 가능했으며, 이로 인해 실제 IBD 샘플 수가 제한된 상황에서도 일반화 성능가 유지되었다.
• 무작위 특징 및 레이블 실험을 통해 모델의 타당성을 확인했으며, 성능 향상은 과적합이나 데이터 泄露 때문이 아니라 성능 향상의 타당성이 있음을 입증했다.