[논문 리뷰] Towards Gene Expression Convolutions using Gene Interaction Graphs

Francis Dutil, Joseph Cohen외 3명|arXiv (Cornell University)|2018. 06. 18.

Bioinformatics and Genomic Networks참고 문헌 7인용 수 28

한 줄 요약

이 논문은 저표본 크기의 유전자 발현 데이터에서 딥러닝 성능을 향상시키기 위해 유전자 상호작용 그래프를 그래프 컨volution 네트워크(GCNs)의 인덕티브 바이어스로 사용하는 것을 제안한다. GeneMania와 RegNetwork와 같은 그래프로부터의 생물학적 지식을 활용함으로써 특징 학습과 예측 성능이 향상되며, 특히 단일 유전자 발현 추론에서 뚜렷한 성능 향상이 나타난다. 첫 번째 이웃을 사용할 경우 최대 20%의 AUC 향상이 관찰되었으며, 성능는 그래프의 품질에 크게 의존한다.

ABSTRACT

We study the challenges of applying deep learning to gene expression data. We find experimentally that there exists non-linear signal in the data, however is it not discovered automatically given the noise and low numbers of samples used in most research. We discuss how gene interaction graphs (same pathway, protein-protein, co-expression, or research paper text association) can be used to impose a bias on a deep model similar to the spatial bias imposed by convolutions on an image. We explore the usage of Graph Convolutional Neural Networks coupled with dropout and gene embeddings to utilize the graph information. We find this approach provides an advantage for particular tasks in a low data regime but is very dependent on the quality of the graph used. We conclude that more work should be done in this direction. We design experiments that show why existing methods fail to capture signal that is present in the data when features are added which clearly isolates the problem that needs to be addressed.

연구 동기 및 목표

• 낮은 표본 크기의 유전자 발현 데이터에서 딥러닝 모델의 성능이 열악한 문제를 해결하기 위해.
• 유전자 상호작용 그래프가 모델 일반화 능력 향상과 과적합 감소에 효과적인 인덕티브 바이어스로 기능할 수 있는지 조사하기 위해.
• 유전자 상호작용 그래프의 품질과 구조가 유전자 발현 작업의 최종 예측 성능에 미치는 영향을 평가하기 위해.
• 유전자 발현 데이터에 비선형 신호가 존재하며, 노이즈와 제한된 표본으로 인해 표준 모델이 이를 놓친다는 것을 입증하기 위해.
• 지속적으로 어려움이 증가하는 설정(지역 유전자 이웃에서 전체 유전자 집합까지)을 통해 모델 평가의 벤치마크를 수립하기 위해.

제안 방법

• 저자들은 유전자 상호작용 그래프의 사전 생물학적 지식에 의해 정의된 간선을 따라 유전자 발현 특징을 전파하고 집계하기 위해 그래프 컨volution 네트워크(GCNs)를 사용한다.
• 각 유전자는 단백질-단백질 상호작용, 공발현, 또는 GeneMania와 RegNetwork와 같은 데이터베이스에서 유래한 텍스트 기반 연관성에 의해 정의된 이웃을 가진 그래프에 임bed된다.
• GCN은 정규화된 인cidience 행렬을 사용한 스펙트럴 컨볼루션 근사화를 적용한다: $\tilde{A} = D'^{-1/2} A' D'^{-1/2}$, 여기서 $A' = A + I_N$이다.
• 모델 훈련은 ReLU 활성화 함수, 드롭아웃을 통한 정규화, 그리고 저자료 환경에서의 과적합을 줄이기 위한 32차원 유전자 임베딩을 사용한다.
• GCN은 MLP, L1 및 네트워크 정규화를 적용한 희소 로지스틱 회귀(SLR), 다양한 깊이와 풀링 전략을 가진 GCN 아키텍처와 비교된다.
• 실험은 입력 유전자 수를 점진적으로 증가시켜 첫 번째 이웃에서 전체 16,000개 유전자까지 진행하여 모델의 내성과 신호 탐지 능력을 평가한다.

실험 결과

연구 질문

• RQ1 유전자 상호작용 그래프가 저표본 크기의 유전자 발현 데이터에서 딥러닝 성능 향상에 효과적인 인덕티브 바이어스로 기능할 수 있는가?
• RQ2 기초 유전자 상호작용 그래프의 품질과 구조가 유전자 발현 예측 성능에 상당한 영향을 미치는가?
• RQ3 유전자 발현 데이터에 비선형 신호가 존재하는가? 만약 그렇다면, 노이즈와 제한된 표본으로 인해 표준 모델이 이를 포착하지 못하는가?
• RQ4 GCN이 단일 유전자 발현 추론 작업에서 기존의 MLP 및 로지스틱 회귀 모델보다 얼마나 뛰어나게 성능을 내는가?
• RQ5 점차적으로 더 큰 유전자 집합을 포함할 경우 모델 성능는 어떻게 변화하는가? 국소적 이웃 정보 사용이 예측 신호를 유지하는가?

주요 결과

• GCN을 통한 유전자 상호작용 그래프의 인덕티브 바이어스 활용은 특정 경우에 첫 번째 이웃을 사용할 때 최대 20%의 AUC 향상으로 이어지는 뚜렷한 성능 향상을 가져온다.
• 목표 유전자 13.41%에 대해 GeneMania 그래프가 전체 유전자 집합보다 예측 성능을 향상시켰지만, RegNetwork는 이 비율이 6.25%에 그쳤으며, RegNetwork는 노드당 간선 수가 거의 두 배였다.
• GCN은 MLP 및 로지스틱 회귀 모델보다 뛰어난 성능을 보이며, 입력 특징 수가 생물학적으로 관련된 이웃으로 제한된 경우 특히 두드러진다.
• 더 많은 이웃 유전자를 포함할수록 성능가 일관되게 유지되거나 향상되며, 이는 관련 신호가 종종 局부적으로 분포되어 있으며 전체 유전자를 사용할 경우 이를 포착하지 못한다는 것을 시사한다.
• 이 연구는 비선형 신호가 유전자 발현 데이터에 존재하지만, 일반적으로 저자료 환경에서 노이즈와 과적합으로 인해 표준 모델이 이를 놓친다는 것을 확인한다.
• 모델 성능는 상호작용 그래프의 품질에 매우 민감하므로, 단순히 여러 데이터 소스를 통합한다고 해서 성능 향상이 보장되지 않는다는 점을 시사한다.