[논문 리뷰] DeepDiff: Deep-learning for predicting Differential gene expression from histone modifications

Arshdeep Sekhon, Ritambhara Singh외 1명|arXiv (Cornell University)|2018. 07. 10.

Genomics and Chromatin Dynamics참고 문헌 9인용 수 3

한 줄 요약

DeepDiff는 히스톤 수정 신호를 기반으로 세포 유형 간의 차별적 유전자 발현을 예측하는 주목적 기반 딥러닝 모델을 소개한다. 계층적 LSTMs와 이중 수준의 주목적 메커니즘을 활용하여 히스톤 마크 간의 공간적 종속성과 조합 효과를 포착하며, Roadmap Epigenomics 데이터에서 최신 기술들보다 뚜렷이 뛰어난 성능을 보인다.

ABSTRACT

Computational methods that predict differential gene expression from histone modification signals are highly desirable for understanding how histone modifications control the functional heterogeneity of cells through influencing differential gene regulation. Recent studies either failed to capture combinatorial effects on differential prediction or primarily only focused on cell type-specific analysis. In this paper, we develop a novel attention-based deep learning architecture, DeepDiff, that provides a unified and end-to-end solution to model and to interpret how dependencies among histone modifications control the differential patterns of gene regulation. DeepDiff uses a hierarchy of multiple Long short-term memory (LSTM) modules to encode the spatial structure of input signals and to model how various histone modifications cooperate automatically. We introduce and train two levels of attention jointly with the target prediction, enabling DeepDiff to attend differentially to relevant modifications and to locate important genome positions for each modification. Additionally, DeepDiff introduces a novel deep-learning based multi-task formulation to use the cell-type-specific gene expression predictions as auxiliary tasks, encouraging richer feature embeddings in our primary task of differential expression prediction. Using data from Roadmap Epigenomics Project (REMC) for ten different pairs of cell types, we show that DeepDiff significantly outperforms the state-of-the-art baselines for differential gene expression prediction. The learned attention weights are validated by observations from previous studies about how epigenetic mechanisms connect to differential gene expression. Codes and results are available at \url{deepchrome.org}

연구 동기 및 목표

• 히스톤 수정 신호로부터 다양한 세포 유형 간의 차별적 유전자 발현을 예측하기 위한 통합적이고 종단간 딥러닝 프레임워크 개발.
• Genome에 따라 배열된 다수의 히스톤 수정 간의 조합적 상호작용과 공간적 종속성 모델링.
• 세포 유형별 유전자 발현을 보조 과제로 사용한 다중 과제 학습 설정을 통해 특징 표현 향상.
• 유의미한 히스톤 마크와 중요한 게놈 위치를 강조하는 주목적 가중치를 학습함으로써 모델의 해석 가능성 확보.
• 이전 연구에서 알려진 에피제네틱 메커니즘과의 일치를 통해 모델의 생물학적 관련성 검증.

제안 방법

• 전사 시작 부위(TSS) 중심으로 10,000bp 범위의 히스톤 수정 신호의 공간적 구조를 인코딩하기 위해 장기 단기 기억 네트워크(LSTM)의 계층적 구조를 활용.
• 두 수준의 주목적 메커니즘 도입: 하나는 관련 있는 히스톤 수정을 선택하고, 다른 하나는 각 수정 신호 내에서 중요한 게놈 위치를 식별.
• 주된 차별적 발현 예측 과제의 특징 임bedding을 향상시키기 위해 세포 유형별 유전자 발현 예측을 보조 과제로 사용한 다중 과제 학습 프레임워크 적용.
• 표현 벡터를 다양한 세포 유형 간에 정렬하기 위해 시아미즈 네트워크 아키텍처와 대비 손실(contrastive loss)을 적용하여 일반화 능력 향상.
• 주 회귀 과제(차별적 발현)와 보조 과제(세포 유형별 발현의 회귀 또는 분류)를 동시에 최적화하여 종단간(end-to-end)으로 모델 훈련.
• 기준 모델과의 성능 비교를 위해 주요 평가 지표로 피어슨 상관계수(PCC) 사용.

실험 결과

연구 질문

• RQ1 딥러닝 모델이 히스톤 수정 신호의 전장적 패tern을 효과적으로 분석하면서도 조합적 상호작용과 공간적 종속성을 포착할 수 있는가?
• RQ2 DeepDiff의 주목적 메커니즘이 차별적 조절에 관련된 생물학적으로 의미 있는 히스톤 마크와 게놈 영역을 어떻게 강조하는가?
• RQ3 세포 유형별 유전자 발현을 보조 과제로 통합할 경우, 차별적 발현 예측의 성능과 내구성은 어느 정도 향상되는가?
• RQ4 DeepDiff가 학습한 주목적 가중치는 기존의 생물학적 관찰 및 알려진 에피제네틱 메커니즘과 일치하는가?
• RQ5 기존 최신 기술 대비 DeepDiff의 예측 정확성과 해석 가능성은 어떠한가?

주요 결과

• DeepDiff는 Roadmap Epigenomics 프로젝트의 10개 세포 유형 쌍에서 최신 기술 기준선을 뛰어넘는 차별적 유전자 발현 예측 성능 확보.
• 세포 유형별 분류 기반 보조 과제를 사용할 경우, 평균 PCC는 179.17, 중앙값 PCC는 192.33를 기록하며, 이중층 SVR 기준선을 초월.
• DeepDiff가 학습한 주목적 가중치는 기존 생물학적 지식과 일치: H3K4me3는 프로모터 근처에서 우선시되며, H3K4me1은 에너젠터 근처, H3K27me3는 억제된 영역 근처에서 강조됨.
• 세포 유형별 발현을 보조 과제로 사용한 다중 과제 학습은 특징 표현을 향상시켜 더 높은 예측 정확도 도출.
• 계층적 LSTM 아키텍처는 TSS 중심으로 10kb 범위의 히스톤 수정 신호에서 장거리 종속성을 효과적으로 모델링.
• 모델의 주목적 메커니즘은 핵심 조절 영역과 히스톤 마크를 성공적으로 식별하여, 차별적 유전자 조절 메커니즘에 대한 해석 가능한 통찰 제공.