[논문 리뷰] Feature versus Raw Sequence: Deep Learning Comparative Study on Predicting Pre-miRNA

Jaya Thomas, Sonia Thomas외 1명|arXiv (Cornell University)|2017. 10. 17.

Genomics and Phylogenetic Studies참고 문헌 16인용 수 3

한 줄 요약

이 연구는 전구-miRNA 예측을 위한 딥러닝 모델에서 원시 miRNA 서열과 공학된 특징 간의 성능을 비교한다. 원시 서열을 사용한 6층 컨볼루션 신경망(CNN)이 99.5%의 정확도를 기록하여, 20개의 선택된 특징을 사용한 3층 DBN(99.0% 정확도)를 略로 뛰어넘었다. 이는 충분한 데이터가 확보될 경우 잘 설계된 원시 서열 기반 모델이 특징 기반 접근법을 대체할 수 있음을 보여준다.

ABSTRACT

Should we input known genome sequence features or input sequence itself in deep learning framework? As deep learning more popular in various applications, researchers often come to question whether to generate features or use raw sequences for deep learning. To answer this question, we study the prediction accuracy of precursor miRNA prediction of feature-based deep belief network and sequence-based convolution neural network. Tested on a variant of six-layer convolution neural net and three-layer deep belief network, we find the raw sequence input based convolution neural network model performs similar or slightly better than feature based deep belief networks with best accuracy values of 0.995 and 0.990, respectively. Both the models outperform existing benchmarks models. The results shows us that if provided large enough data, well devised raw sequence based deep learning models can replace feature based deep learning models. However, construction of well behaved deep learning model can be very challenging. In cased features can be easily extracted, feature-based deep learning models may be a better alternative.

연구 동기 및 목표

• 원시 RNA 서열과 사전 추출된 서열 특징 중 어느 것이 전구-miRNA 예측을 위한 딥러닝 모델에서 더 높은 성능을 낼 수 있는지 규명하는 것.
• 원시 뉴클레오타이드 서열에 직접 훈련된 컨볼루션 신경망(CNN)과 생물학적으로 관련된 특징을 사용한 딥 베리프 네트워크(DBN)의 효과성을 평가하는 것.
• 이러한 딥러닝 모델의 성능을 기존의 기준 방법들인 SVM, 랜덤 포레스트, 나이브 베이즈 분류기와 비교하는 것.
• 원시 서열에서 종단간 학습(end-to-end learning)이 전구-miRNA 분류에서 수동적 특징 공학의 필요성을 제거할 수 있는지 조사하는 것.

제안 방법

• 필터 크기 18, 스트라이드 4, 20개 필터를 사용하여 원시 뉴클레오타이드 서열에 6층 컨볼루션 신경망(CNN)을 훈련하고, 이후로 90개와 2개의 뉴런을 가진 두 개의 완전 연결층을 적용하였다.
• 두 번째 CNN 아키텍처로는 필터 크기가 각각 12와 6인 두 개의 컨볼루션 레이어(스트라이드 1), 그 다음으로 윈도우 크기 6, 스트라이드 4인 최대 풀링 레이어, 그리고 2개 뉴런을 가진 출력층을 갖는 두 개의 완전 연결층을 적용하였다.
• 모든 CNN 모델에서 과적합을 방지하기 위해 출력층에 드롭아웃 비율 0.3을 적용하였다.
• 자유 에너지, 융해 온도, 기초 쌍화합 통계 등 생물학적으로 관련된 특징 58개와 20개를 포함한 총 20개의 특징을 사용하여 3개의 히든 레이어(100, 70, 35개 뉴런)를 가진 딥 베리프 네트워크(DBN)를 구축하였다.
• 확률적 요소를 고려하기 위해 DBN 모델에 대해 20회의 독립적인 실행을 수행하고 안정성을 확보하기 위해 평균 결과를 취하였다.
• 정확도, F1-스코어를 사용하여 모델 성능을 평가하였으며, SVM, MiRANN, Triplet-SVM 등의 기존 기준 방법과의 비교도 수행하였다.

실험 결과

연구 질문

• RQ1 원시 RNA 서열에 직접 훈련된 딥러닝 모델이 전구-miRNA 예측에서 수작업으로 만든 서열 특징을 사용하는 모델보다 성능이 뛰어나게 되는가?
• RQ2 다양한 특징 서브셋에서 원시 서열 기반 CNN의 성능 지표(정확도, F1-스코어)는 특징 세트 기반 DBN과 비교해 어떻게 다른가?
• RQ3 원시 서열 기반 딥러닝 모델이 전구-miRNA 분류에서 기존의 기계학습 모델(SVM, 랜덤 포레스트)보다 더 높은 정확도를 달성할 수 있는가?
• RQ4 제한된 생물학적 서열 데이터에서 훈련할 경우, 모델의 깊이와 아키텍처 설계가 성능에 어떤 영향을 미치는가?

주요 결과

• 원시 서열 기반 6층 CNN이 0.995의 최고 정확도를 기록하여 특징 기반 DBN 모델보다 유의미하게 뛰어났다.
• 20개의 선택된 특징을 사용한 DBN 모델은 0.990의 정확도를 기록하였으며, 58개의 특징을 사용한 경우 0.968의 정확도를 기록한 것보다 略로 높았다.
• CNN과 DBN을 포함한 두 가지 딥러닝 모델 모두 기존의 기준 방법인 SVM, 나이브 베이즈, 랜덤 포레스트보다 전구-miRNA 예측에서 뛰어난 성능을 보였다.
• 필터 크기 12와 6, 스트라이드 1인 두 개의 컨볼루션 레이어에 이어 최대 풀링 레이어를 적용한 CNN 모델이 높은 성능을 기록하여, 더 깊은 아키텍처가 특징 추출을 향상시킬 수 있음을 시사했다.
• 원시 서열 모델의 잠재력은 크지만, 데이터 제한과 하이퍼파rameter 민감성으로 인해 잘 설계된 딥러닝 아키텍처를 구축하는 것은 여전히 도전 과제이다.
• 고품질이고 쉽게 추출 가능한 특징이 확보될 경우, 특징 기반 DBN은 그 안정성과 낮은 아키텍처 복잡성으로 인해 여전히 선호되는 대안이 될 수 있다.