[논문 리뷰] Deep Learning Methods for Protein Family Classification on PDB Sequencing Data

Aaron Wang|arXiv (Cornell University)|2022. 07. 14.

Machine Learning in Bioinformatics인용 수 6

한 줄 요약

이 연구는 단백질 데이터베이스(PDB)에서 확보한 단백질의 1차 구조 데이터를 이용해 단백질을 가족으로 분류하기 위해 딥러닝 모델—특히 양방향 LSTMs와 합성곱 신경망(CNNs)—을 평가한다. CNN 아키텍처가 고전적 기계학습 방법과 LSTMs를 모두 앞서며 아미노산 서열에서 단백질 가족 소속을 예측하는 데 뛰어난 정확도를 보였다.

ABSTRACT

Composed of amino acid chains that influence how they fold and thus dictating their function and features, proteins are a class of macromolecules that play a central role in major biological processes and are required for the structure, function, and regulation of the body's tissues. Understanding protein functions is vital to the development of therapeutics and precision medicine, and hence the ability to classify proteins and their functions based on measurable features is crucial; indeed, the automatic inference of a protein's properties from its sequence of amino acids, known as its primary structure, remains an important open problem within the field of bioinformatics, especially given the recent advancements in sequencing technologies and the extensive number of known but uncategorized proteins with unknown properties. In this work, we demonstrate and compare the performance of several deep learning frameworks, including novel bi-directional LSTM and convolutional models, on widely available sequencing data from the Protein Data Bank (PDB) of the Research Collaboratory for Structural Bioinformatics (RCSB), as well as benchmark this performance against classical machine learning approaches, including k-nearest neighbors and multinomial regression classifiers, trained on experimental data. Our results show that our deep learning models deliver superior performance to classical machine learning methods, with the convolutional architecture providing the most impressive inference performance.

연구 동기 및 목표

• 단일 아미노산 서열만을 이용해 수백만 개의 미분류 단백질을 기능적 가족으로 분류하는 데 도전하는 것.
• 딥러닝 모델이 PDB 시퀀싱 데이터 기반 단백질 가족 분류에서 고전적 기계학습 기법을 능가할 수 있는지 평가하는 것.
• 순차적 단백질 서열 데이터를 모델링하는 데서 순환(LSTM)과 합성곱(CNN) 신경망의 상대적 성능을 조사하는 것.
• 높은 예측 정확도에도 불구하고 생물학적 통찰을 방해하는 데이터 품질 및 모델 해석 가능성의 한계를 규명하는 것.

제안 방법

• 단백질 1차 구조 내 순차적 종속성을 모델링하기 위해 양방향 장기 단기 기억(LSTM) 네트워크를 학습시켰다.
• 다중 합성곱 블록, 배치 정규화, 드롭아웃, ReLU 활성화 함수를 포함한 합성곱 신경망(CNN)을 구현하여 국소적 및 전반적 시퀀스 패턴을 추출하였다.
• 동일한 PDB 기반 데이터셋에서 딥러닝 모델을 고전적 기계학습 방법, 즉 k-최근접 이웃(k-NN)과 다항 로지스틱 회귀 모델과 비교 평가하였다.
• 입력 특징으로는 one-hot 인코딩된 아미노산 서열을 사용하였으며, 타깃 레이블은 10개 클래스의 단백질 가족으로 설정하였다.
• 과적합을 방지하기 위해 조기 정지와 학습률 스케줄링을 적용하였지만, 정규화는 제한적으로 사용되었다.
• 하이퍼파라미터 튜닝을 위해 학습률과 옵티마이저 선택에 대해 그리드 서치를 수행하고, 검증 및 테스트 분할에서 정확도를 기반으로 모델을 평가하였다.

실험 결과

연구 질문

• RQ1 딥러닝 모델이 PDB 시퀀스 데이터 기반 단백질 가족 분류 정확도에서 고전적 기계학습 방법보다 유의미하게 향상되는가?
• RQ2 양방향 LSTM과 CNN 중 어느 딥러닝 아키텍처가 단백질 서열 분류에 더 나은 성능을 보이며, 그 이유는 무엇인가?
• RQ3 저정밀도 측정치(예: 소수점 한 자리 이하의 결정 온도)와 같은 데이터 품질 문제로 인해 k-NN 및 다항 회귀 모델의 성능에 어떤 영향을 미치는가?
• RQ4 과적합과 낮은 해석 가능성은 고정확도 딥러닝 모델의 생물학적 분류 작업에서의 실용적 유용성을 어느 정도 제한하는가?
• RQ5 랜덤 오버샘플링과 같은 데이터 증강 기법이 불균형한 단백질 가족 데이터셋에서 모델 성능 향상에 기여할 수 있는가?

주요 결과

• 합성곱 신경망(CNN)이 테스트된 모든 모델 중 가장 높은 추론 정확도를 기록하였으며, 양방향 LSTM 및 고전적 기계학습 방법을 모두 앞섰다.
• CNN 모델은 학습 정확도 약 0.95와 검증 정확도 약 0.80에 도달하여 시퀀스 데이터에 대해 뛰어난 학습 능력을 보였다.
• 양방향 LSTM 모델은 학습 정확도 0.94와 검증 정확도 0.80를 기록하여 CNN과 유사하지만 略로 낮은 성능을 보였다.
• k-NN 및 다항 로지스틱 회귀와 같은 고전적 모델은 성능이 열악했으며, k 값이 증가함에 따라 k-NN 정확도가 감소하여 데이터 희소성과 측정 정밀도 문제로 인해 이웃 기반 유사도 기반 접근이 효과적이지 않았다.
• 다항 로지스틱 회귀 모델은 대부분의 클래스를 예측하는 경향을 보여, 클래스 불균형과 저정밀도 특징이 단백질 가족 간 구분 능력을 저해했다.
• 두 딥러닝 모델 모두 첫 다섯 에포크 내에 빠르게 수렴하여, 데이터셋 크기 대비 높은 모델 복잡성과 수백만 개의 파라미터로 인한 과적합 가능성을 시사했다.