[논문 리뷰] A Review of Deep Learning Techniques for Protein Function Prediction

Divyanshu Aggarwal, Yasha Hasija|arXiv (Cornell University)|2022. 10. 27.

Machine Learning in Bioinformatics인용 수 6

한 줄 요약

이 리뷰는 계산 생물학 및 인공지능 기반 생명과학 분야의 연구자들에게 종합적인 길잡이를 제공하는 바탕이 되는, 단백질 기능 예측을 위한 딥러닝 기술의 최근 발전을 종합적으로 다룹니다. 컴퓨터 시각, 자연어 처리(NLP), 다중모달 학습 분야의 최신 모델들을 강조하며, 기능 주석의 정확성과 확장성 향상에 기여하는 방법을 설명합니다.

ABSTRACT

Deep Learning and big data have shown tremendous success in bioinformatics and computational biology in recent years; artificial intelligence methods have also significantly contributed in the task of protein function classification. This review paper analyzes the recent developments in approaches for the task of predicting protein function using deep learning. We explain the importance of determining the protein function and why automating the following task is crucial. Then, after reviewing the widely used deep learning techniques for this task, we continue our review and highlight the emergence of the modern State of The Art (SOTA) deep learning models which have achieved groundbreaking results in the field of computer vision, natural language processing and multi-modal learning in the last few years. We hope that this review will provide a broad view of the current role and advances of deep learning in biological sciences, especially in predicting protein function tasks and encourage new researchers to contribute to this area.

연구 동기 및 목표

• 계산 생물학 분야에서 단백질 기능 예측에 적용된 딥러닝 기법에 대한 종합적인 개요를 제공하는 것.
• 컴퓨터 시각, 자연어 처리(NLP), 다중모달 학습 분야의 최신 딥러닝 모델들이 생물학적 기능 예측 과제에 어떻게 통합되었는지 분석하는 것.
• 자기지도 학습 및 다중모달 사전학습이 기능 주석의 정확성과 확장성에 미치는 변혁적 영향을 부각하는 것.
• 딥러닝을 활용한 단백질 기능 분류 자동화 과정에서의 주요 과제와 기회를 규명하는 것.
• AI 기반 생물학적 기능 예측 분야에 진입하는 신규 연구자들에게 기초 자료로서의 기능을 수행하는 것.

제안 방법

• 그래프 신경망, 트랜스포머, 다중모달 인코더를 포함한 단백질 기능 예측에 사용된 딥러닝 아키텍처의 체계적 리뷰.
• 비지도 사전학습 전략 분석, 예를 들어 대조 학습과 마스킹 모델링 기법을 자연어 처리(NLP) 및 비전 분야에서 유도하여 단백질 서열 및 구조에 적용한 사례.
• 단백질 서열, 구조, 유전자 발현 데이터를 융합하는 다중모달 융합 기법을 검토하여 기능 추론 성능 향상 분석.
• 정밀도, 재현율, F1 점수 지표를 사용하여 유전자 온톨로지(Gene Ontology, GO) 주석 작업과 같은 표준 벤치마크에서 모델 성능 평가.
• 저자원 기능 주석 환경에서의 지도 학습, 약한 지도 학습, 제로샷 전이 학습 접근법 간 비교.
• 단백질 특화 딥러닝 프레임워크에 통합된 어텐션 메커니즘 및 잔차 연결 등의 아키텍처 혁신 요약.

실험 결과

연구 질문

• RQ1 최근 컴퓨터 시각 및 자연어 처리(NLP) 분야의 딥러닝 모델들은 단백질 기능 예측에 어떻게 적응되었는가?
• RQ2 최신 모델에서 기능 주석 정확성을 향상시킨 주요 아키텍처 및 학습 혁신은 무엇인가?
• RQ3 다중모달 학습 접근법은 서열 기반 방법을 초월하여 단백질 기능 예측에 어떤 방식으로 기여하는가?
• RQ4 자기지도 사전학습 및 전이 학습은 기능 주석 과제에서 데이터 부족 문제를 어떻게 완화하는가?
• RQ5 대규모이고 정확한 단백질 기능 예측을 위한 딥러닝 도입에 있어 여전히 남아 있는 제한 사항과 열린 과제는 무엇인가?

주요 결과

• 특히 자기지도 사전학습과 다중모달 통합을 활용한 최신 딥러닝 모델들은 유전자 온톨로지(Gene Ontology, GO) 기준에서 단백질 기능 예측 성능을 크게 향상시켰다.
• 트랜스포머와 그래프 신경망은 단백질 서열 및 구조에서 장거리 의존성과 구조적 맥락을 효과적으로 포착하는 데 뛰어난 성능을 보였다.
• 서열, 구조, 옴믹스 데이터를 융합한 다중모달 모델은 저자원 환경에서 단일모달 기준선 대비 더 높은 F1 점수를 기록하였다.
• 다양한 생물학적 서열에 대한 대규모 사전학습에서 유도된 전이 학습은 제로샷 및 소수의 샘플을 활용한 기능 예측을 가능하게 하여 고비용 수동 주석 의존도를 감소시켰다.
• 대조 학습 및 마스킹 모델링 기법의 통합은 단백질 기능 분류에 더 강력하고 일반화 능력이 뛰어난 표현을 도출하였다.
• 성과에도 불구하고, 설명 가능성, 대규모 프로테오믹스에 대한 확장성, 다양한 종과 기능 클래스 간 일반화 능력 향상에 있어 여전히 과제가 남아 있다.