[논문 리뷰] Hierachial Protein Function Prediction with Tails-GNNs.

Stefan Spalević, Petar Veličković외 2명|arXiv (Cornell University)|2020. 07. 27.

Bioinformatics and Genomic Networks참고 문헌 29인용 수 7

한 줄 요약

이 논문은 기능 온톨로지(ontology)를 관계적 레이블 그래프로 활용하여 계층적 단백질 기능 예측을 수행하는 새로운 그래프 신경망 아키텍처인 Tail-GNN을 제안한다. 시퀀스 표현을 위한 확장된 컨volutional 네트워크와 기능 관계를 고려한 레이블 예측을 위한 Tail-GNN을 조합함으로써, 기존 기준 모델 대비 F₁ 스코어에서 뚜렷한 향상을 달성한다.

ABSTRACT

Protein function prediction may be framed as predicting subgraphs (with certain closure properties) of a directed acyclic graph describing the hierarchy of protein functions. Graph neural networks (GNNs), with their built-in inductive bias for relational data, are hence naturally suited for this task. However, in contrast with most GNN applications, the graph is not related to the input, but to the label space. Accordingly, we propose Tail-GNNs, neural networks which naturally compose with the output space of any neural network for multi-task prediction, to provide relationally-reinforced labels. For protein function prediction, we combine a Tail-GNN with a dilated convolutional network which learns representations of the protein sequence, making significant improvement in F_1 score and demonstrating the ability of Tail-GNNs to learn useful representations of labels and exploit them in real-world problem solving.

연구 동기 및 목표

• 계층적 온톨로지 구조에서 기능 어휘가 상호 연관되어 있으며 폐쇄성 성질을 가지는 환경에서 단백질 기능을 예측하는 데 도전하는 것.
• 기존 GNN이 일반적으로 입력 그래프에서 작동하는 데 반해, 레이블 그래프에서 작동하는 방법을 설계함으로써 표준 GNN의 한계를 극복하는 것.
• 기능 어휘의 그래프 구조와 조합하여 신경망이 관계 기반 강화된 예측을 생성할 수 있도록 하는 것.
• 레이블 공간에 있는 관계 기반 인덕티브 바이어스를 활용하여 다중 작업 단백질 기능 예측 성능을 향상시키는 것.

제안 방법

• Tail-GNN는 입력 데이터가 아닌, 단백질 기능 어휘의 방향성 비순환 그래프(DAG)인 유전자 온톨로지(Gene Ontology, GO)의 레이블 공간에서 작동하도록 설계되었다.
• 모델은 단백질 시퀀스에서 표현을 학습하는 시퀀스 인코더(확장된 컨volutional 네트워크)와 기능 계층에서의 정보를 전파하는 Tail-GNN을 조합한다.
• Tail-GNN은 기능 DAG를 따라 메시지 전달을 수행하며, 부모 및 자식 관계를 기반으로 레이블 표현을 업데이트함으로써 예측의 폐쇄성과 일관성을 강제한다.
• Tail-GNN의 출력은 시퀀스 인코더의 예측을 개선하는 데 사용되며, 공유된 관계 기반 인덕티브 바이어스를 가진 다중 작업 학습을 가능하게 한다.
• GNN 구성 요소가 계층적 구조에 따라 레이블 임베딩을 업데이트함으로써, 다중 레이블 분류 목표를 기반으로 엔드 투 엔드로 훈련된다.
• 이 방법은 어떤 신경망 아키텍처와도 자연스럽게 조합 가능하여, 기존의 딥러닝 파ip라인에 쉽게 통합할 수 있다.

실험 결과

연구 질문

• RQ1 입력 데이터가 아닌 레이블 공간에서 작동하는 GNN이 단백질 기능 예측 성능을 향상시킬 수 있는가?
• RQ2 Tail-GNN이 유전자 온톨로지의 계층적 구조를 얼마나 효과적으로 활용하여 보다 일관되고 정확한 기능 예측을 생성할 수 있는가?
• RQ3 레이블 공간에 관계 기반 인덕티브 바이어스를 통합하면 표준 다중 레이블 분류 기준 모델 대비 F₁ 스코어에서 측정 가능한 향상이 이루어지는가?
• RQ4 레이블 그래프 구조를 활용함으로써, 다양한 단백질 가족과 기능 카테고리에 걸쳐 일반화가 가능한가?

주요 결과

• 제안된 Tail-GNN 방법은 다중 작업 단백질 기능 예측에서 기준 모델 대비 뚜렷한 F₁ 스코어 향상을 달성한다.
• Tail-GNN를 통한 레이블 그래프 통합은 복잡한 계층적 관계를 가진 어휘에 대해 더 일관되고 생물학적으로 타당한 예측을 가능하게 한다.
• 레이블 공간에 있는 관계 기반 인덕티브 바이어스가 일반화 능력을 향상시키고 관련 기능 어휘 간의 예측 일관성을 감소시키는 것으로 확인되었다.
• 확장된 컨볼루션 네트워크와 Tail-GNN의 조합은 기능 온톨로지 구조를 반영하지 않는 모델보다 성능이 뛰어나며, 계층적 인덕티브 바이어스의 가치를 확인한다.