[논문 리뷰] Interpretable Structured Learning with Sparse Gated Sequence Encoder for Protein-Protein Interaction Prediction

Kishan KC, Feng Cui외 2명|arXiv (Cornell University)|2020. 10. 16.

Machine Learning in Bioinformatics참고 문헌 26인용 수 4

한 줄 요약

이 논문은 아미노산 서열에서 해석 가능한 단백질-단백질 상호작용(PPI) 예측을 위한 스퍼스 게이팅 이중방향 GRU 모델을 제안한다. 구조적 스퍼시티와 가우시안 잠재 공간을 통합함으로써 모델은 효율적으로 서열을 인코딩하며, 생물학적으로 관련된 모티프를 선택적으로 강조한다. 효율성과 해석 가능성 향상으로 인해 효모 및 인간 PPI 데이터셋에서 최신 기술을 초월한다.

ABSTRACT

Predicting protein-protein interactions (PPIs) by learning informative representations from amino acid sequences is a challenging yet important problem in biology. Although various deep learning models in Siamese architecture have been proposed to model PPIs from sequences, these methods are computationally expensive for a large number of PPIs due to the pairwise encoding process. Furthermore, these methods are difficult to interpret because of non-intuitive mappings from protein sequences to their sequence representation. To address these challenges, we present a novel deep framework to model and predict PPIs from sequence alone. Our model incorporates a bidirectional gated recurrent unit to learn sequence representations by leveraging contextualized and sequential information from sequences. We further employ a sparse regularization to model long-range dependencies between amino acids and to select important amino acids (protein motifs), thus enhancing interpretability. Besides, the novel design of the encoding process makes our model computationally efficient and scalable to an increasing number of interactions. Experimental results on up-to-date interaction datasets demonstrate that our model achieves superior performance compared to other state-of-the-art methods. Literature-based case studies illustrate the ability of our model to provide biological insights to interpret the predictions.

연구 동기 및 목표

• 쌍방향 PPI 모델링에서 시아미즈 아키텍처의 계산 비효율성을 해결하기 위해.
• PPI에 관여하는 핵심 아미노산 잔기들을 식별함으로써 모델의 해석 가능성 향상.
• 시퀀스 전용 데이터를 사용하여 대규모 PPI 예측 성능 향상.
• 학습된 주의 메커니즘을 알려진 단백질 모티프와 일치시켜 생물학적 통찰 제공.
• 중복된 쌍방향 인코딩을 피하는 확장성 있고 효율적인 프레임워크 개발.

제안 방법

• 변동 길이의 단백질 서열에서 문맥적이고 순차적인 표현을 학습하기 위해 이중방향 게이팅 순환 단위(BiGRU)를 사용한다.
• 일반화 성능 향상을 위해 불확실성을 캡처하기 위해 서열 표현을 잠재 가우시안 분포로 모델링한다.
• 중요한 잔기를 강조하기 위해 아미노산 위치에 스퍼스, 학습 가능한 가중치를 할당하는 구조적 스퍼스 게이팅 메커니즘을 도입한다.
• 잠재 분포 간 통계적 거리 기반의 대비 손실 함수를 사용하여 상호작용 유무를 구분한다.
• 스퍼시티를 제어하고 생물학적 모티프와의 일치도 향상을 위해 fusedmax 및 sparsemax 게이팅 전략을 적용한다.
• 각 고유 단백질을 배치당 한 번만 인코딩하여, 시아미즈 모델의 쌍방향 인코딩 대비 계산 비용을 절감한다.

실험 결과

연구 질문

• RQ1 일련의 서열 인코딩 모델이 대규모 스케일에서 계산 비용을 줄이며 우수한 PPI 예측 성능를 달성할 수 있는가?
• RQ2 스퍼스 게이팅 메커니즘이 서열에서 생물학적으로 관련된 단백질 모티프를 효과적으로 식별할 수 있는가?
• RQ3 모델의 주의 메커니즘이 Pfam과 같은 데이터베이스에서 알려진 기능적 모티프와 일치하는가?
• RQ4 구조적 스퍼시티를 통해 파라미터 중복을 줄이면서도 높은 성능를 유지할 수 있는가?
• RQ5 기존 최신 기술 기반 PPI 예측기와 비교해 모델의 해석 가능성은 어떻게 되는가?

주요 결과

• 모델은 BioGRID 데이터베이스의 효모 및 인간 PPI 데이터셋에서 최신 기술 수준의 성능를 달성한다.
• fusedmax 게이팅을 사용한 결과, 인간 데이터셋에서 평균 23.33%의 선택된 아미노산이 Pfam 모티프와 일치하여 생물학적 관련성이 높음을 시사한다.
• 효모 데이터셋의 경우, fusedmax 게이팅 메커니즘이 선택한 아미노산의 59.05%가 알려진 모티프와 일치하여 높은 해석 가능성성을 입증한다.
• 유일한 단백질을 배치당 한 번만 인코딩함으로써, 시아미즈 모델의 쌍방향 인코딩과는 달리 학습 시간과 메모리 사용량을 감소시킨다.
• 시각화 결과, 모델이 활성화한 영역가 알려진 기능 도메인인 LSM 도메인(PF01423)과 AP4 복합체(PF14807)와 일치함을 확인했다.
• 사례 연구 결과, LSM8, SMD2, RPC11 등의 단백질에서 중요한 잔기를 성공적으로 식별하였으며, 이는 알려진 모티프 위치와 일치한다.