[논문 리뷰] Combination of digital signal processing and assembled predictive models facilitates the rational design of proteins

David Medina-Ortiz, Sebastián Contreras외 5명|arXiv (Cornell University)|2020. 10. 07.

Machine Learning in Bioinformatics참고 문헌 57인용 수 5

한 줄 요약

이 논문은 디지털 신호 처리(FFT를 통한)와 조립된 기계학습 모델을 융합한 새로운 방법론을 제안한다. 아미노산 서열을 AAIndex에서 최적화된 물리화학적 성질 그룹을 기반으로 군집화하고 인코딩하여 주파수 도메인 표현으로 변환함으로써, 앙상블 모델링을 통해 단일 인코딩 모델 및 이전 방법들을 능가하는 예측 성능을 달성한다. 다양한 단백질 설계 과제에서 뛰어난 성능을 보인다.

ABSTRACT

Predicting the effect of mutations in proteins is one of the most critical challenges in protein engineering; by knowing the effect a substitution of one (or several) residues in the protein's sequence has on its overall properties, could design a variant with a desirable function. New strategies and methodologies to create predictive models are continually being developed. However, those that claim to be general often do not reach adequate performance, and those that aim to a particular task improve their predictive performance at the cost of the method's generality. Moreover, these approaches typically require a particular decision to encode the amino acidic sequence, without an explicit methodological agreement in such endeavor. To address these issues, in this work, we applied clustering, embedding, and dimensionality reduction techniques to the AAIndex database to select meaningful combinations of physicochemical properties for the encoding stage. We then used the chosen set of properties to obtain several encodings of the same sequence, to subsequently apply the Fast Fourier Transform (FFT) on them. We perform an exploratory stage of Machine-Learning models in the frequency space, using different algorithms and hyperparameters. Finally, we select the best performing predictive models in each set of properties and create an assembled model. We extensively tested the proposed methodology on different datasets and demonstrated that the generated assembled model achieved notably better performance metrics than those models based on a single encoding and, in most cases, better than those previously reported. The proposed method is available as a Python library for non-commercial use under the GNU General Public License (GPLv3) license.

연구 동기 및 목표

• 단백질 공학에서 아미노산 변이의 기능적 영향을 예측하는 데 도전하는 것.
• 일반성과 성능 사이의 상충를 희생하는 단일 인코딩 방법의 한계를 극복하고, 서열 인코딩 전략에 대한 공감대가 부족한 문제를 해결하는 것.
• AAIndex 데이터베이스에서 의미 있는 물리화학적 성질 그룹을 자동으로 선택하여 데이터 기반의 일반화 가능한 서열 인코딩 방법을 개발하는 것.
• 기계학습을 위한 분별 가능한 주파수 도메인 특징을 추출하기 위해 인코딩된 서열에 디지털 신호 처리(특히 FFT)를 적용하는 것.
• 다양한 성질 기반 인코딩에 대해 훈련된 다수의 모델을 가중 평균 또는 투표 방식으로 조립하여 예측 정확도를 향상시키는 것.

제안 방법

• AAIndex 데이터베이스에 군집화, 임bedding, 차원 감소(PCA)를 적용하여 물리화학적 성질의 일관된 그룹을 식별하는 것.
• PCA 공간의 선형 분離성(PCA1/PCA2 평면)과 의미적 검색을 통해 여덟 개의 서로 다른, 의미적으로 일관된 성질 그룹을 선별하는 것.
• 각 그룹의 첫 번째 주성분(변동성의 85% 이상 설명)을 사용하여 그룹을 대표하는 축소되고 의미 있는 인코딩을 각 서열에 생성하는 것.
• 인코딩된 서열에 빠른 푸리에 변환(FFT)을 적용하여 모델 입력용 주파수 도메인 표현으로 변환하는 것.
• 각 인코딩 유형에 대해 다양한 알고리즘과 하이퍼파ram터를 테스트하는 주파수 공간에서의 탐색적 기계학습 단계를 수행하는 것.
• 각 인코딩 그룹에서 가장 뛰어난 성능을 보인 모델들을 가중 평균 또는 투표 방식으로 조립하여 최종 앙상블 모델을 구성함으로써 일반화 능력과 예측 성능을 향상시키는 것.

실험 결과

연구 질문

• RQ1 AAIndex 데이터베이스에서 의미 있고 중복되지 않는 물리화학적 성질 그룹을 자동으로 추출하여 단백질 예측을 위한 서열 인코딩을 향상시킬 수 있는가?
• RQ2 FFT를 통해 서열 인코딩을 주파수 도메인으로 변환하면 기계학습 모델의 단백질 공학 과제에서의 성능 향상에 기여하는가?
• RQ3 다양한 성질 기반 인코딩에 대해 훈련된 모델의 앙상블은 개별 모델보다 뛰어난 예측 성능을 달성할 수 있는가?
• RQ4 정확도, 정밀도 및 다양한 단백질 예측 과제에서의 일반화 능력 측면에서 기존 최신 기술 수준의 도구와 비교해 본다면, 제안된 방법은 어떻게 성능을 내는가?
• RQ5 가중 투표 또는 평균화를 통한 모델 조립이 예측 성능 향상에 어떻게 상호보완적인 효과를 낼 수 있는가?

주요 결과

• 제안된 방법은 항미생물 펩타이드(AMPs)와 비-AMPs를 분류하는 데 98.93%의 정확도와 97.28%의 정밀도를 기록하여 단일 인코딩 모델을 능가했다.
• 최종 모델은 단일 인코딩에 대해 훈련된 어떤 모델보다도 유의미하게 높은 성능 지표를 보였으며, 모델 조합으로 인한 상호보완적 효과가 있음을 시사했다.
• 인코딩된 서열의 주파수 도메인 표현(Fourier 스펙트럼)은 AMPs와 비-AMPs 간에 명확한 시각적 및 정량적 분리를 보였으며, 고정밀도 분류가 가능했다.
• 다양한 단백질 공학 데이터셋에서 최신 기술 수준의 성능을 달성하였으며, 전통적 접근 방식을 능가했고, 특정 경우에서는 매우 전문화된 도구와도 유사하거나 이를 초월하는 결과를 보였다.
• PCA로 축소된 성질 그룹 전용 인코딩은 강력한 특징 추출을 가능하게 했으며, 각 그룹의 첫 번째 주성분이 그룹 내 변동성의 85% 이상을 설명했다.
• 최종 조립된 모델은 다양한 예측 과제에 대해 잘 일반화되었으며, 실제 단백질 공학 적용에서 방법의 일반화 가능성과 강건성을 입증했다.