[논문 리뷰] Accurate RNA 3D structure prediction using a language model-based deep learning approach

Tao Shen, Zhigang Hu외 15명|arXiv (Cornell University)|2022. 07. 04.

RNA and protein synthesis mechanisms인용 수 57

한 줄 요약

E2Efold-3D는 de novo RNA 3D 구조 예측을 위한 엔드-투-엔드 딥러닝 방법으로 RNA 퍼즐에서 sub-4 Å RMSD를 달성하고 FARFAR2보다 훨씬 빠르다.

ABSTRACT

Accurate prediction of RNA three-dimensional (3D) structure remains an unsolved challenge. Determining RNA 3D structures is crucial for understanding their functions and informing RNA-targeting drug development and synthetic biology design. The structural flexibility of RNA, which leads to scarcity of experimentally determined data, complicates computational prediction efforts. Here, we present RhoFold+, an RNA language model-based deep learning method that accurately predicts 3D structures of single-chain RNAs from sequences. By integrating an RNA language model pre-trained on ~23.7 million RNA sequences and leveraging techniques to address data scarcity, RhoFold+ offers a fully automated end-to-end pipeline for RNA 3D structure prediction. Retrospective evaluations on RNA-Puzzles and CASP15 natural RNA targets demonstrate RhoFold+'s superiority over existing methods, including human expert groups. Its efficacy and generalizability are further validated through cross-family and cross-type assessments, as well as time-censored benchmarks. Additionally, RhoFold+ predicts RNA secondary structures and inter-helical angles, providing empirically verifiable features that broaden its applicability to RNA structure and function studies.

연구 동기 및 목표

• 실험 데이터가 희소한 상황에서도 정확한 de novo RNA 3D 구조 예측의 필요성을 제시합니다.
• 3D 좌표를 직접 출력하는 엔드-투-엔드 미분가능한 DL 파이프라인을 제안합니다.
• RNA 파운데이션 모델 표현과 2차 구조 정보를 활용하여 데이터를 보강합니다.
• 자기 증류(self-distillation)와 재활용(recycling)을 도입하여 예측 정확도와 데이터 효율성을 향상시킵니다.

제안 방법

• 서열 데이터로부터 원자 좌표를 예측하기 위해 완전한 미분가능한 엔드-투-엔드 모델을 사용합니다.
• 23M 개의 RNA 서열에서 학습된 RNA 파운데이션 모델로 서열 표현을 초기화합니다.
• 뉴클레오타이드 간 상호작용을 포착하기 위해 4-layer E2Eformer를 통해 특징을 처리합니다.
• 구조를 고려한 손실 제약과 함께 최종 3D RNA 좌표를 생성하는 8-layer 구조 모듈을 사용합니다.
• 2차 구조 정보와 자기 증류를 사용해 학습을 보강하여 유효 데이터 규모를 확장합니다.
• AlphaFold 스타일의 반복적 정제와 유사하게 예측을 개선하기 위해 재활용을 도입합니다.

실험 결과

연구 질문

• RQ1 완전한 미분가능한 엔드-투-엔드 모델이 서열만으로 de novo RNA 3D 구조를 예측할 수 있습니까?
• RQ2 RNA 파운데이션 모델 표현과 2차 구조 제약의 결합이 3D 예측을 향상시키나요?
• RQ3 자기 증류 및 재활용 전략이 RNA 3D 구조의 예측 정확도를 의미 있게 높이나요?
• RQ4 RNA 퍼즐과 RNA 복합체에서 E2Efold-3D가 최신 방법들과 비교해 어떤 성능을 보이나요?

주요 결과

• 50개의 독립적 비중복 테스트 세트에서 E2Efold-3D는 평균 RMSD 3.486 Å, TM-score 0.518, 그리고 lDDT 0.739를 달성했습니다.
• E2Efold-3D는 평균 TM-score가 0.5175로 나타났으며 보고된 비교에서 FARFAR2-avg(0.249)와 FARFAR2-best(0.294 근사)를 능가하여 전반적 폴딩 매칭이 더 우수함을 시사합니다.
• 구조당 평균 추론 시간은 0.12초로 FARFAR2의 약 4,777초에 비해 상당한 속도 우위를 강조합니다.
• 해당 소거 연구에서 RNA-FM 임베딩과 재활용이 모두 성능 개선에 기여하며, RNA-FM은 TM-score를 높이고 재활용은 RMSD 정교화에 도움을 준다고 나와 있습니다.
• 단량체 및 RNA-리간드 복합체를 포함한 RNA-Puzzles 벤치마크에서 E2Efold-3D가 RMSD 및 TM-score에서 커뮤니티 결과를 상회하는 최상의 점수를 달성했습니다.