[논문 리뷰] ProtAgents: Protein discovery via large language model multi-agent collaborations combining physics and machine learning

Alireza Ghafarollahi, Markus J. Buehler|arXiv (Cornell University)|2024. 01. 27.

Biomedical Text Mining and Ontologies인용 수 4

한 줄 요약

ProtAgents는 물리기반 시뮬레이션, 기계학습, 지식 검색을 협업형 AI 에이전트를 통해 통합하는 다중 에이전트 LLM 프레임워크를 제안한다. 시퀀스 생성, 힘 예측, 진동수 분석 등의 전문화된 에이전트 간의 동적이고 자율적인 협업을 통해 목표 기계적 성질을 갖는 단백질을 설계하며, 힘-확장 곡선과 천연 고유진동수 예측에서 높은 정확도를 입증한다.

ABSTRACT

Designing de novo proteins beyond those found in nature holds significant promise for advancements in both scientific and engineering applications. Current methodologies for protein design often rely on AI-based models, such as surrogate models that address end-to-end problems by linking protein structure to material properties or vice versa. However, these models frequently focus on specific material objectives or structural properties, limiting their flexibility when incorporating out-of-domain knowledge into the design process or comprehensive data analysis is required. In this study, we introduce ProtAgents, a platform for de novo protein design based on Large Language Models (LLMs), where multiple AI agents with distinct capabilities collaboratively address complex tasks within a dynamic environment. The versatility in agent development allows for expertise in diverse domains, including knowledge retrieval, protein structure analysis, physics-based simulations, and results analysis. The dynamic collaboration between agents, empowered by LLMs, provides a versatile approach to tackling protein design and analysis problems, as demonstrated through diverse examples in this study. The problems of interest encompass designing new proteins, analyzing protein structures and obtaining new first-principles data -- natural vibrational frequencies -- via physics simulations. The concerted effort of the system allows for powerful automated and synergistic design of de novo proteins with targeted mechanical properties. The flexibility in designing the agents, on one hand, and their capacity in autonomous collaboration through the dynamic LLM-based multi-agent environment on the other hand, unleashes great potentials of LLMs in addressing multi-objective materials problems and opens up new avenues for autonomous materials discovery and design.

연구 동기 및 목표

• 목표 기계적 성질을 갖는 새로운 생물재료를 설계하기 위해 광범위하고 미개척된 단백질 서열 공간을 탐색하는 데 도전하는 것.
• 기존 AI 모델이 특정 목표에만 집중하고 다양한 지식 소스를 통합하는 데 유연성이 부족한 점을 극복하는 것.
• 특화된 LLM 에이전트가 자율적으로 협력하여 복잡한 다목적 단백질 설계 문제를 해결하는 동적이고 협업 기반의 프레임워크를 개발하는 것.
• 물리기반 시뮬레이션(예: ANM)과 지식 검색(RAG)을 통합하여 자동화된 설계 파이프라인을 구축하는 것.
• 협업 기반 에이전트 간의 상호보완적 협력으로 목표 기계적 성능을 갖는 신규 단백질을 발견할 수 있도록 하는 것.

제안 방법

• 각 에이전트가 전문화된 역할을 수행하는 다중 에이전트 아키텍처를 LLM 기반으로 구현: 시퀀스 생성기, 힘 예측기, 구조 분석기, 시뮬레이션 실행기, 결과 해석기.
• 80만 개의 시퀀스와 MD 시뮬레이션 데이터로 훈련된 파생 모델인 ProteinForceGPT(16개 헤드, 36층, 1024개 은닉 크기)를 사용하여 아미노산 서열에서 힘-확장 곡선과 기계적 성질을 예측.
• Llama Index를 통한 Retrieval-Augmented Generation(RAG)을 적용하여 추론 과정 중에 인용된 과학 문헌에서 동적으로 정보를 검색하고 접근.
• ProDy에 구현된 비등방성 네트워크 모델(ANM)을 사용해 천연 고유진동수 분석을 수행하며, 임계 거리 이내의 단백질을 스프링 기반 네트워크로 모델링.
• BioPython을 통한 DSSP를 활용해 3차원 단백질 기하학적 구조에서 구조적 특징을 평가.
• LLM를 통한 대화 프rotocol를 통해 에이전트 간 실시간 동적 협업을 구현하여 결과의 반복적 개선과 상호 검증을 가능하게 함.

실험 결과

연구 질문

• RQ1 다중 에이전트 LLM 시스템은 목표 기계적 성질을 갖는 신규 단백질 서열을 자율적이고 협업적으로 설계할 수 있는가?
• RQ2 특화된 LLM 에이전트가 물리기반 시뮬레이션(예: ANM)과 지식 검색을 효과적으로 통합하여 예측 정확도와 설계 정밀도를 향상시킬 수 있는가?
• RQ3 고비용 시뮬레이션에 의존하지 않고도 아미노산 서열에서 정확한 힘-확장 곡선과 자연 고유진동수를 얼마나 정확하게 생성할 수 있는가?
• RQ4 에이전트 간의 동적 협업이 단일 모델 기반 AI에 비해 새로운 단백질 서열 발견에 어떻게 기여하는가?
• RQ5 이 프레임워크는 시퀀스 생성, 성질 예측, 구조 분석 등 다양한 단백질 설계 과제에 일반화될 수 있는가?

주요 결과

• ProteinForceGPT 모델은 단백질 서열에서 힘-확장 곡선을 높은 정확도로 예측했으며, 검증 결과는 그림 S2에 제시되어 있다.
• 시스템은 목표 기계적 성질을 충족하는 단백질 서열을 성공적으로 생성했으며, 특히 풀패킹 힘 예측치 0.262 nN를 확인한 테스트에서 성능을 입증했다.
• 비등방성 네트워크 모델(ANM)을 활용한 자연 고유진동수 계산이 정확하게 수행되어 단백질 역학의 근본 원리 기반 분석이 가능했다.
• RAG 통합으로 관련 과학 지식을 실시간으로 검색하고 접근할 수 있었으며, 이는 에이전트가 생성한 응답의 추론 및 맥락 정확도를 향상시켰다.
• 다중 에이전트 협업 프레임워크는 시퀀스 생성, 기계적 성질 예측, 구조 분석 등 다양한 단백질 설계 과제에서 뛰어난 성능을 보였다.
• LLM 추론, 물리기반 시뮬레이션, 데이터 기반 모델의 융합을 통해 상호보완적 설계 결과를 달성했으며, 높은 비용이 드는 실험 검증에 대한 의존도를 크게 감소시켰다.