[논문 리뷰] Leveraging Biomolecule and Natural Language through Multi-Modal Learning: A Survey

Qizhi Pei, Zhou, Zhimeng외 7명|arXiv (Cornell University)|2024. 03. 03.

Machine Learning in Bioinformatics인용 수 5

한 줄 요약

크로스 바이오물질-언어 모델링에 대한 포괄적 조사로, 표현, 학습 프레임워크, 작업, 데이터셋 및 미래 방향을 자세히 다룹니다.

ABSTRACT

The integration of biomolecular modeling with natural language (BL) has emerged as a promising interdisciplinary area at the intersection of artificial intelligence, chemistry and biology. This approach leverages the rich, multifaceted descriptions of biomolecules contained within textual data sources to enhance our fundamental understanding and enable downstream computational tasks such as biomolecule property prediction. The fusion of the nuanced narratives expressed through natural language with the structural and functional specifics of biomolecules described via various molecular modeling techniques opens new avenues for comprehensively representing and analyzing biomolecules. By incorporating the contextual language data that surrounds biomolecules into their modeling, BL aims to capture a holistic view encompassing both the symbolic qualities conveyed through language as well as quantitative structural characteristics. In this review, we provide an extensive analysis of recent advancements achieved through cross modeling of biomolecules and natural language. (1) We begin by outlining the technical representations of biomolecules employed, including sequences, 2D graphs, and 3D structures. (2) We then examine in depth the rationale and key objectives underlying effective multi-modal integration of language and molecular data sources. (3) We subsequently survey the practical applications enabled to date in this developing research area. (4) We also compile and summarize the available resources and datasets to facilitate future work. (5) Looking ahead, we identify several promising research directions worthy of further exploration and investment to continue advancing the field. The related resources and contents are updating in https://github.com/QizhiPei/Awesome-Biomolecule-Language-Cross-Modeling.

연구 동기 및 목표

• 생체분자 표현(1D 시퀀스, 2D 그래프, 3D 구조)을 조사하고 BL 모델링에서의 역할을 살펴본다.
• 생물분자와 언어를 통합하기 위한 근본적 이유, 목표, 핵심 학습 프레임워크를 검토한다.
• 특성 예측, 생성 및 검색에서의 현재 적용을 분류한다.
• 향후 연구를 가속화하기 위해 이용 가능한 자원, 데이터셋 및 벤치마크를 요약한다.
• BL 연구를 진전시키기 위한 미해결 과제와 유망한 방향을 식별한다.

제안 방법

• 시퀀스, 그래프, 구조를 포함한 생물분자 표현을 분류하고 분석한다.
• GPT 기반 사전학습 및 다중 스트림 아키텍처와 같은 기계 학습 프레임워크를 조사한다.
• BL를 위한 표현 학습 전략, 학습 과제 및 학습 목표를 논의한다.
• 예측, 생성 및 정보 검색에서의 실용적 응용을 검토한다.
• 데이터셋, 모델 및 벤치마크를 모으고 향후 연구 방향을 제시한다.

실험 결과

연구 질문

• RQ1 교차 모달 생물분자-언어(BL) 모델링에서 널리 사용되는 생물분자 표현은 무엇인가?
• RQ2 언어와 생물분자 데이터를 효과적으로 통합하는 학습 프레임워크와 표현 전략은 무엇인가?
• RQ3 BL 모델을 통해 어떤 응용이 입증되었으며, 성능 추세는 어떠한가?
• RQ4 현재 BL 연구를 지원하는 자원, 데이터셋 및 벤치마크는 무엇인가?
• RQ5 향후 BL 연구의 주요 도전과 유망한 방향은 무엇인가?

주요 결과

• 교차 모달 BL 모델링은 텍스트 데이터, 분자 데이터 및 단백질 데이터를 결합해 다운스트림 작업에 더 풍부한 표현을 생성한다.
• MolT5 및 BioT5와 같은 기초 모델은 분자와 텍스트 간의 강력한 검색 및 생성 능력을 보여준다.
• 아키텍처는 인코더-전용, 디코더-전용, 인코더-디코더, 듀얼/멀티스트림 설계까지 포함하며 PaLM-E 스타일 프레임워크를 포함한다.
• BL 연구를 가속화하기 위한 데이터셋, 모델 및 벤치마킹 자원이 증가하고 있다(예: 공개적으로 이용 가능한 자원과 인용된 GitHub 저장소의 콘텐츠 업데이트).
• 지시 수행 및 에이전트/어시스턴트 패러다임은 제로샷 작업과 대형 언어 모델을 이용한 대화형 생물분자 지식 검색을 가능하게 한다.
• 본 조사는 해석 가능성 및 일반화와 같은 개방적 도전과제를 강조하고 BL 연구의 향후 방향을 제시한다.