[논문 리뷰] MolReFlect: Towards In-Context Fine-grained Alignments between Molecules and Texts

Jiatong Li, Yunqing Liu외 7명|arXiv (Cornell University)|2024. 11. 22.

Machine Learning in Materials ScienceMaterials Science인용 수 3

한 줄 요약

MolReFlect는 분자 기술 번역 작업에서 분자의 부분 구조와 문장 기술 간의 인라인, 세분화된 정렬을 가능하게 하는 테이치어-스터디 프레임워크를 제안한다. 대규모 테이처 LLM을 활용해 제로샷 정렬 추출 및 반사 기반 정밀 조정을 수행한 후, 체인 오브 써포트 인라인 분자 튜닝(Chain-of-Thought In-Context Molecule Tuning)을 적용함으로써, 스터디 LLM은 ChEBI-20에서 최신 기술 수준의 성능을 달성하였으며, 생성 품질과 모델 해석 가능성 모두가 크게 향상되었다.

ABSTRACT

Molecule discovery is a pivotal research field, impacting everything from the medicines we take to the materials we use. Recently, Large Language Models (LLMs) have been widely adopted in molecule understanding and generation, yet the alignments between molecules and their corresponding captions remain a significant challenge. Previous endeavours often treat the molecule as a general SMILES string or molecular graph, neglecting the fine-grained alignments between the molecular sub-structures and the descriptive textual phrases, which are crucial for accurate and explainable predictions. In this case, we introduce MolReFlect, a novel teacher-student framework designed to contextually perform the molecule-caption alignments in a fine-grained way. Our approach initially leverages a larger teacher LLM to label the detailed alignments by directly extracting critical phrases from molecule captions or SMILES strings and implying them to corresponding sub-structures or characteristics. To refine these alignments, we propose In-Context Selective Reflection, which retrieves previous extraction results as context examples for teacher LLM to reflect and lets a smaller student LLM select from in-context reflection and previous extraction results. Finally, we enhance the learning process of the student LLM through Chain-of-Thought In-Context Molecule Tuning, integrating the fine-grained alignments and the reasoning processes within the Chain-of-Thought format. Our experimental results demonstrate that MolReFlect enables LLMs like Mistral-7B to significantly outperform the previous baselines, achieving SOTA performance on the ChEBI-20 dataset. This advancement not only enhances the generative capabilities of LLMs in the molecule-caption translation task, but also contributes to a more explainable framework.

연구 동기 및 목표

• 분자 기술 번역 작업에서 분자의 부분 구조와 기술어 어휘 간의 세분화된 정렬 부족 문제를 해결한다.
• 분자를 통합된 SMILES 문자열이나 그래프로 간주하는 것의 한계를 극복하여, 설명 가능성과 정확도 향상을 도모한다.
• 테이처 LLM의 파라미터를 수정하지 않고도 저품질 정렬을 효율적으로 개선할 수 있는 비용 효율적이고 파라미터 효율적인 방법을 개발한다.
• 작은 스터디 LLM이 더 큰 테이처 모델이 생성한 고품질 세분화된 정렬을 학습할 수 있도록 한다.
• 기능기능 그룹 등 특정 부분 구조를 자연어 어휘에 명시적으로 연결함으로써 모델의 설명 가능성 향상

제안 방법

• 대규모 테이처 LLM을 활용해 캡션 내 关련 키워드를 식별하고 SMILES 또는 분자 그래프 내 해당 부분 구조에 매핑함으로써 제로샷 정렬 추출을 수행한다.
• 인라인 선택적 반사(In-Context Selective Reflection)를 구현하여, 테이처 LLM이 유사한 과거 정렬 예제를 검색하고 이를 반사함으로써 출력을 정밀 조정한 후 스터디 모델에 전달한다.
• 작은 스터디 LLM이 정밀 조정된 반사 결과와 이전 추출 결과 중에서 선택적으로 활용함으로써 노이즈를 감소시키고 정렬 품질을 향상시킨다.
• 체인 오브 써포트 인라인 분자 튜닝(Chain-of-Thought In-Context Molecule Tuning, CoT-ICMT)을 적용하여 세분화된 정렬을 추론 인식형 프롬프팅 형식에 통합함으로써 스터디 LLM의 성능을 향상시킨다.
• 정밀 조정된 정렬을 사용한 지시 프롬프팅 트레이닝을 통해 스터디 LLM이 테이처의 추론 및 필터링 과정을 학습할 수 있도록 한다.
• 반사 과정에서 검색 기반 소수의 예시를 활용하여, 테이처의 파라미터를 수정하지 않고도 정렬 정밀 조정의 일관성과 정확도를 향상시킨다.

실험 결과

연구 질문

• RQ1 분자의 부분 구조와 텍스트 어휘 간의 인라인 세분화된 정렬이 분자-캡션 번역 성능 향상에 기여하는가?
• RQ2 검색된 예제와 테이처의 반사를 활용한 인라인 선택적 반사는 정렬 정밀도 향상에 얼마나 효과적인가?
• RQ3 체인 오브 써포트 인라인 분자 튜닝이 스터디 LLM 성능과 정렬 추론에 어떤 영향을 미치는가?
• RQ4 테이처-스터디 프레임워크는 필수적인가, 아니면 프롬프팅 엔지니어링을 통해 단일 대규모 LLM이 유사한 성능을 달성할 수 있는가?
• RQ5 세분화된 정렬이 분자-텍스트 생성 작업에서 모델의 설명 가능성 향상에 얼마나 기여하는가?

주요 결과

• MolReFlect는 ChEBI-20 벤치마크에서 최신 기술 수준의 성능을 달성하여, Mol2Cap 및 Cap2Mol 작업 모두에서 이전의 모든 베이스라인을 능가한다.
• 지시 프롬프팅을 통해 인라인 정렬을 활용할 경우, 스트레스 테스트 기반의 단순 지도 학습보다 Mol2Cap에서 9.94% 향상되고 Cap2Mol에서는 14.22% 향상된다.
• 테이처 LLM(Llama-3-70B)에 체인 오브 써포트 프롬프팅을 단독으로 적용하면 Mol2Cap 성능은 41.80% 향상되나 Cap2Mol 성능은 1.05% 감소하여 원시 정렬의 노이즈가 있음을 시사한다.
• 테이처 LLM에 소수의 프롬프팅을 적용해도 성능 향상이 유의미하지 않아, 노이즈가 있는 정렬을 걸러내고 정제하기 위해 스터디 모델이 필요하다는 점을 입증한다.
• 테이처-스터디 프레임워크는 필수적이다: 스터디 모델은 테이처가 생성한 정렬의 노이즈를 효과적으로 식별하고 제거함으로써 더 우수한 일반화 성능을 달성한다.
• 포괄적인 케이스 스터디를 통해 MolReFlect가 더 해석 가능하고 정확한 정렬을 가능하게 하며, 안하이드라이드와 같은 기능기능 그룹을 그에 해당하는 자연어 기술어에 명시적으로 연결함을 확인하였다.