[論文レビュー] Local-Global Multimodal Contrastive Learning for Molecular Property Prediction

X. Liu, Zhengyi Lu+3 more|arXiv (Cornell University)|Jan 30, 2026

Computational Drug Discovery Methods被引用数 0

ひとこと要約

LGM-CL は局所–全体のグラフエンコーダとマルチモーダル対比学習を通じて分子グラフと化学に配慮したテキスト記述を共同モデリングし、下流の性質予測のために指紋と融合します。

ABSTRACT

Accurate molecular property prediction requires integrating complementary information from molecular structure and chemical semantics. In this work, we propose LGM-CL, a local-global multimodal contrastive learning framework that jointly models molecular graphs and textual representations derived from SMILES and chemistry-aware augmented texts. Local functional group information and global molecular topology are captured using AttentiveFP and Graph Transformer encoders, respectively, and aligned through self-supervised contrastive learning. In addition, chemically enriched textual descriptions are contrasted with original SMILES to incorporate physicochemical semantics in a task-agnostic manner. During fine-tuning, molecular fingerprints are further integrated via Dual Cross-attention multimodal fusion. Extensive experiments on MoleculeNet benchmarks demonstrate that LGM-CL achieves consistent and competitive performance across both classification and regression tasks, validating the effectiveness of unified local-global and multimodal representation learning.

研究の動機と目的

• 局所的な化学環境とグローバルな分子トポロジーを統合して分子性質予測の精度を高める。
• グラフとテキストのビューを横断する対比学習を用いた統一的なマルチモーダルフレームワークを開発する。
• 促進された化学知識を反映させる SMILES の拡張と LLM が生成する記述を取り入れて意味情報を豊かにする。
• グラフ、テキスト、指紋のモダリティを融合して堅牢な下流予測を行う。
• MoleculeNet のベンチマークで、アブレーションと分析を通じて有効性を示す。

提案手法

• 局所情報用の Attentive FP とグローバル情報用の Graph Transformer の二重グラフエンコーダを構築する。
• 局所およびグローバルなグラフ表現を整列させる NT-Xent 対比目的を訓練する。
• 化学に配慮した自然言語記述で SMILES を拡張し、DeBERTa を用いて SMILES とこれらの記述を整列させる。
• クロスアテンションを介してグラフとテキスト表現を融合し、統一埋め込みを作成する。
• MACCS、PubChem、ErG 指紋を追加のモダリティとして組み込み、最終予測のために Dual Cross-attention で融合する。

実験結果

リサーチクエスチョン

• RQ1 局所的な機能群とグローバルなトポロジーを共同でモデル化して分子性質予測を行うにはどうすればよいか？
• RQ2 グラフとテキストのビューを跨るマルチモーダル対比学習は転用可能な分子表現を生み出すか？
• RQ3 化学に配慮したテキストと指紋を組み込むことで下流の予測性能は向上するか？

主な発見

• 局所–全体のグラフ対比目的は二つのグラフビューを整列させ、性質予測の表現を改善する。
• 化学に配慮した SMILES の拡張と LLm が生成する記述は意味的に豊かなテキストビューを提供する。
• DeBERTa ベースの SMILES–テキスト整列と二重クロスアテンションはマルチモーダル融合を強化する。
• グラフ、テキスト、指紋モダリティの融合は MoleculeNet ベンチマークで堅牢な性能を発揮する。
• 本フレームワークは分類および回帰タスクの事前訓練とタスク固有の微調整を効果的に可能にする。
• アブレーション研究は各成分が性能へ寄与することを検証する。