[論文レビュー] Entropy-Guided Dynamic Tokens for Graph-LLM Alignment in Molecular Understanding

Zihao Jing, Qiuhao Zeng+4 more|arXiv (Cornell University)|Feb 2, 2026

Advanced Graph Neural Networks被引用数 0

ひとこと要約

EDT-Formerはエントロピー誘導動的トークンを用いて凍結された大規模言語モデルと分子グラフを整列させ、バックボーンLLMの調整なしで効率的かつサブ構造認識型のグラフ–LLM融合を実現し、分子理解ベンチマークで最先端の結果を達成します。

ABSTRACT

Molecular understanding is central to advancing areas such as scientific discovery, yet Large Language Models (LLMs) struggle to understand molecular graphs effectively. Existing graph-LLM bridges often adapt the Q-Former-style connector with fixed-length static tokens, which is originally designed for vision tasks. These designs overlook stereochemistry and substructural context and typically require costly LLM-backbone fine-tuning, limiting efficiency and generalization. We introduce EDT-Former, an Entropy-guided Dynamic Token Transformer that generates tokens aligned with informative molecular patches, thereby preserving both local and global structural features for molecular graph understanding. Beyond prior approaches, EDT-Former enables alignment between frozen graph encoders and LLMs without tuning the LLM backbone (excluding the embedding layer), resulting in computationally efficient finetuning, and achieves stateof-the-art results on MoleculeQA, Molecule-oriented Mol-Instructions, and property prediction benchmarks (TDC, MoleculeNet), underscoring its effectiveness for scalable and generalizable multimodal molecular understanding

研究の動機と目的

• LLMのバックボーンを微調整せずに分子グラフ–LLM整列を改善する。
• 多モーダル融合時に立体化学とサブ構造文脈を保持する。
• 分子ベンチマークで予測精度を維持または向上させつつ学習コストを削減する。
• 特性予測および MoleculeQAスタイルのタスク全体でスケーラビリティと一般化を示す。

提案手法

• Entropy-Guided Patchingを導入し、SMILES順の原子列をエントロピーのピークでセグメント化して動的サブ構造トークンを形成する。
• Next-Atom Predictorを用いて局所原子レベルのエントロピーを計算してパッチングを行う。
• Dynamic Query Transformerを開発し、固定モダリティアンカーと動的トークンを融合させ、凍結されたLLMへ入力されるクロスモーダルインターフェースを生成する。
• グラフエンコーダとLLMを凍結したまま、ブリッジ（アンカー、トランスフォーマー層、投影）だけを学習する。
• 豊富化されたクエリをLLM埋め込み空間へ投影し、バックボーンの更新なしに凍結LLMを条件付ける。
• 二段階の訓練プロトコルを採用：凍結エンコーダでDynamic Query Transformerを事前訓練し、次にLLMを接続した整列チューニングを行う。

実験結果

リサーチクエスチョン

• RQ1 エントロピー誘導動的トークンは固定長モダリティアンカーより化学的サブ構造をより良く保持できるか。
• RQ2 LLMバックボーンを動的クエリブリッジで凍結しても分子理解と性質予測を維持または向上させつつ学習コストを削減できるか。
• RQ3 エントロピー誘導パッチングは MoleculeQA および MoleculeNet/MoL ベンチマークにおけるサブグラフの忠実度と推論にどのように影響するか。

主な発見

• EDT-Formerは凍結バックボーン整列モード下で複数の分子理解ベンチマーク（例：MoleculeQA、MoleculeNet、TDC）で最先端の結果を達成する。
• エントロピー誘導パッチングはデータ駆動の情報密度の高いサブ構造トークンを生成し、立体化学と局所グラフ特徴を保持する。
• Dynamic Query Transformerはアンカーと動的トークンを効果的に統合し、LLMを更新せずに堅牢なクロスモーダル整列を可能にする。
• 凍結バックボーン整列アプローチは計算コストの大幅な削減（例：学習可能パラメータ数とメモリの削減）をもたらしつつ、競争力のある、あるいは優れた精度を維持する。
• アブレーション研究は、モダリティ融合、動的トークン、エントロピー-basedパッチングを外すと性能が著しく低下することを示し、それらの要素が強力な性能には不可欠であることを確認する。