[論文レビュー] Swallowing the Bitter Pill: Simplified Scalable Conformer Generation

Yuyang Wang, Ahmed A. Elhag+3 more|arXiv (Cornell University)|Nov 27, 2023

Machine Learning in Materials Science被引用数 6

ひとこと要約

本稿では、分子グラフから3次元座標への写像を連続関数の分布として学習することにより、3次元分子コンフォーマー生成を定式化する拡散生成モデルであるMolecular Conformer Fields (MCF) を提案する。MCFは、二面角の明示的モデリングやルールベースの化学情報学的ツールに依存せずに、ベンチマークデータセットで最先端の性能を達成しており、スケーラブルで一般化可能なコンフォーマー生成を可能にする。

ABSTRACT

We present a novel way to predict molecular conformers through a simple formulation that sidesteps many of the heuristics of prior works and achieves state of the art results by using the advantages of scale. By training a diffusion generative model directly on 3D atomic positions without making assumptions about the explicit structure of molecules (e.g. modeling torsional angles) we are able to radically simplify structure learning, and make it trivial to scale up the model sizes. This model, called Molecular Conformer Fields (MCF), works by parameterizing conformer structures as functions that map elements from a molecular graph directly to their 3D location in space. This formulation allows us to boil down the essence of structure prediction to learning a distribution over functions. Experimental results show that scaling up the model capacity leads to large gains in generalization performance without enforcing inductive biases like rotational equivariance. MCF represents an advance in extending diffusion models to handle complex scientific problems in a conceptually simple, scalable and effective manner.

研究の動機と目的

• 2次元分子グラフから多様で低エネルギーの3次元コンフォーマーを生成する課題に対処すること。
• 二面角の明示的モデリングやルールベースの化学情報学的ツールに依存する既存手法の制限を克服すること。
• ドメイン特異的なインダクティブバイアスを避けるスケーラブルで一般化可能なコンフォーマー予測生成モデルを開発すること。
• 分布外の分子や化学的性質の類似性を評価することで、一般化能力および物理的妥当性を検証すること。

提案手法

• コンフォーマーは連続関数（フィールド）$ f: /mathcal{G} \rightarrow /mathbb{R}^3 $ としてモデル化され、ここで $ /mathcal{G} $ は分子グラフを表す。
• 拡散生成モデルがこれらのコンフォーマー・フィールドの分布を学習し、3次元座標のエンドツーエンド生成を可能にする。
• 中間変数（二面角や二面角など）をモデリングせずに、直接的に原子の3次元位置を予測する。
• ノイズスケジュールをコンフォーマー・フィールドに適用し、スコアベースの生成モデリングによるノイズ除去損失を最適化することでモデルを学習する。
• 固定されたドメイン幾何構造を必要としないため、大規模で複雑な分子へのスケーラビリティが可能である。
• 推論では、グラフ内の各原子においてフィールドを評価することで、学習された拡散プロセスからサンプリングして完全な3次元コンフォーマーを生成する。

実験結果

リサーチクエスチョン

• RQ1 連続的コンフォーマー・フィールド上で学習された拡散モデルは、二面角や幾何的制約の明示的モデリングに依存する既存手法を上回る性能を示すか？
• RQ2 学習時に見られなかった大規模で複雑なトポロジーを持つ分子に対して、モデルの一般化能力はどの程度高いか？
• RQ3 ルールベースの化学情報学的ツール（例：RDKitを用いた構造検出）の欠如が、モデルのロバストネスおよび性能にどの程度影響を与えるか？
• RQ4 生成されたコンフォーマーは、エネルギー、双極子モーメント、HOMO-LUMOギャップといった重要な物理的性質をどの程度正確に再現するか？

主な発見

• GEOM-XLベンチマークにおいてMCFは最先端の性能を達成し、77個の分子でAMR-Pが1.77、AMR-Rが2.37を記録。同じ評価でTorsional Diffusionを上回った。
• 同じ77個の分子において、MCFは中央値 $ E_{\text{min}} $ 誤差が0.02 kcal/molを記録し、Torsional Diffusionの0.13 kcal/molよりも顕著に低い。これは低エネルギーコンフォーマーの生成能力に優れていることを示している。
• MCFは双極子モーメントの中央値誤差が0.26 D、HOMO-LUMOギャップの中央値誤差が0.64 eVであり、主要な電子的性質において競争力のある性能を示している。
• エネルギー誤差の中央値は0.66 kcal/molであり、一部のベースラインより高いが、全体として安定で低エネルギーの構造を生成している。
• RDKitを用いた構造検出に起因する失敗を回避しており、Torsional Diffusionでは25個の分子で局所構造が欠落したためにコンフォーマー生成に失敗しているのに対し、MCFではその問題が発生していない。
• アブレーションスタディにより、モデルの性能がアーキテクチャの選択に強く依存せず、幾何的変数の間接的モデリングよりも直接的な3次元座標予測が有効であることが確認された。