[論文レビュー] MolDiff: Addressing the Atom-Bond Inconsistency Problem in 3D Molecule Diffusion Generation

Xingang Peng, Jiaqi Guan+2 more|arXiv (Cornell University)|May 11, 2023

Machine Learning in Materials Science被引用数 11

ひとこと要約

MolDiffはE(3)-等価性フレームワークと結合誘導を用いて、3D分子の原子と結合を共同に拡散させ、原子-結合の不整合を解決し、従来のモデルよりも生成品質を向上させます。

ABSTRACT

Deep generative models have recently achieved superior performance in 3D molecule generation. Most of them first generate atoms and then add chemical bonds based on the generated atoms in a post-processing manner. However, there might be no corresponding bond solution for the temporally generated atoms as their locations are generated without considering potential bonds. We define this problem as the atom-bond inconsistency problem and claim it is the main reason for current approaches to generating unrealistic 3D molecules. To overcome this problem, we propose a new diffusion model called MolDiff which can generate atoms and bonds simultaneously while still maintaining their consistency by explicitly modeling the dependence between their relationships. We evaluated the generation ability of our proposed model and the quality of the generated molecules using criteria related to both geometry and chemical properties. The empirical studies showed that our model outperforms previous approaches, achieving a three-fold improvement in success rate and generating molecules with significantly better quality.

研究の動機と目的

• 3D分子拡散生成における原子-結合不整合への対処を動機づける。
• 化学的整合性を維持するために原子と結合を同時にサンプルする拡散モデルを提案する。
• 原子と結合の表現を同時に更新するE(3)-等価グラフニューラルネットワークを設計する。
• 学習と生成を安定化させるための結合優先ノイズスケジュールを導入する。
• 生成された分子の幾何学性、薬物様性、構造的合理性を捉える評価指標を開発する。

提案手法

• 3D分子をM={A,R,B}として原子タイプA、座標R、結合Bを用いて表現する。
• 吸収型ノイズを用いて原子位置と離散的な原子/結合タイプを摂動させる伝播拡散プロセスを用いる。
• E(3)-等価ニューラルネットワークを用いた逆拡散で原子と結合についてpθ(M^{t-1}|M^{t})を予測する。
• 原子タイプと結合タイプを離散変数として扱い、結合と原子の拡散を結合優先スケジュールで分離する。
• 結合予測子を導入し、結合予測の信頼度Cの対数の勾配を通じて原子位置のデノイズを案内させる。Cは結合予測子の信頼度。
• 頂点とエッジの表現を更新して原子タイプと結合タイプを予測するE(3)-等価メッセージパッシング方式を採用する（Eq. 4）。
• L^{t-1}=L_pos^{t-1}+λ1 L_atom^{t-1}+λ2 L_bond^{t-1}の損失で訓練し、位置、原子タイプ、結合タイプのデノイズのバランスを取る。

実験結果

リサーチクエスチョン

• RQ1 原子と結合を共同に拡散させることで、生成された3D分子の現実性と妥当性は、後処理による結合追加と比較して改善されるか。
• RQ2 結合優先の拡散スケジュールは原子-結合の不整合を減らし、生成時の化学的トポロジーを改善できるか。
• RQ3 原子と結合の両方を更新するE(3)-等価アーキテクチャは生成品質にどのような影響を与えるか。
• RQ4 拡散ベースの生成において、幾何学性、薬物様性、合理性を最もよく捉える指標は何か。

主な発見

妥当性	結合性	成功率	新規性	多様性	唯一性	類似性値
0.997	0.996	0.993	0.972	0.769	0.986	0.634
EDM	0.447	0.830	0.371	1.000	0.729	1.000	0.441
Predict bond (Lookup table)	0.297	0.937	0.278	1.000	0.751	0.999	0.434
Predict bond (NN Predictor)	0.956	0.978	0.935	0.984	0.768	0.999	0.592
Predict bond (Openbabel)	0.992	0.969	0.961	0.986	0.762	0.999	0.576
Conti. diffusion	0.914	0.885	0.808	0.999	0.752	1.000	0.513
Conti. diffusion (scaling)	0.972	0.934	0.907	0.997	0.759	1.000	0.511
Add bond length loss	0.998	0.959	0.958	0.986	0.752	0.998	0.590

• MolDiffはEDMに対する生成性能を大幅に改善し、妥当性、連結性、成功率が向上してほぼ完璧な成功率を達成する。
• 原子と結合タイプの離散拡散は、複数のベースラインを通じて連続拡散と後処理の結合割り当てより優れている。
• 結合優先の拡散スケジュールは結合タイプを先に拡散させて原子を後で Refinement することで訓練を安定化させ、後の原子改良時の結合の一貫性を向上させる。
• 原子位置デノイズ時に結合予測子導入による勾配を組み込むと結合長の精度と全体的な分子幾何が向上する。
• MolDiffはEDMと比較して3D幾何学指標（RMSDの低下、結合角/異ねじれ分布の改善）や結合タイプ・環の統計の現実性が向上する。
• MolDiffは基準EDMに対して成功率を3倍改善し、薬物様性と構造的品質が改善された分子を生成する。