[論文レビュー] Coarse-to-Fine: a Hierarchical Diffusion Model for Molecule Generation in 3D

Bo Qiang, Yuxuan Song+6 more|arXiv (Cornell University)|May 5, 2023

Innovative Microfluidic and Catalytic Techniques Innovation被引用数 5

ひとこと要約

この論文では、構造的妥当性と品質を向上させるために粗いものから細かいものへの戦略を用いる3次元分子生成のための階層的拡散モデルHierDiffを提案する。まず、等長性のある拡散プロセスを用いて断片レベルの表現を生成し、その後、メッセージパッシングと反復的サンプリングを用いてそれを精錬することで、正確な原子レベルの3次元構造を生成する。これは、医薬候補性、コンformational正確性、安定性の面で、既存の手法を上回り、特に大きな分子において顕著である。

ABSTRACT

Generating desirable molecular structures in 3D is a fundamental problem for drug discovery. Despite the considerable progress we have achieved, existing methods usually generate molecules in atom resolution and ignore intrinsic local structures such as rings, which leads to poor quality in generated structures, especially when generating large molecules. Fragment-based molecule generation is a promising strategy, however, it is nontrivial to be adapted for 3D non-autoregressive generations because of the combinational optimization problems. In this paper, we utilize a coarse-to-fine strategy to tackle this problem, in which a Hierarchical Diffusion-based model (i.e.~HierDiff) is proposed to preserve the validity of local segments without relying on autoregressive modeling. Specifically, HierDiff first generates coarse-grained molecule geometries via an equivariant diffusion process, where each coarse-grained node reflects a fragment in a molecule. Then the coarse-grained nodes are decoded into fine-grained fragments by a message-passing process and a newly designed iterative refined sampling module. Lastly, the fine-grained fragments are then assembled to derive a complete atomic molecular structure. Extensive experiments demonstrate that HierDiff consistently improves the quality of molecule generation over existing methods

研究の動機と目的

• 原子レベルでの3次元分子生成の限界、特に大きな分子における構造的妥当性の低さと誤差の蓄積を解決する。
• 断片ベースのフレームワークにおける非自己回帰的3次元生成の課題に取り組み、断片の接続性と幾何学的性質を保持する。
• 原子レベルの拡散ではなく、断片レベルのモデリングを通じて化学的インダクティブバイアスを組み込むことで、生成品質を向上させる。
• 現実の分子の幾何学的およびトポロジカル制約を尊重する安定的で高品質な3次元コンformation生成を可能にする。
• 最先端の拡散モデルおよび自己回帰モデルと比較して、医薬候補性およびコンformational正確性の面で優れた性能を達成する。

提案手法

• 2段階の階層的拡散フレームワークを提案：粗い粒度の断片表現生成の後、細かい粒度の原子構造復元を行う。
• 等長性のある拡散モデルを用い、幾何学的および化学的制約を保持した非自己回帰的手段で断片レベルの座標と特徴量を生成する。
• 2種類の粗い特徴量を導入：化学的に解釈可能な断片表現のための元素ベースのヒストグラムと、性質ベースの記述子。
• トポロジカル整合性と接続性を保証するために、等長性のあるメッセージパッシングネットワークを適用する。
• 幾何的バイアスを是正し、断片および原子レベルでのコンformational正確性を向上させる反復的精錬サンプリングモジュールを設計する。
• 結合価と空間的制約を維持しながら、精錬された断片を組み合わせて最終的な原子レベル3次元構造を構築する。

実験結果

リサーチクエスチョン

• RQ1 原子レベルの拡散モデルと比較して、粗いものから細かいものへの階層的拡散フレームワークは、3次元分子生成の構造的妥当性と品質を向上させることができるか？
• RQ2 断片ベースのモデリングは、大きな分子生成における誤差蓄積をどのように軽減し、一般化性能を向上させるか？
• RQ3 化学的に解釈可能な粗い特徴量（元素ベース vs. 性質ベース）は、医薬候補性および安定コンformationの生成にどの程度影響を与えるか？
• RQ4 断片レベルの抽象化を用いた非自己回帰的3次元生成は、自己回帰ベースラインと比較してより高いコンformational正確性を達成できるか？
• RQ5 提案手法の計算効率はどの程度か？品質を損なわずに少ない拡散ステップ数で高速化できるか？

主な発見

• HierDiffはQM9およびGEOM_DRUGデータセットの両方で最先端のモデルを上回り、非自己回帰設定下で8個までの重い原子を有する分子について100％の妥当性を達成した。
• GEOM_DRUGデータセットにおいて、HierDiffは断片レベルRMSD 0.609、原子レベルRMSD 0.632を達成し、ベースラインモデルを著しく上回った。
• HierDiff-P（性質ベースの特徴量）はGEOM_DRUGで高い医薬候補性スコアを達成したが、一方でHierDiff-E（元素ベースの特徴量）はMCFおよび化学的安定性指標でより優れた性能を示した。
• 大きな分子における誤差蓄積を低減し、20個以上の重い原子を有する分子に対しても高い妥当性を維持した。これに対して自己回帰モデルは20原子を超えると失敗した。
• サンプリング効率は競争力があり、250ステップの拡散で1サンプルあたり3.02秒で処理可能であり、潜在空間次元の低減によりより大きなバッチサイズをサポートできる。
• 可視化結果から、HierDiffは原子レベルのベースラインと比較して、幾何学的歪みが最小限に抑えられた安定したサブ構造（例：芳香族環）を生成することが確認された。