[論文レビュー] FastFlows: Flow-Based Models for Molecular Graph Generation

Nathan C. Frey, Vijay Gadepally+1 more|arXiv (Cornell University)|Jan 28, 2022

Machine Learning in Materials Science被引用数 16

ひとこと要約

FastFlows は、化学的妥当性を保証する SELFIES 符号化を用いた正規化フローに基づく生成モデルであり、超高速なサンプリング（1秒間に24,000分子以上）を実現し、たった100個の学習分子でも高い妥当性、新規性、一意性を達成する。このフレームワークは、ドラッグライクネス、合成可能性、複雑性のマルチオブジェクティブ最適化をサポートし、パレート最適な候補を効率的に同定する。

ABSTRACT

We propose a framework using normalizing-flow based models, SELF-Referencing Embedded Strings, and multi-objective optimization that efficiently generates small molecules. With an initial training set of only 100 small molecules, FastFlows generates thousands of chemically valid molecules in seconds. Because of the efficient sampling, substructure filters can be applied as desired to eliminate compounds with unreasonable moieties. Using easily computable and learned metrics for druglikeness, synthetic accessibility, and synthetic complexity, we perform a multi-objective optimization to demonstrate how FastFlows functions in a high-throughput virtual screening context. Our model is significantly simpler and easier to train than autoregressive molecular generative models, and enables fast generation and identification of druglike, synthesizable molecules.

研究の動機と目的

• 自己回帰モデルの学習不安定性と遅いサンプリングを回避する、高速でデータ効率の良い小分子設計の生成モデルを開発すること。
• 後処理による妥当性補正を不要にするために、文法に基づいた分子表現である SELFIES を用いて化学的妥当性を保証すること。
• 高速なサンプリングとサブストラクチャーフィルタリング、マルチオブジェクティブ最適化を組み合わせることで、高スループットのバーチャルスクリーニングを可能にすること。
• 低データ環境下での正規化フローの適用可能性を示し、標的的な化学空間探索に有効であることを実証すること。
• ドラッグライクネス、合成可能性、複雑性のバランスが取れたパレート最適な分子を特定すること。

提案手法

• モデルは、標準正規分布を潜在空間内の目的の分子分布へ写像するための正規化フロー（NFs）と Real NVP 変換を用いる。
• 分子は、結合価則と結合ルールを強制する SELFIES 文字列として表現され、後処理による補正なしに文法的・意味的妥当性が保証される。
• SELFIES 文字列は one-hot 符号化され、一様ノイズを用いてデキアンチゼーションされ、連続的な学習が可能になるが、フロア演算により正確な復元が保証される。
• フローアーキテクチャは32層、1層あたり8つのリカレントブロック、チェッカーボードマスクを用いて、効率的かつ並列化可能なサンプリングを実現する。
• 生成後、サブス トラクチャーフィルタを適用して望ましくないモieties を除外し、QED、合成可能性（SA）、合成複雑性（SCScore）などの指標を計算してマルチオブジェクティブ最適化を実施する。
• 支配関係のチェックを用いてパレートフロンティアを同定し、複数の目的において支配されない分子を選択する。

実験結果

リサーチクエスチョン

• RQ1 100個の分子での学習のみで、正規化フローがスケール的に化学的に妥当で、新規かつ一意な分子を生成できるか？
• RQ2 SELFIES 表現が、フローベースの分子生成において、後処理による妥当性補正の必要性を排除できるか？
• RQ3 低データ環境下でも、高品質な分布を維持しながら、フローベースのモデルがどの程度高速に分子をサンプリングできるか？
• RQ4 ドラッグライクネス、合成可能性、複雑性のマルチオブジェクティブ最適化が、高効率に高ポテンシャルな候補を同定できるか？
• RQ5 ChEMBL のような高次元の化学空間に正規化フローを適用した際の、計算的・アーキテクチャ的限界は何か？

主な発見

• QM9 で学習した FastFlows は、1秒間に24,000分子以上を生成し、極めて高いサンプリング効率を示した。
• たった100個の学習分子での学習でも、SELFIES 符号化のおかげで、後処理補正なしに高い妥当性、新規性、一意性を達成した。
• サブス トラクチャーフィルタリングとマルチオブジェクティブ最適化を施した後、QM9 実験ではパレートフロンティアが2,000以上もの候補からわずか3つの分子にまで削減された。
• ChEMBL では、1秒間に481分子を生成し、次元の増加にもかかわらず、より大きな・複雑な分子へのスケーラビリティを示した。
• QED、SA、SCScore といった既存の指標を用いたモデルの妥当性評価が行われ、これらがモデルの品質と相関し、パレート最適化に有用であることが確認された。
• 高速性は維持されているが、高次元の化学空間では、多数の可逆変換を含む深層アーキテクチャの必要性が、計算上のボトルネックのまま残っている。