[論文レビュー] Molecular Hypergraph Grammar with its Application to Molecular Optimization

Hiroshi Kajino|arXiv (Cornell University)|Sep 8, 2018

Machine Learning in Materials Science参考文献 19被引用数 23

ひとこと要約

本稿では、分子ハイパーグラフ文法（MHG）を用いて化学的結合価数および構造的制約を符号化することで、1つのVAEで100%妥当な分子を生成可能な、Molecular Hypergraph Grammar Variational Autoencoder（MHG-VAE）を提案する。MHG-VAEは、限られた特性評価回数における分子最適化において、最先端のVAEベースおよび強化学習ベースの手法を上回り、少ないクエリ数で優れた特性スコアを達成する。

ABSTRACT

Molecular optimization aims to discover novel molecules with desirable properties. Two fundamental challenges are: (i) it is not trivial to generate valid molecules in a controllable way due to hard chemical constraints such as the valency conditions, and (ii) it is often costly to evaluate a property of a novel molecule, and therefore, the number of property evaluations is limited. These challenges are to some extent alleviated by a combination of a variational autoencoder (VAE) and Bayesian optimization (BO). VAE converts a molecule into/from its latent continuous vector, and BO optimizes a latent continuous vector (and its corresponding molecule) within a limited number of property evaluations. While the most recent work, for the first time, achieved 100% validity, its architecture is rather complex due to auxiliary neural networks other than VAE, making it difficult to train. This paper presents a molecular hypergraph grammar variational autoencoder (MHG-VAE), which uses a single VAE to achieve 100% validity. Our idea is to develop a graph grammar encoding the hard chemical constraints, called molecular hypergraph grammar (MHG), which guides VAE to always generate valid molecules. We also present an algorithm to construct MHG from a set of molecules.

研究の動機と目的

• 分子最適化の過程で厳密な結合価数および接続性制約を満たす化学的に妥当な分子を生成する課題に対処すること。
• SMILESベースのVAEで一般的に見られるデコードエラー問題（神経ネットワークが分子に解析不能な文字列を生成する問題）を克服すること。
• 補助ネットワークを用いずに高い妥当性を維持する1つのアーキテクチャのVAEを構築することにより、トレーニングの簡素化と一般化性能の向上を図ること。
• MHGと変分自己オートエンコーダーおよびベイズ最適化を組み合わせることで、特性評価回数が限られた条件下での効率的な分子最適化を可能にすること。
• MHG-VAEがVAEベースおよび強化学習ベースの手法を上回ることを実証すること、特にサンプル効率および特性スコア性能において。

提案手法

• 分子構造（原子および結合レベル）を、立体化学および結合価数制約を含めて符号化する形式的記述である分子ハイパーグラフ文法（MHG）を提案する。
• MHGを用いて、ハイパーエッジが分子断片（例：環、分岐）を、ノードが原子またはサブ構造を表す階層的で木構造的なハイパーグラフとして分子を表現する。
• 標準的なVAE（1つのエンコーダ-デコーダペア）を用い、連続的な潜在空間へのマッピングを実施し、MHGに従って生成される分子が化学的にすべて妥当であることを保証する。
• 共通する断片およびその結合パターンを同定することで、入力分子の集合から自動的にMHGを構築するアルゴリズムを開発する。
• MHG-VAEをベイズ最適化（BO）と統合し、潜在空間内で少ない特性評価回数で高性能な分子を繰り返し探索する。
• 2段階のプロトコルを採用する：(1) 潜在空間の品質評価のための無制限オラクルケース、(2) 実世界のコスト制約を模倣するための限られたオラクルケース。両ケースでクエリ予算を固定したもとでの性能を比較する。

実験結果

リサーチクエスチョン

• RQ1 化学的制約を構造的表現に直接組み込むことで、1つのVAEアーキテクチャが100%の分子生成妥当性を達成できるか？
• RQ2 特性評価回数が限られた状況下で、MHG-VAEが既存のVAEベースおよび強化学習ベースの手法を上回るか？
• RQ3 同じ関数評価回数の下で、MHG-VAEは最先端のベースラインと比較して、より高いターゲット特性スコアの分子を生成できるか？
• RQ4 補助ネットワークや複雑なデコード機構に依存する手法と比較して、MHG-VAEの性能はいかがであるか？
• RQ5 実世界の実験的制約を模倣する限られたオラクルケースにおいて、MHG-VAEはどの程度高い性能を維持できるか？

主な発見

• MHG-VAEは、化学的結合価数および接続性ルールを分子ハイパーグラフ文法に直接組み込むことで、デコードエラーを完全に排除し、100%の分子生成妥当性を達成する。
• 無制限オラクルケースにおいて、MHG-VAEはVAEベース手法の中で最高の予測性能を示し、ベースラインと比較してより高い対数尤度およびより低いRMSE（GP回帰）を達成する。
• 限られたオラクルケースにおいて、最先端の強化学習ベース手法GCPNを上回り、同じクエリ数の下で顕著に高い上位3位の特性スコアを達成する。
• MHG-VAEが生成した上位50個の分子の統計は、JT-VAEおよび他のVAEベースのモデルと比較して優れた性能を示し、高品質候補の一貫した発見を裏付けている。
• 限られたオラクルケースにおいても、MHG-VAEはほぼ最適な性能を維持し、無制限ケースとほぼ同等の性能を発揮する。これは、優れたサンプル効率を示している。
• 10回の繰り返し実験において、MHG-VAEの性能は安定しており、上位3位の特性スコアおよび上位50個の平均スコアが、他の手法を上回っている。