[論文レビュー] Improving Molecular Design by Stochastic Iterative Target Augmentation

Kevin Yang, Wengong Jin+3 more|arXiv (Cornell University)|Feb 11, 2020

Machine Learning in Materials Science参考文献 48被引用数 4

ひとこと要約

本論文は、事前学習済みの性質予測器を用いて高品質な生成分子で訓練データをフィルタリングおよび段階的に拡張する、確率的反復的ターゲット増幅手法を提案する。この手法は、アーキテクチャの変更なしに自己学習を用いることで、条件付き分子設計において、先行する最先端モデルを著しく上回り、性能が10%以上絶対的に向上する。

ABSTRACT

Generative models in molecular design tend to be richly parameterized, data-hungry neural models, as they must create complex structured objects as outputs. Estimating such models from data may be challenging due to the lack of sufficient training data. In this paper, we propose a surprisingly effective self-training approach for iteratively creating additional molecular targets. We first pre-train the generative model together with a simple property predictor. The property predictor is then used as a likelihood model for filtering candidate structures from the generative model. Additional targets are iteratively produced and used in the course of stochastic EM iterations to maximize the log-likelihood that the candidate structures are accepted. A simple rejection (re-weighting) sampler suffices to draw posterior samples since the generative model is already reasonable after pre-training. We demonstrate significant gains over strong baselines for both unconditional and conditional molecular design. In particular, our approach outperforms the previous state-of-the-art in conditional molecular design by over 10% in absolute gain. Finally, we show that our approach is useful in other domains as well, such as program synthesis.

研究の動機と目的

• 高品質な訓練ターゲットを追加することで、分子生成におけるデータ不足問題に対処すること。
• データ集約型の生成モデルの低データ環境下での性能を向上させること。
• 無条件および条件付き分子設計の両方に対して効果的な手法を開発すること。
• 化学分野を超えて一般化できることを示すこと、特にプログラム合成への応用を含む。
• 確率的EMに基づく理論的裏付けのある反復的自己学習フレームワークを提供し、モデルの尤度を向上させること。

提案手法

• 小規模なラベル付きデータセット上で生成モデルと性質予測器を事前学習する。
• 訓練済みの性質予測器を尤度フィルタとして用い、生成モデルから得られた候補分子のスコアが高いものを選択する。
• フィルタリングされた候補を新たな訓練ターゲットとして扱い、反復的に生成モデルを再訓練する。
• このプロセスを確率的EMとして定式化し、受理された候補の対数尤度を最大化する。
• 初期のモデル品質を活用して事後分布サンプルを抽出するために、単純な拒否（再重み付け）サンプラーを適用する。
• 推論時におけるトランスductive適応を可能にするために、推論中にフィルタを適用するように手法を拡張する。

実験結果

リサーチクエスチョン

• RQ1 性質予測器を用いた反復的自己学習は、データが限られた状況下で分子生成の性能を著しく向上させることができるか？
• RQ2 本手法は、無条件および条件付き分子設計の両方において、強力なベースラインと比較してどのように差をつけるか？
• RQ3 外部の性質予測器の品質にどれほど頑健か？
• RQ4 本手法は、タスク固有の制約を伴う他の生成タスクにも一般化可能か？
• RQ5 本手法は、整合的な最適化フレームワークに基づく理論的裏付けを有しているか？

主な発見

• 本手法は、条件付き分子設計において、以前の最先端手法を10%以上の絶対的向上率で上回った。
• 本手法は、無条件および条件付き分子生成タスクの両方で性能を著しく向上させた。
• 外部の性質予測器の品質に頑健であり、不完全なフィルタでも一貫した向上を示した。
• 本手法はプログラム合成にも効果的に一般化され、強力な強化学習ベースラインを上回った。
• 本手法はアーキテクチャの改善と相補的であり、モデルの変更なしに性能を向上させることができた。
• 反復的ターゲット増幅プロセスは、受理された候補の尤度を最大化するという観点から、確率的EMの一形態として理論的に正当化された。