[論文レビュー] Generating valid Euclidean distance matrices

Moritz Hoffmann, Frank Noé|arXiv (Cornell University)|Oct 7, 2019

Machine Learning in Materials Science参考文献 44被引用数 37

ひとこと要約

この論文は、事前に定義された埋め込み次元を用いて有効なEuclidean distance matrices (EDMs) を生成し、点群の分布をモデル化するための置換不変クリティックを備えた Wasserstein GAN を用いた方法を紹介し、QM9 の C7O2H10 isomers を用いて実証しています。

ABSTRACT

Generating point clouds, e.g., molecular structures, in arbitrary rotations, translations, and enumerations remains a challenging task. Meanwhile, neural networks utilizing symmetry invariant layers have been shown to be able to optimize their training objective in a data-efficient way. In this spirit, we present an architecture which allows to produce valid Euclidean distance matrices, which by construction are already invariant under rotation and translation of the described object. Motivated by the goal to generate molecular structures in Cartesian space, we use this architecture to construct a Wasserstein GAN utilizing a permutation invariant critic network. This makes it possible to generate molecular structures in a one-shot fashion by producing Euclidean distance matrices which have a three-dimensional embedding.

研究の動機と目的

• 回転/平行移動不変性を保証するため、明示的な直交座標なしで有効なEuclidean distance matricesを生成する。
• EDMsの分布を学習するためのGANフレームワーク、特にWasserstein GANを開発する。
• 点群を集合として扱うためのクリティックの置換不変性を組み込む。
• この方法をQM9の異性体に適用し、一般化と化学的有効性を評価する。

提案手法

• 対称な中空行列をパラメータ化し、PSD条件とJ投影を用いた非EDMを penalize する損失でEDMの妥当性を強制する。
• 対称行列Lを非負関数gで変換してグラム行列Mを得、そのMからEDM Dを再構成する。
• DとMをD_{ij}=M_{ii}+M_{jj}-2M_{ij}により関連付け、埋め込み次元を制限してMの階数を固有値ベースのペナルティで制限する。
• SchNetベースのクリティックを備えたWasserstein GANを訓練し、ペアワイズ距離上で機能してEDMの置換不変性評価を達成する。
• ジェネレータでは、softplusベースの再パラメータ化を適用して正定半行列性を保証し、埋め込み次元を制御してEDM構造を強制する。
• モデルを拡張して原子種情報と、訓練中のタイプのクロスエントロピー、調和反発、EDM特有のペナルティなどの追加損失を含める。

実験結果

リサーチクエスチョン

• RQ1 明示的な座標系なしで、事前に定義された埋め込み次元を持つ有効なEDMsを生成できるか？
• RQ2 置換不変クリティックを有するWGANは分子幾何に対応するEDMsの分布を学習できるか？
• RQ3 EDMベースの生成はQM9内の未見の分子や異性体に対してどれくらい一般化するか？
• RQ4 訓練データと比較して生成された分子トポロジーと立体配置の多様性はどれくらいか？
• RQ5 生成された構造はリラクゼーション後にエネルギー的に妥当な配置を示すか？

主な発見

• この方法は3次元空間に埋め込まれた点群に対応するEDMsを生成し、回転および並進不変な表現を生み出す。
• SchNetクリティックを備えたWGANは、QM9分子のサブセット（C7O2H10 isomers）に対するEDMsの分布を学習でき、訓練データセットを越えて一般化できる。
• 生成サンプルは対称的なペアワイズ距離分布を定性的に正しく、QM9エネルギー範囲内へリラクゼーションしてエネルギーを得ることができる。
• 基本的な妥当性テスト（結合、原子価）を通過する生成サンプルの割合があり、SMILESで表現可能でトポロジーの多様性を示す。
• 立体配置解析は、QM9サブセット以外の複数のユニークな立体配置を示し、新しいトポロジーや立体配置を含む。
• リラクゼーション後の生成構造のエネルギーはQM9データベースと同様の範囲（概ね -1586〜-1581 eV）に収まる。
• 生成例にはQM9構造に近いものと新規分子の両方が含まれ、データベースにない一部の立体配置も含まれる。