[論文レビュー] DEFactor: Differentiable Edge Factorization-based Probabilistic Graph Generation

Rim Assouel, Mohamed M. Ahmed+3 more|arXiv (Cornell University)|Nov 24, 2018

Computational Drug Discovery Methods参考文献 1被引用数 56

ひとこと要約

DEFactorは、微分可能なエッジ因子分解ベースのグラフデコーダを提示し、性質指向の最適化のために、任意のサイズの分子グラフをエンドツーエンド学習および条件付き生成を可能にします。

ABSTRACT

Generating novel molecules with optimal properties is a crucial step in many industries such as drug discovery. Recently, deep generative models have shown a promising way of performing de-novo molecular design. Although graph generative models are currently available they either have a graph size dependency in their number of parameters, limiting their use to only very small graphs or are formulated as a sequence of discrete actions needed to construct a graph, making the output graph non-differentiable w.r.t the model parameters, therefore preventing them to be used in scenarios such as conditional graph generation. In this work we propose a model for conditional graph generation that is computationally efficient and enables direct optimisation of the graph. We demonstrate favourable performance of our model on prototype-based molecular graph conditional generation tasks.

研究の動機と目的

• 任意のグラフサイズに対して微分可能でスケーラブルな分子のグラフ生成モデルを提案すること。
• 離散的で微分不可能なグラフ構築手順に依存せず、標的性質の直接的な最適化を分子グラフに対して可能にする。
• 条件付き生成に適した自己回帰的エッジ因子分解デコーダを備えた確率的オートエンコーダを開発する。

提案手法

• 入力分子グラフをグラフ畳み込みネットワークでエンコードし、ノード埋め込みと固定長のグラフ潜在コードを得る。
• LSTMベースのエンコーダを用いてノード埋め込みを集約し、グラフ潜在表現zを形成する。
• LSTMデコーダを介してzを条件として連続的なノード埋め込みを自己回帰的に生成する。
• エッジ特異的因数分解と関係推論アプローチを用いて隣接行列とノード特徴を再構成することでグラフを復号し、可変なグラフサイズを可能にする。
• 三つの段階でティーチャーフォーシングを用いて訓練する：グラフオートエンコーダの事前訓練、ティーチャーフォーシングを用いた埋め込み生成器の訓練、次に完全な自己回帰訓練。
• 識別器が標的性質を評価し、フィードバックが生成器を誘導する相互情報最大化を伴う条件付き生成フレームワークを使用する。

実験結果

リサーチクエスチョン

• RQ1 DEFactorは、デコーダパラメータに対して微分可能性を維持しつつ、任意のサイズの現実的な分子グラフを生成できるか？
• RQ2 自己回帰的なエッジ因子分解デコード方式は、性質指向の分子設計のための効果的な条件付き生成を実現するか？
• RQ3 既存モデルと比較して、分子グラフ再構成および制約付き性質最適化におけるDEFactorの性能はどうか？
• RQ4 相互情報ベースの条件付けと識別器の組み込みが、望ましい性質を持つ分子の生成に与える影響はどれくらいか？

主な発見

• DEFactorは、パラメータが固定の最大グラフサイズに依存しないデコーダを備えたエンドツーエンド微分可能なグラフ生成を可能にする。
• 条件付き生成 capabilities は、ターゲット性質へ分子を誘導できることを示し、LogP関連タスクで競争力のある性能を示す。
• 制約付き性質最適化では、DEFactorはペナルティ付きLogPに関してベースラインモデルと比較して顕著な改善を達成し、元のクエリ分子への類似性を妥当な範囲に保っています。
• 再構成タスクは、試験データセットにおいてこれまでのグラフ再構成アプローチと比較して競争力のある、あるいは優れた性能を示す。
• 存在モジュールによって自己回帰生成器の展開を停止する判断を行い、グラフのサイズを変化させて生成できる。