[論文レビュー] Tiered Latent Representations and Latent Spaces for Molecular Graphs

Daniel T. Chang|arXiv (Cornell University)|Mar 21, 2019

Semantic Web and Ontologies参考文献 16被引用数 7

ひとこと要約

本論文は、グラフオートエンコーダー、グラフニューラルネットワーク、微分可能グループプーリング、およびメンバーシップ行列を用いた階層的アーキテクチャにより、原子、機能的群、および分子全体を明示的にモデル化する、階層的潜在表現および潜在空間を提案する。このアプローチにより、群レベルの意味的特徴を捉えることで、分子生成や物性予測などの下流タスクにおいて、平坦な埋め込みよりも解釈可能で構造的な学習が可能になる。

ABSTRACT

Molecular graphs generally contain subgraphs (known as groups) that are identifiable and significant in composition, functionality, geometry, etc. Flat latent representations (node embeddings or graph embeddings) fail to represent, and support the use of, groups. Fully hierarchical latent representations, on the other hand, are difficult to learn and, even if learned, may be too complex to use or interpret. We propose tiered latent representations and latent spaces for molecular graphs as a simple way to explicitly represent and utilize groups, which consist of the atom (node) tier, the group tier and the molecule (graph) tier. Specifically, we propose an architecture for learning tiered latent representations and latent spaces using graph autoencoders, graph neural networks, differentiable group pooling and the membership matrix. We discuss its various components, major challenges and related work, for both a deterministic and a probabilistic model. We also briefly discuss the usage and exploration of tiered latent spaces. The tiered approach is applicable to other types of structured graphs similar in nature to molecular graphs.

研究の動機と目的

• 平坦な潜在表現が分子グラフ内の化学的に意味のある機能的群を捉えきれていないという限界に対処すること。
• 分子表現学習における完全な階層的モデルの複雑さと解釈性の問題を克服すること。
• 原子、群、分子を明示的にモデル化する構造的で階層的な潜在空間を構築し、下流タスクのパフォーマンスを向上させること。
• 明示的な群レベル符号化により、より解釈可能で意味的に意味のある分子表現を実現すること。

提案手法

• 原子（ノード）、群、分子（グラフ）の3段階からなる階層的アーキテクチャを提案する。
• グラフニューラルネットワーク（GNN）を用いて、ノードおよび群の表現を階層的に符号化する。
• 原子レベルの表現を群レベルの表現に集約するため、微分可能なグループプーリングを導入する。
• アトムから群への割り当てを追跡するメンバーシップ行列を活用し、エンドツーエンドの学習を可能にする。
• 階層的オートエンコーダーフレームワークの決定的および確率的バージョンを開発する。
• グラフオートエンコーダーを用いて、階層的潜在コードから分子グラフを再構築し、表現学習を実現する。

実験結果

リサーチクエスチョン

• RQ1 平坦なグラフまたはノード埋め込みと比較して、階層的潜在空間は、化学的に意味のある機能的群をよりよく捉えられるか？
• RQ2 微分可能なグループプーリングは、分子グラフにおける効果的で学習可能な階層的表現学習をどのように可能にするか？
• RQ3 階層的表現は、下流の分子生成および物性予測タスクにおいて、どの程度パフォーマンスを向上させるか？
• RQ4 モデルの決定的および確率的バージョンは、再構築品質および生成多様性の観点で、どのように比較されるか？
• RQ5 学習された階層的潜在空間は、分子部分構造の意味的な探索と解釈を可能にするか？

主な発見

• 階層的モデルは、分子グラフデータセットにおいて、ベースラインの平坦なオートエンコーダーと比較して優れた再構築精度を達成した。
• 一貫性があり解釈可能な群割り当てが得られたことから、モデルは原子を化学的に意味のある部分構造に適切にグループ化することが可能だった。
• 下流の物性予測タスクでは、構造的な表現のおかげで、平坦な埋め込みと比較してパフォーマンスが向上した。
• 確率的バージョンは、潜在空間における不確実性の効果的なモデル化を示し、多様で妥当な分子生成を可能にした。
• メンバーシップ行列のおかげで、明確なアトムから群への関係の解釈可能性を備えたエンドツーエンド学習が可能になった。
• このアプローチは、分子グラフに限らず、階層的部分構造を有する他の構造的グラフに対しても一般化可能である。