[論文レビュー] Cell Complex Neural Networks

Mustafa Hajij, Kyle Istvan+1 more|arXiv (Cornell University)|Oct 2, 2020

Topological and Geometric Data Analysis参考文献 38被引用数 32

ひとこと要約

CXNsはセル複体上の一般的なニューラルネットワーク枠組みを提供し、細胞間メッセージパッシングと学習のための統一エンコーダ-デコーダを導入し、グラフニューラルネットワークを高次元ドメインへ一般化する。

ABSTRACT

Cell complexes are topological spaces constructed from simple blocks called cells. They generalize graphs, simplicial complexes, and polyhedral complexes that form important domains for practical applications. They also provide a combinatorial formalism that allows the inclusion of complicated relationships of restrictive structures such as graphs and meshes. In this paper, we propose extbf{Cell Complexes Neural Networks (CXNs)}, a general, combinatorial and unifying construction for performing neural network-type computations on cell complexes. We introduce an inter-cellular message passing scheme on cell complexes that takes the topology of the underlying space into account and generalizes message passing scheme to graphs. Finally, we introduce a unified cell complex encoder-decoder framework that enables learning representation of cells for a given complex inside the Euclidean spaces. In particular, we show how our cell complex autoencoder construction can give, in the special case extbf{cell2vec}, a generalization for node2vec.

研究の動機と目的

• グラフから規則的なセル複体へのニューラルネットワーク計算を一般化する。
• 境界写像およびコボウンダリー写像に基づく細胞間メッセージパッシング方式を導入する。
• 表現学習のための畳み込み型バリアント CCXN とセル複体自己エンコーダ CXNA を提供する。
• セル複体表現が node2vec および関連するグラフ学習手法を一般化することを示す。

提案手法

• CXNをセル複体上の組み合わせ的で学習可能なメッセージパッシング枠組みとして定義する。
• A_adj と正規化された変種を用いてセル隣接に対するグラフ風の畳み込みとして CCXN を開発する。
• エンコーダ/デコーダを備えたセル複体自己エンコーダ（CXNA）とユーザー定義の類似度損失を導入する。
• 標準の隣接ベースのパッシングの代替として、ホモロジー/コホモロジーに基づくパッシング方式を組み込む。
• 選択された類似度関数（sim_X）と整合する埋め込みを学習する統一的なエンコーダ-デコーダ方式を提供する。
• 指向セル複体と非指向セル複体および対応する境界行列 ∂_k および ∂*_k について論じる。

実験結果

リサーチクエスチョン

• RQ1 セル複体上でニューラルネットワーク計算をどのように実行して、GNN の能力を高次元ドメインへ拡張できるか？
• RQ2 セル複体のトポロジーを尊重する効果的な細胞間メッセージパッシング方式は何か？
• RQ3 セル複体表現を自己エンコーダを通じてユークリッド空間で学習・表現するにはどうすればよいか？
• RQ4 CXNは node2vec やラプラシアン固有写像のような既存のグラフ学習手法をどのように一般化できるか？

主な発見

• CXNs は多くの GNN バリアントを包含し、高次元ドメインへ拡張する一般的な組み合わせ的トレーニング方式を提供する。
• CCXN はセル隣接行列を用いてセル複体上で畳み込み風の更新を実行することで CGNN を拡張する。
• CXNA はエンコーダ-デコーダと類似度測度と損失を用いて X のすべてのセルの埋め込みを学習します。
• このフレームワークは隣接ベース、共隣接ベース、およびホモロジー/コホモロジーに着想を得たパッシングを含む複数のパッシング方式をサポートする。
• この手法はセル複体上のランダムウォークに基づく cell2vec の定式化を通じて node2vec を一般化できる。