[논문 리뷰] Cell Complex Neural Networks

Mustafa Hajij, Kyle Istvan외 1명|arXiv (Cornell University)|2020. 10. 02.

Topological and Geometric Data Analysis참고 문헌 38인용 수 32

한 줄 요약

CXNs는 셀 복합체에서 일반적인 신경망 프레임워크를 제공하고, 세포 간 메시지 전달(inter-cellular message passing)과 학습된 셀 표현을 위한 통합 인코더-디코더를 도입하며, 그래프 신경망(GNN)을 고차원 도메인으로 일반화합니다.

ABSTRACT

Cell complexes are topological spaces constructed from simple blocks called cells. They generalize graphs, simplicial complexes, and polyhedral complexes that form important domains for practical applications. They also provide a combinatorial formalism that allows the inclusion of complicated relationships of restrictive structures such as graphs and meshes. In this paper, we propose extbf{Cell Complexes Neural Networks (CXNs)}, a general, combinatorial and unifying construction for performing neural network-type computations on cell complexes. We introduce an inter-cellular message passing scheme on cell complexes that takes the topology of the underlying space into account and generalizes message passing scheme to graphs. Finally, we introduce a unified cell complex encoder-decoder framework that enables learning representation of cells for a given complex inside the Euclidean spaces. In particular, we show how our cell complex autoencoder construction can give, in the special case extbf{cell2vec}, a generalization for node2vec.

연구 동기 및 목표

• 그래프에서 규칙적인 셀 복합체로 신경망 계산을 일반화한다.
• 경계(boundary) 및 코바운더리(co-boundary) 맵에 의해 정의된 세포 간 메시지 전달 스킴을 도입한다.
• 표현 학습을 위한 합성(convolutional) 변형 CCXN과 셀 복합체 자동인코더 CXNA를 제공한다.
• 셀 복합체 표현이 node2vec 및 관련 그래프 학습 방법으로 일반화되는 방식을 보인다.

제안 방법

• CXN을 셀 복합체에서의 조합적이고 학습 가능한 메시지 전달 프레임워크로 정의한다.
• A_adj 및 정규화 변형을 사용하여 셀 인접성에 대해 그래프와 유사한 컨볼루션을 CCXN으로 개발한다.
• 인코더/디코더 구성요소와 사용자가 정의한 유사성 손실을 갖는 셀 복합체 자동인코더(CXNA)를 도입한다.
• 표준 인접 기반 전달에 대한 대안으로 동형성/코호모로지 기반 전달 스킴을 도입한다.
• 선택된 유사성 함수(sim_X)와 일치하는 임베딩을 학습하는 통합 인코더–디코더 스킴을 제공한다.
• 지향성 있는 셀 복합체 vs 비지향 셀 복합체 및 해당 경계 행렬 ∂_k 및 ∂*_k를 논의한다.

실험 결과

연구 질문

• RQ1 세포 복합체에서 신경망 계산을 어떻게 수행하여 GNN의 기능을 고차원 도메인으로 확장할 수 있는가?
• RQ2 셀 복합체의 위상 정보를 존중하는 효과적인 세포 간 메시지 전달 스킴은 무엇인가?
• RQ3 자동인코더를 통해 셀 복합체 표현을 학습하고 유클리드 공간에서 표현하는 방법은?
• RQ4 CXN이 node2vec 및 Laplacian eigenmaps와 같은 기존 그래프 학습 방법을 어떠한 방식으로 일반화할 수 있는가?

주요 결과

• CXN은 많은 GNN 변형을 포괄하고 고차원 도메인으로 확장되는 일반적이고 조합적 학습 스킴을 제공한다.
• CCXN은 셀 인접 행렬을 사용하여 셀 복합체에서 컨볼루션 유사 업데이트를 수행함으로써 CGNN을 확장한다.
• CXNA는 임베딩을 학습한다. X의 모든 셀에 대해 인코더–디코더와 유사성 측정 및 손실을 활용하여.
• 이 프레임워크는 인접 기반 전달, 공동 인접 기반 전달 및 동형성/코호모로지 영감 전달을 포함한 다중 전달 스킴을 지원한다.
• 이 방법은 셀 복합체를 기반으로 한 무작위 워크를 이용한 cell2vec 형식을 통해 node2vec를 일반화할 수 있다.