[논문 리뷰] Can GAN Learn Topological Features of a Graph?

Weiyi Liu, Pin‐Yu Chen외 4명|arXiv (Cornell University)|2017. 07. 19.

Topological and Geometric Data Analysis참고 문헌 17인용 수 5

한 줄 요약

이 논문은 임의의 그래프의 계층적이고 순서화된 복원 단계를 계층적 커뮤니티 구조에서 파생된 분할된 부분그래프에 대해 별도의 GAN을 훈련시켜 학습하는 새로운 GAN 기반 프레임워크인 그래프 토폴로지 인터폴레이터(GTI)를 소개한다. GTI는 차수 분포, 별 모양의 구조, 커뮤니티 구성과 같은 토폴로지적 특징을 성공적으로 포착하고 순위를 매기며, GAN이 단순한 특징 추출을 넘어서 복잡한 그래프 토폴로지 모델링이 가능하다는 것을 보여주며, 일반적이고 모델에 종속되지 않는 토폴로지 분석을 위한 접근법을 제공한다.

ABSTRACT

This paper is first-line research expanding GANs into graph topology analysis. By leveraging the hierarchical connectivity structure of a graph, we have demonstrated that generative adversarial networks (GANs) can successfully capture topological features of any arbitrary graph, and rank edge sets by different stages according to their contribution to topology reconstruction. Moreover, in addition to acting as an indicator of graph reconstruction, we find that these stages can also preserve important topological features in a graph.

연구 동기 및 목표

• 실세계 그래프가 스케일프리 및 소월드 모델을 동시에 포함하는 등 다양한 토폴로지 모델을 조합할 경우에도, 임의의 그래프에서 토폴로지적 특징을 포착하는 일반적이고 모델에 종속되지 않는 방법의 부족을 해결한다.
• 기존의 그래프 분석 도구는 가정된 토폴로지에 민감하고, 혼합되거나 알려지지 않은 구조적 특징을 가진 그래프에서는 실패하는 한계를 극복한다.
• 자기적으로 에지 기여도를 식별하고 순위를 매겨, 구조적 통합성에 가장 중요한 에지가 무엇인지 해석 가능한 방법을 개발한다.
• GAN이 이미지 생성을 넘어서 계층적 연결성을 가진 구조적 데이터에 효과적으로 적용될 수 있음을 보여주며, 그래프 토폴로지 분석에 적합하게 변형될 수 있음을 입증한다.
• 지역적 및 전역적 토폴로지적 특징을 유지하는 복원 과정을 제공하며, 그래프 복원의 순서화된 단계를 통해 설명 가능성을 확보한다.

제안 방법

• 입력 그래프의 계층적 커뮤니티 레이어를 식별하기 위해 Louvain 알고리즘을 적용하며, 커뮤니티 수를 레이어링 기준으로 사용한다.
• 각 계층적 레이어를 METIS를 사용해 겹치지 않는 부분그래프로 분할하여 GAN 훈련에 대한 일관된 입력 크기를 확보한다.
• 각 부분그래프 레이어에 대해 별도의 GAN을 훈련시며, 두 개의 완전 연결층과 두 개의 디컨볼루션층을 가진 디컨볼루션 생성자와, 두 개의 컨볼루션층과 두 개의 완전 연결층을 가진 컨볼루션 판별자 사용.
• ReLU와 최대 풀링 대신 Leaky ReLU 활성화 함수와 배치 정규화를 사용하여 에지의 부재(0 값)를 유지하고 특징 정보를 손실 없이 보존한다.
• DCGAN의 손실 및 최적화 전략을 따르며, ADAM 최적화를 사용하고 학습률을 0.0002로 설정하며 1000회 반복 훈련한다.
• 모든 레이어의 출력을 결합하여 순서화된 복원 단계를 생성하며, 각 단계는 토폴로지 복원에 기여도가 높은 에지 집합에 해당한다.

실험 결과

연구 질문

• RQ1 혼합되거나 알려지지 않은 구조적 모델을 가진 그래프일지라도, GAN이 임의의 그래프에서 토폴로지적 특징을 효과적으로 학습하고 복원할 수 있는가?
• RQ2 커뮤니티 레이어와 부분그래프 분할로 이루어진 그래프의 계층적 분해가, GAN이 에지 기여도를 의미 있고 해석 가능한 방식으로 포착하고 순위를 매울 수 있도록 하는가?
• RQ3 GTI가 생성한 복원 단계가 다양한 그래프 유형에서 차수 분포, 커뮤니티 구조, 별 모양의 모티프와 같은 핵심 토폴로지적 특징을 유지하는가?
• RQ4 GTI의 비지도, 엔드 투 엔드 접근법은 전통적인 그래프 샘플링 방법에 비해 구조적 통합성과 핵심 특징을 얼마나 잘 유지하는가?
• RQ5 복잡한 실세계 네트워크에서 조차도, GTI의 순서화된 단계가 에지 중요도의 신뢰할 수 있는 지표로 기능하는가?

주요 결과

• GTI는 모든 단계에서 합성 그래프(ER, BA, WS, Kron)의 차수 분포를 성공적으로 복원하며, 최종 단계는 원본과 매우 유사하고, 고도의 에지 삭제(예: ER 네트워크의 첫 번째 단계에서 95.7%의 에지 삭제)에도 정점의 피크 특징을 유지한다.
• WS 및 Kron 네트워크의 부분그래프에서 첫 번째 복원 단계는 고차수 노드와 별 모양의 패턴과 같은 핵심 구조적 모티프를 포착하여, 초기 단계에서 토폴로지적 중요도를 효과적으로 식별함을 보여준다.
• 실세계 네트워크(Wiki-vote 및 Facebook)에서 GTI의 첫 번째 단계는 최고의 차수를 가진 노드 중심의 별 모양의 구조를 유지하며, 핵심 토폴로지 요소를 효과적으로 식별함을 시사한다.
• 시각적 비교 결과, 샘플링 크기를 동일하게 유지할 때, GTI의 첫 번째 단계는 Facebook의 20- 및 50노드 부분그래프에서 Random Walk, Random Jump 및 Forest Fire 샘플링 방법보다 별 모양의 구조를 더 잘 유지한다.
• GTI의 비지도 특성 덕분에, 그래프의 구조를 사전 지식 없이도 클러스터와 구조적 특징을 탐지할 수 있으며, 샘플링 방법과 달리 클러스터 전반에 걸쳐 초기화가 필요하지 않다.
• 계층적이고 다단계적인 복원 과정을 통해, 국소적 모티프(예: 허브, 조밀한 클러스터)에 기여하는 에지들이 먼저 학습됨을 확인하며, 단계가 토폴로지 중요도의 해석 가능한 지표임을 확인한다.