[논문 리뷰] Deep Graph Translation

Xiaojie Guo, Lingfei Wu외 1명|arXiv (Cornell University)|2018. 05. 25.

Advanced Graph Neural Networks인용 수 15

한 줄 요약

이 논문은 입력 그래프를 목표 그래프로 변환하는 데 모델링하는 전역적이고 국소적인 구조적 매핑을 동시에 고려하는 조건부 생성 모델인 그래프 번역 생성 적대망(GT-GAN)을 제안한다. GT-GGAN은 인코더-디코더 학습을 위한 새로운 그래프 컨볼루션 및 디컨볼루션 레이어와 조건부 그래프 판별기로 구성되며, 특히 데이터가 적거나 이상치 예측 시나리오에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Inspired by the tremendous success of deep generative models on generating continuous data like image and audio, in the most recent year, few deep graph generative models have been proposed to generate discrete data such as graphs. They are typically unconditioned generative models which has no control on modes of the graphs being generated. Differently, in this paper, we are interested in a new problem named \emph{Deep Graph Translation}: given an input graph, we want to infer a target graph based on their underlying (both global and local) translation mapping. Graph translation could be highly desirable in many applications such as disaster management and rare event forecasting, where the rare and abnormal graph patterns (e.g., traffic congestions and terrorism events) will be inferred prior to their occurrence even without historical data on the abnormal patterns for this graph (e.g., a road network or human contact network). To achieve this, we propose a novel Graph-Translation-Generative Adversarial Networks (GT-GAN) which will generate a graph translator from input to target graphs. GT-GAN consists of a graph translator where we propose new graph convolution and deconvolution layers to learn the global and local translation mapping. A new conditional graph discriminator has also been proposed to classify target graphs by conditioning on input graphs. Extensive experiments on multiple synthetic and real-world datasets demonstrate the effectiveness and scalability of the proposed GT-GAN.

연구 동기 및 목표

• 기존의 조건부 없는 그래프 생성 모델에서의 제어 불가 문제를 해결하여 특정 목표 패턴으로의 생성을 유도할 수 있도록 한다.
• 기존에 목표 패턴에 대한 역사적 데이터가 없더라도, 소스 그래프가 의미적 또는 구조적으로 관련된 목표 그래프로 변환되는 그래프 번역을 가능하게 한다.
• 퍼미터리제이션 불변성을 유지하면서도 복잡하고 크기가 변하는 그래프 구조를 모델링할 수 있는 확장 가능하고 스케일링 가능한 프레임워크를 개발한다.
• 재난 관리 및 희귀 사건 예측과 같은 실제 응용 분야를 지원하기 위해, 정상 입력 그래프에서 비정상적인 그래프 패턴(예: 교통 체증, 사이버 공격)을 추론할 수 있도록 한다.
• 번역 과정에서 전역적 토폴로지와 국소적 구조적 특성을 모두 유지하는 고해상도 그래프 생성을 달성한다.

제안 방법

• 입력 그래프에서 목표 그래프로의 매핑을 학습하는 새로운 그래프 번역 생성 적대망(GT-GAN)을 제안한다.
• 입력 그래프를 인코딩하고 목표 그래프로 디코딩하는 데 사용되는 새로운 그래프 컨볼루션 및 디컨볼루션 레이어를 설계하여 전역적 및 국소적 구조적 패턴을 유지한다.
• 입력 그래프에 조건부로 목표 그래프를 분류하는 그래프 컨볼루션 네트워크(GCN) 기반의 조건부 그래프 판별기를 도입하여 정확도와 일관성을 향상시킨다.
• 생성자(그래프 번역기)와 조건부 판별기 사이의 최소최대 게임으로 학습 목표를 설정하여 현실적이고 구조적으로 정확한 번역을 최적화한다.
• 노드 수에 대해 최악의 경우 이차 시간 및 메모리 복잡도를 갖도록 모델을 설계하여 중소 규모의 그래프에 적용 가능하도록 스케일링을 보장한다.
• GCN 레이어 및 판별기 내의 거리 측정 기법 등 핵심 구성 요소를 고급 기법으로 모듈러하게 교체할 수 있도록 확장성을 제공한다.

실험 결과

연구 질문

• RQ1 기존의 목표 패턴에 대한 사전 예시가 없더라도, 깊이 있는 생성 모델이 입력 그래프를 구조적이고 의미적으로 유의미한 목표 그래프로 효과적으로 번역할 수 있는가?
• RQ2 희귀 또는 비정상적인 패턴을 포함한 경우에도, 모델이 그래프 번역 과정에서 전역적 토폴로지와 국소적 구조적 특성을 얼마나 잘 유지하는가?
• RQ3 기존의 조건부 없는 그래프 생성 모델(예: VAE 기반 방법)에 비해 제안된 GT-GAN이 현실적이고 판별적으로 타당한 목표 그래프를 얼마나 잘 생성하는가?
• RQ4 GT-GAN 프레임워크는 스케일프리 또는 포isson 랜덤 그래프를 포함한 다양한 합성 및 실세계 그래프 분포에 대해 얼마나 스케일링 가능하고 일반화 가능한가?
• RQ5 실제 목표 데이터가 없을 경우에도 생성된 그래프가 하류 분류 작업의 양성 학습 샘플로 효과적으로 사용될 수 있는가?

주요 결과

• GT-GAN은 랜덤VAE 기반 베이스라인에 비해 현실적인 목표 그래프 생성에서 뚜렷한 성능 향상을 보였으며, 포아송 랜덤 그래프에서 F1 측정치가 50% 향상되었고, 스케일프리 그래프에서는 모든 지표에서 10% 이상 향상되었다.
• 사용자 권한 데이터셋에서 GT-GAN이 생성한 그래프는 50노드 그래프의 AUC가 0.78, 300노드 그래프의 AUC가 0.79를 기록했으며, 이는 랜덤VAE(AUC ~0.5)를 크게 앞서고 최적 분류기(AUC ~0.97)에 근접한 성능을 보였다.
• 생성된 그래프의 평균 간선 증가 비율이 3.6으로 진짜 값인 5에 가까워, GT-GAN이 입력에서 목표 그래프로의 번역 규칙을 효과적으로 학습하고 있음을 시사한다.
• GT-GAN이 생성한 그래프를 기반으로 학습한 분류기 성능은 항상 최적 분류기 수준에 가까웠으며, 이는 생성된 그래프가 판별적으로 타당하고 하류 작업에 유용하다는 것을 입증한다.
• 실제로 비정상 상태의 예시가 존재하지 않더라도, 정상 입력 그래프에서 비정상 네트워크 패턴(예: 해킹된 인증 네트워크)을 성공적으로 추론하였다.
• 광범위한 아블레이션 및 케이스 스터디를 통해 GT-GAN이 노드 도수 분포 유사성과 구조적 일관성으로 검증된 바, 전역적 및 국소적 번역 매핑을 정확히 포착하고 있음을 확인하였다.