[논문 리뷰] Learn to Generate Time Series Conditioned Graphs with Generative Adversarial Nets.

Shanchao Yang, Jing Liu외 2명|arXiv (Cornell University)|2020. 03. 03.

Bioinformatics and Genomic Networks참고 문헌 30인용 수 5

한 줄 요약

이 논문은 다변량 시계열 데이터를 조건으로 삼아 관계 그래프를 생성하는 새로운 생성적 적대적 네트워크인 TSGG-GAN을 제안한다. 이는 유전자 조절 네트워크와 같은 노드 수준의 관계를 모델링한다. 시간 시리즈와 그래프 표현을 함께 학습함으로써 의미적 상호의존성을 포착하고, 합성 및 실세계 데이터셋에서 현실적이고 맥락에 부합하는 그래프 생성에서 베이스라인을 능가한다.

ABSTRACT

Deep learning based approaches have been utilized to model and generate graphs subjected to different distributions recently. However, they are typically unsupervised learning based and unconditioned generative models or simply conditioned on the graph-level contexts, which are not associated with rich semantic node-level contexts. Differently, in this paper, we are interested in a novel problem named Time Series Conditioned Graph Generation: given an input multivariate time series, we aim to infer a target relation graph modeling the underlying interrelationships between time series with each node corresponding to each time series. For example, we can study the interrelationships between genes in a gene regulatory network of a certain disease conditioned on their gene expression data recorded as time series. To achieve this, we propose a novel Time Series conditioned Graph Generation-Generative Adversarial Networks (TSGG-GAN) to handle challenges of rich node-level context structures conditioning and measuring similarities directly between graphs and time series. Extensive experiments on synthetic and real-word gene regulatory networks datasets demonstrate the effectiveness and generalizability of the proposed TSGG-GAN.

연구 동기 및 목표

• 풍부한 노드 수준의 시계열 맥락에 조건이 되는 기존 그래프 생성 모델의 격차를 보완하기 위해.
• 시간 시리즈 구성 요소(예: 유전자) 간의 상호관계를 그들의 시간적 행동에 조건화된 동적 그래프 구조로 모델링하기 위해.
• 시간 시리즈와 생성된 그래프 간의 유사도를 측정하는 통합 프레임워크를 개발하여 향상된 훈련과 평가를 가능하게 하기 위해.
• 시간 시리즈 데이터가 잠재적인 조절 메커니즘을 반영하는 분야인 체계생물학과 같은 분야에서 해석 가능하고 일반화 가능한 그래프 생성을 가능하게 하기 위해.

제안 방법

• 생성자는 입력으로 주어진 다변량 시계열에 조건화된 그래프를 생성하는 조건부 GAN 프레임워크를 사용한다.
• 생성자는 시간 시리즈 임베딩에서 유도된 노드 표현을 모델링하기 위해 그래프 신경망(GNN)을 사용한다.
• 진짜 그래프(데이터에서 유래)와 생성된 그래프를 구분하도록 판별자가 훈련되며, 시간 시리즈 및 그래프 수준의 특징에 의해 지도된다.
• 노드 수준의 조건부 처리는 시간 시리즈 표현과 그래프 구조 학습 간의 정렬을 달성하기 위한 어텐션 메커니즘을 통해 이루어진다.
• 생성자 적대적 손실와 재구성 손실를 조합한 다목적 손실 함수를 통해 그래프의 현실성과 시간 시리즈의 충실도를 함께 최적화한다.
• 시간 시리즈는 시간적 인코더(LSTM 또는 Transformer 등)를 사용해 임베딩되어 생성자에게 맥락적 입력을 제공한다.

실험 결과

연구 질문

• RQ1 생성 모델은 시간 시리즈 구성 요소 간의 동적 상호관계를 반영하는 현실적인 그래프를 생성할 수 있는가?
• RQ2 모델은 시간 시리즈 데이터로부터 노드 수준의 의미적 구조를 얼마나 효과적으로 포착하여 그래프 생성을 이끌 수 있는가?
• RQ3 시간 시리즈에 조건화함으로써 생성된 그래프의 충실도와 해석 가능성은 무조건적 또는 그래프 수준 조건화 모델에 비해 얼마나 향상되는가?
• RQ4 모델은 다양한 시간 시리즈 패턴과 실세계 생물학적 데이터셋에 대해 얼마나 잘 일반화되는가?

주요 결과

• TSGG-GAN은 구조 유사도와 노드 속성 재구성 측정 기준으로 볼 때, 기존 모델 대비 그래프 생성 품질에서 뛰어난 성능을 보였다.
• 모델은 실제 유전자 조절 네트워크에서 관찰된 잠재적 상호의존성을 유지하는 그래프를 더 높은 충실도로 생성했다.
• 시간 시리즈에 기반한 조건부 생성은 무조건적 또는 그래프 수준 조건화 베이스라인 대비 더 해석 가능하고 생물학적으로 타당한 그래프 구조를 도출했다.
• 모델은 합성 및 실세계 데이터셋 모두에서 새로운 시간 시리즈 패턴에 대해 잘 일반화되어 있어 뛰어난 내구성을 보였다.