[논문 리뷰] Generating multivariate time series with COmmon Source CoordInated GAN (COSCI-GAN)

Ali Seyfi, Jean-François Rajotte외 1명|arXiv (Cornell University)|2022. 05. 27.

Time Series Analysis and Forecasting인용 수 12

한 줄 요약

COSCI-GAN은 공통된 원천 기원을 모델링하기 위해 공유된 잠복 노이즈를 사용하고 중심 디스crimิน레이터를 통해 채널 간 상관관계 유지 방식을 적용한 새로운 GAN 기반 프레임워크로, 다변량 시계열(MTS)을 생성한다. 이는 뇌파 및 금융 MTS 데이터셋에서 통계적 상관관계 유지 및 분류 정확도 향상 측면에서 최신 기술을 초월한다.

ABSTRACT

Generating multivariate time series is a promising approach for sharing sensitive data in many medical, financial, and IoT applications. A common type of multivariate time series originates from a single source such as the biometric measurements from a medical patient. This leads to complex dynamical patterns between individual time series that are hard to learn by typical generation models such as GANs. There is valuable information in those patterns that machine learning models can use to better classify, predict or perform other downstream tasks. We propose a novel framework that takes time series' common origin into account and favors channel/feature relationships preservation. The two key points of our method are: 1) the individual time series are generated from a common point in latent space and 2) a central discriminator favors the preservation of inter-channel/feature dynamics. We demonstrate empirically that our method helps preserve channel/feature correlations and that our synthetic data performs very well in downstream tasks with medical and financial data.

연구 동기 및 목표

• 공통된 원천(예: 생체 또는 금융 데이터)으로부터 유도되는 복잡한 채널 간 상관관계를 유지하는 다변량 시계열(MTS) 생성의 과제를 해결하기 위해.
• 채널 간 통계적 및 역학적 관계를 유지하는 합성 MTS를 생성함으로써, 특히 분류와 같은 후행 작업 성능을 향상시키기 위해.
• 표준 GAN 및 VAE가 관련된, 원천 기원이 있는 MTS를 모델링하는 데에 한계를 보이는 점을 보완하기 위해, 환자 수준의 공유 잠복 표현을 명시적으로 인코딩하기 위해.
• 의료 및 금융과 같은 개인정보 민감도가 높은 분야에서의 데이터 공유 및 증강을 지원하는 확장 가능하고 병렬 처리 가능한 합성 MTS 생성 프레임워크를 제공하기 위해.

제안 방법

• 생성자는 공통된 환자의 생물학적 또는 환경적 상태를 모델링하기 위해 모든 개별 시계열 채널을 생성하는 데 공유된 잠복 노이즈 벡터를 사용한다.
• 각 채널은 별도의 생성기 헤드에 의해 독립적으로 생성되지만, 모든 채널은 동일한 잠복 코드를 공유하므로 공통된 원천 표현을 보장한다.
• 중앙 디스crim인레이터는 전체 다변량 시퀀스를 종합적으로 평가하여 채널 간 동역학 및 상관관계 유지 조건을 강제한다.
• 학습 목표는 현실성 향상을 위한 적대적 손실과 실재 MTS 상관행렬과의 유사도 유지를 위한 상관관계 유지 손실을 조합한다.
• 채널별 생성기의 병렬 학습을 지원함으로써 효율성을 향상시키면서도 상관관계 정밀도를 손상시키지 않는다.
• 모듈러한 아키텍처로, 데이터 특성에 따라 트랜스포머나 다른 GAN 변종과 같은 현대적 아키텍처로 확장 가능하다.

실험 결과

연구 질문

• RQ1 공통된 원천에서 유도된 다변량 시계열에 대해 GAN 기반 프레임워크가 채널 간 상관관계를 유지할 수 있는가?
• RQ2 공유된 잠복 공간과 중심화된 디스crim인레이션을 강제 적용함으로써 표준 GAN보다 후행 분류 성능이 향상되는가?
• RQ3 TimeGAN 및 Fourier Flows와 같은 최신 기술과 비교해 COSCI-GAN이 실재 MTS의 통계적 특성을 얼마나 잘 유지하는가?
• RQ4 COSCI-GAN은 낮은 데이터 레이턴시 환경에서의 데이터 증강에 적합한 다양하고 현실적인 합성 MTS를 생성할 수 있는가?
• RQ5 COSCI-GAN은 낮은 채널 수를 가진 MTS에서 확장성 및 성능 측면에서 어떤 한계를 지닌다?

주요 결과

• COSCI-GAN은 뇌파 눈동자 상태 데이터셋에서 가장 높은 분류 정확도를 기록했으며, TimeGAN 및 Fourier Flows보다 통계적으로 유의미한 향상을 보였다.
• COSCI-GAN의 합성 및 실재 상관행렬 간 평균 절대 오차(MAE)는 0.111 ± 0.005로, TimeGAN(0.257 ± 0.008) 및 Fourier Flows(0.146 ± 0.006)보다 유의미하게 낮았다.
• t-SNE 및 PCA를 활용한 시각적 분석 결과, COSCI-GAN 샘플은 실재 데이터보다 더 다양하고 잠복 공간에서 더 잘 분포되어 있었으며, 기준선 방법들을 능가했다.
• 의료 및 금융 응용 분야에서 고차원 MTS의 채널 간 동역학을 특히 뛰어난 수준으로 유지하였다.
• 확장 가능하고 병렬 처리가 가능한 프레임워크로서, 학습 성능에 제한이 관찰되지 않았지만, 이원 채널 MTS에서는 간단한 기준선 방법이 충분히 성능을 내어 COSCI-GAN이 열등한 성능을 보였다.
• 프레임워크는 오픈소스이며 모듈러하므로, 다양한 GAN 아키텍처와 향후 이질적 시계열 유형으로의 확장이 가능하다.