[논문 리뷰] Transformer-based conditional generative adversarial network for multivariate time series generation

Abdellah Madane, Mohamed-djallel Dilmi외 4명|arXiv (Cornell University)|2022. 10. 05.

Time Series Analysis and Forecasting인용 수 7

한 줄 요약

이 논문은 다변량 시계열 생성을 위한 트랜스포머 기반 조건부 생성 적대 신경망(CGAN)을 제안한다. 이 모델은 범주형 레이블이나 시계열과 같은 맥락 변수에 조건을 두어 복잡한 다모드 데이터 분포를 모델링한다. TTS-GAN 프레임워크를 조건부 감독으로 확장함으로써, 고차원이고 긴 길이의 시퀀스를 생성하여 실제 데이터 분포와 유사하게 만들며, 수정된 FID 및 PCA 지표를 사용하여 UniMiB 인간 활동 데이터셋에서 뛰어난 성능을 달성한다.

ABSTRACT

Conditional generation of time-dependent data is a task that has much interest, whether for data augmentation, scenario simulation, completing missing data, or other purposes. Recent works proposed a Transformer-based Time series generative adversarial network (TTS-GAN) to address the limitations of recurrent neural networks. However, this model assumes a unimodal distribution and tries to generate samples around the expectation of the real data distribution. One of its limitations is that it may generate a random multivariate time series; it may fail to generate samples in the presence of multiple sub-components within an overall distribution. One could train models to fit each sub-component separately to overcome this limitation. Our work extends the TTS-GAN by conditioning its generated output on a particular encoded context allowing the use of one model to fit a mixture distribution with multiple sub-components. Technically, it is a conditional generative adversarial network that models realistic multivariate time series under different types of conditions, such as categorical variables or multivariate time series. We evaluate our model on UniMiB Dataset, which contains acceleration data following the XYZ axes of human activities collected using Smartphones. We use qualitative evaluations and quantitative metrics such as Principal Component Analysis (PCA), and we introduce a modified version of the Frechet inception distance (FID) to measure the performance of our model and the statistical similarities between the generated and the real data distributions. We show that this transformer-based CGAN can generate realistic high-dimensional and long data sequences under different kinds of conditions.

연구 동기 및 목표

• 기존의 TTS-GAN 모델에서의 단모드 생성 한계를 해결하여, 복잡한 다모드 시계열 분포를 포착하지 못하는 문제를 해결한다.
• 외부 맥락(예: 범주형 변수 또는 다른 시계열)에 조건을 두어 다변량 시계열의 조건부 생성을 가능하게 한다.
• 각 하위 성분에 대해 별도의 훈련 없이도 다중 구성 요소를 가진 혼합 분포를 적합시킬 수 있는 통합 모델을 개발한다.
• 실제 시계열 응용 분야(예: 인간 활동 인식)의 데이터 증강 및 시뮬레이션 능력을 향상시킨다.
• 수정된 프리셰트 인ception 거리(Frechet Inception Distance, FID) 및 주성분 분석(PCA)과 같은 정량적·정성적 지표를 사용하여 모델 성능을 평가한다.

제안 방법

• 모델은 다변량 시퀀스의 장거리 시간 의존성을 포착하기 위해 트랜스포머 기반의 생성기 및 판별기 아키텍처를 사용한다.
• 생성기의 조건부 입력은 위치 인코딩과 크로스 어텐션 메커니즘을 통해 맥락 벡터에 기반한 생성을 이끌도록 삽입된다.
• 판별기는 실제 시퀀스와 생성된 시퀀스를 구분하도록 훈련되며, 생성기는 주어진 조건 하에서 판별기를 속이도록 학습된다.
• 특히 고차원 설정에서의 통계적 유사성 평가를 위해 수정된 FID 지표를 도입한다.
• 모델은 적대적 손실, 재구성 손실 및 기울기 페널티를 사용하여 엔드 투 엔드로 훈련되며, 이는 훈련 안정성과 정밀도 향상에 기여한다.
• 범주형 변수의 경우 임bedding 레이어를, 다변량 시계열 입력의 경우 특성 기반 조건부 처리를 통해 맥락 조건을 적용한다.

실험 결과

연구 질문

• RQ1 단모드 모델이 포착하지 못하는 다모드 다변량 시계열 분포를 조건부 트랜스포머 기반 GAN이 효과적으로 모델링할 수 있는가?
• RQ2 외부 맥락에 조건을 두는 것이 생성된 시계열 시퀀스의 다양성과 현실성에 어떤 영향을 미치는가?
• RQ3 제안된 모델이 고차원이고 긴 길이의 시계열을 생성하는 데 있어 기존의 TTS-GAN 및 베이스라인 GAN보다 얼마나 뛰어나게 성능을 발휘하는가?
• RQ4 수정된 FID 지표는 실제 데이터와 생성된 데이터 분포 간의 통계적 유사성을 얼마나 잘 반영하는가?
• RQ5 다양한 조건 유형(예: 범주형 레이블, 다변량 시리즈)이 생성 품질에 어떤 영향을 미치는가?

주요 결과

• 제안된 조건부 트랜스포머-GAN은 다양한 조건 맥락 하에서 현실적이고 고차원적인 다변량 시계열 시퀀스를 성공적으로 생성한다.
• 특히 데이터에 여러 하위 성분이 존재할 경우, 기존의 베이스라인 TTS-GAN에 비해 복잡한 다모드 데이터 분포를 훨씬 더 잘 포착한다.
• 수정된 FID 지표는 정성적 평가와 강한 상관관계를 보이며, 분포 유사성 평가에 효과적임을 확인한다.
• PCA 분석 결과, 생성된 시퀀스가 실제 데이터의 주성분을 충실하게 유지함을 확인하여, 신뢰할 수 있는 구조적 표현이 이루어졌음을 시사한다.
• 기존의 베이스라인 모델보다 더 낮은 FID 스코어를 기록하여, 실제 데이터와 생성된 데이터 분포 간의 통계적 유사성이 향상되었음을 나타낸다.
• 조건부 생성은 활동에 특화된 운동 패턴(예: UniMiB 데이터셋의 특정 활동)을 포함한 다양한 맥락 기반의 시퀀스 생성을 가능하게 한다.