[논문 리뷰] TTS-CGAN: A Transformer Time-Series Conditional GAN for Biosignal Data Augmentation

Xiaomin Li, Anne H. H. Ngu외 1명|arXiv (Cornell University)|2022. 06. 28.

Time Series Analysis and Forecasting인용 수 27

한 줄 요약

TTS-CGAN은 임의 길이의 다중 클래스 시계열 생체 신호 데이터를 생성할 수 있는 변환기 기반 조건 GAN으로, 클래스 간 데이터 보강 및 전이 학습을 가능하게 한다.

ABSTRACT

Signal measurement appearing in the form of time series is one of the most common types of data used in medical machine learning applications. Such datasets are often small in size, expensive to collect and annotate, and might involve privacy issues, which hinders our ability to train large, state-of-the-art deep learning models for biomedical applications. For time-series data, the suite of data augmentation strategies we can use to expand the size of the dataset is limited by the need to maintain the basic properties of the signal. Generative Adversarial Networks (GANs) can be utilized as another data augmentation tool. In this paper, we present TTS-CGAN, a transformer-based conditional GAN model that can be trained on existing multi-class datasets and generate class-specific synthetic time-series sequences of arbitrary length. We elaborate on the model architecture and design strategies. Synthetic sequences generated by our model are indistinguishable from real ones, and can be used to complement or replace real signals of the same type, thus achieving the goal of data augmentation. To evaluate the quality of the generated data, we modify the wavelet coherence metric to be able to compare the similarity between two sets of signals, and also conduct a case study where a mix of synthetic and real data are used to train a deep learning model for sequence classification. Together with other visualization techniques and qualitative evaluation approaches, we demonstrate that TTS-CGAN generated synthetic data are similar to real data, and that our model performs better than the other state-of-the-art GAN models built for time-series data generation.

연구 동기 및 목표

• 생체 신호 분석에서 데이터 부족 및 프라이버시 문제를 해결하기 위해 조건 GAN으로 시계열 데이터를 보강한다.
• 하나의 모델에서 클래스 간 전이 학습으로 다중 클래스 시계열 생성을 가능하게 한다.
• 생성된 시계열 데이터 품질을 평가하기 위한 강력한 유사도 메트릭을 제안한다.
• 분류 작업에 대한 보강 이점을 보여주는 사례 연구를 통해 유용성을 입증한다.

제안 방법

• 가 생성기, 임의 노이즈와 대상 클래스를 매핑하여 합성 시계열 시퀀스를 생성하는 transformer 기반 조건 GAN인 TTS-CGAN을 제시한다.
• 시계열을 이미지의 1 x 1 x W로 취급하고 시간 축을 따라 패치를 사용하며 학습된 위치 인코딩을 활용한다.
• 두 개의 헤드를 갖는 판별기를 학습한다: 적대적 출력과 신호 카테고리에 대한 분류 출력, 그라디언트 페널티가 있는 Wasserstein 손실을 사용한다.
• 생성기 입력에 클래스 라벨을 삽입하고 판별기의 조건 설정용 분류 헤드를 추가한다.
• 적대적 손실과 범주 손실이 포함된 조건 GAN 목표를 채택하고 필요할 때 학습 안정화를 위한 소프트 라벨 전략을 사용한다.
• 라벨 임베딩 전략에 대한 연구를 제공하고 라벨 임베딩을 생성기 입력에 연결하고 판별기 분류 헤드를 포함하는 것이 다양한 아키텍처에서 최상의 성능을 보임을 결론한다.

실험 결과

연구 질문

• RQ1 단일 transformer 기반 조건 GAN이 임의 길이의 다중 클래스 생체 신호 시계열 데이터를 생성할 수 있는가?
• RQ2 생성기에만 클래스 라벨을 임베딩하고 판별기의 분류 헤드를 사용하는 것이 트랜스포머 기반 GAN의 합성 데이터 품질을 향상시키는가?
• RQ3 실제 데이터와 합성 데이터의 유사성을 다중 클래스 평가를 지원하는 방식으로 정량적으로 평가할 수 있는가?
• RQ4 합성 데이터 보강이 생체신호 데이터 세트의 후속 시퀀스 분류 성능을 향상시키는가?

주요 결과

• TTS-CGAN은 임의 길이의 클래스별 합성 시계열 시퀀스를 생성할 수 있다.
• 생성기 입력에 라벨을 연결하고 판별기 분류 헤드를 사용하는 라벨 임베딩 전략이 테스트된 아키텍처에서 최상을 수행한다.
• 그라디언트 페널티가 있는 Wasserstein 손실은 학습을 안정화하고 합성 데이터 품질을 향상시킨다.
• 두 시계열 신호 세트 간의 유사성을 정량화하기 위해 수정된 웨이블릿 응집도 메트릭이 제안된다.
• 여러 데이터 세트에 대한 실험에서 합성 데이터가 실제 데이터와 유사하고 TTS-CGAN이 품질 지표에서 최첨단 시간 시계열 GAN보다 우수함을 보여준다.