[논문 리뷰] Sequential Models in the Synthetic Data Vault

Kevin Zhang, Neha Patki외 1명|arXiv (Cornell University)|2022. 07. 28.

Time Series Analysis and Forecasting인용 수 12

한 줄 요약

이 논문은 다중 시퀀스 간의 행 간 종속성을 모델링하는 조건부 확률적 순차적 자동회귀 신경망을 활용하여 고해상도의 합성 순차 데이터를 생성하는 순차적 SDV 프레임워크와 CPAR 모델을 소개한다. CPAR 모델은 비순차적 모델인 CTGAN보다 더 높은 수준의 패턴을 학습함으로써 원본 데이터 범위를 초월한 시퀀스 생성, 새로운 시퀀스 생성, 데이터 품질을 희생시키지 않은 채 개인정보 보호 기능을 제공한다.

ABSTRACT

The goal of this paper is to describe a system for generating synthetic sequential data within the Synthetic data vault. To achieve this, we present the Sequential model currently in SDV, an end-to-end framework that builds a generative model for multi-sequence, real-world data. This includes a novel neural network-based machine learning model, conditional probabilistic auto-regressive (CPAR) model. The overall system and the model is available in the open source Synthetic Data Vault (SDV) library {https://github.com/sdv-dev/SDV}, along with a variety of other models for different synthetic data needs. After building the Sequential SDV, we used it to generate synthetic data and compared its quality against an existing, non-sequential generative adversarial network based model called CTGAN. To compare the sequential synthetic data against its real counterpart, we invented a new metric called Multi-Sequence Aggregate Similarity (MSAS). We used it to conclude that our Sequential SDV model learns higher level patterns than non-sequential models without any trade-offs in synthetic data quality.

연구 동기 및 목표

• 혼합 데이터 유형, 비정규 간격, 다수의 독립적 시퀀스를 포함한 복잡한 구조를 가진 실세계 순차 데이터셋에서 증가하는 합성 데이터 생성 수요를 해결한다.
• 비순차적 생성 모델(예: CTGAN)의 한계를 극복한다. 이러한 모델은 행 간 종속성, 관측 범위를 초월한 외삽, 새로운 시퀀스 생성을 지원하지 못한다.
• 최소한의 전처리로도 실세계 데이터를 처리할 수 있는 유연하고 종단 간 프레임워크를 개발한다. 이는 변화하지 않는 컨텍스트 컬럼과 결측치 처리를 포함한다.
• 합성 순차 데이터의 품질을 정량적으로 평가하기 위해 새로운 평가 지표인 다중 시퀀스 집합 유사도(MSAS)를 도입한다.
• CPAR 모델이 CTGAN과 유사한 합성 데이터 품질을 달성하면서도, 시퀀스 익명화, 데이터 증강, 장기 예측 등 고급 기능을 제공함을 입증한다.

제안 방법

• 다중 시퀀스, 혼합 유형, 실세계 데이터의 행 간 종속성을 모델링하기 위한 종단 간 시스템으로서 순차적 SDV 프레임워크를 설계한다.
• 조건부 확률적 순차 자동회귀(CPAR) 모델을 제안한다. 이는 시퀀스 컨텍스트와 이력에 조건을 두어 다음 행의 분포 매개변수를 예측하는 신경망이다.
• 모델이 전체 시퀀스 이력을 통해 학습하고, 다수 타임스텝 간격을 둔 행 간 장거리 종속성을 포착할 수 있도록 고유한 손실 함수를 사용한다.
• 시퀀스를 배치, 시간, 특성의 3차원 데이터 구조로 모델링함으로써, 다수의 독립적 시퀀스에 걸쳐 광범위한 추세를 학습할 수 있도록 한다.
• 예측된 분포에서 샘플링하여 합성 데이터를 생성함으로써, 동일한 컨텍스트에서도 다양한 시퀀스를 확률적으로 생성할 수 있다.
• 실세계 데이터셋에서 다수의 시퀀스를 대상으로 통계적 성질을 비교함으로써, 실세계와 합성 시퀀스 간의 유사도를 집계하는 MSAS를 구현한다.

실험 결과

연구 질문

• RQ1 비순차적 모델이 혼합 데이터 유형과 비정규 간격을 가진 실세계 순차 데이터에서 복잡한 행 간 종속성을 효과적으로 학습하고 재현할 수 있는가?
• RQ2 합성 데이터 품질과 유용성 측면에서 비순차적 모델(예: CTGAN)에 비해 순차적 생성 모델의 성능은 어떻게 비교되는가?
• RQ3 순차적 모델이 실세계 시퀀스에 직접 매핑되지 않는 새로운, 익명화된 시퀀스를 얼마나 잘 생성할 수 있는가?
• RQ4 모델은 원본 데이터의 관측 시간 범위를 초월해 외삽하여 미래 예측 기능을 제공할 수 있는가?
• RQ5 공유된 컨텍스트를 가진 3차원 데이터 구조로 시퀀스를 모델링할 경우, 일반화 능력과 데이터 유용성은 향상되며, 합성 데이터 품질은 악화되지 않는가?

주요 결과

• CPAR 모델은 비순차적 GAN 기반 모델인 CTGAN과 유사한 합성 데이터 품질을 달성하면서도, 훨씬 더 복잡한 종속성을 모델링함으로써 뛰어난 성능을 보였다.
• CPAR 모델은 실세계 시퀀스에 직접 연결되지 않은 완전히 새로운 시퀀스를 생성할 수 있어, 시퀀스 식별자를 익명화함으로써 강력한 프라이버시 보호 기능을 제공한다.
• 비순차적 모델의 핵심 한계를 극복하기 위해, 원본 데이터셋보다 더 많은 합성 시퀀스를 생성함으로써 데이터 증강을 지원한다.
• CPAR 모델은 관측된 시간 범위를 초월해 시퀀스를 외삽할 수 있어, 비순차적 모델에 없던 미래 예측 기능을 제공한다.
• 혼합 데이터 유형, 결측치, 비정규 간격을 포함한 다양한 실세계 데이터셋에서 높은 품질의 합성 데이터 생성을 유지한다.
• MSAS 지표는 다수의 시퀀스를 대상으로 실세계 시퀀스와 합성 시퀀스 간의 유사도를 척도적으로 측정하여, 모델이 고차원적 순차 패턴을 효과적으로 유지함을 검증했다.