[논문 리뷰] DATGAN: Integrating expert knowledge into deep learning for synthetic tabular data

Gael Lederrey, Tim Hillel외 1명|arXiv (Cornell University)|2022. 03. 07.

Generative Adversarial Networks and Image Synthesis인용 수 15

한 줄 요약

DATGAN은 방향성 비순환 그래프(DAG)를 통해 전문가가 정의한 인과 관계를 통합함으로써 합성 표본 데이터 생성을 제어하는 새로운 GAN 아키텍처를 제안한다. DAG로 변환된 LSTM 셀을 사용한 생성기 구조와 통계적 및 머신러닝 기반 평가를 통해 검증한 결과, DATGAN은 대표성과 상관관계 유지 능력에서 기존 최고 수준의 모델들을 능가한다. 특히 최적의 손실 함수(WGAN은 이산형 우세 데이터에, WGGP는 연속형 우세 데이터에 적합)와 레이블 스무딩을 통해 뛰어난 성능을 발휘한다.

ABSTRACT

Synthetic data can be used in various applications, such as correcting bias datasets or replacing scarce original data for simulation purposes. Generative Adversarial Networks (GANs) are considered state-of-the-art for developing generative models. However, these deep learning models are data-driven, and it is, thus, difficult to control the generation process. It can, therefore, lead to the following issues: lack of representativity in the generated data, the introduction of bias, and the possibility of overfitting the sample's noise. This article presents the Directed Acyclic Tabular GAN (DATGAN) to address these limitations by integrating expert knowledge in deep learning models for synthetic tabular data generation. This approach allows the interactions between variables to be specified explicitly using a Directed Acyclic Graph (DAG). The DAG is then converted to a network of modified Long Short-Term Memory (LSTM) cells to accept multiple inputs. Multiple DATGAN versions are systematically tested on multiple assessment metrics. We show that the best versions of the DATGAN outperform state-of-the-art generative models on multiple case studies. Finally, we show how the DAG can create hypothetical synthetic datasets.

연구 동기 및 목표

• 합성 표본 데이터 생성 시 데이터 기반 GAN의 제어 부족 문제를 해결하기 위해.
• 모델 아키텍처에 전문 지식을 통합함으로써 대표성 향상과 오차 전파 감소를 위해.
• 합성 데이터 품질 평가를 위한 통계적 및 머신러닝 기반 메트릭을 통합한 체계적 평가 프레임워크를 개발하기 위해.
• 통제 가능한 인과 구조를 통해 가상의 합성 데이터셋 생성을 가능하게 하기 위해.
• 다양한 사례 연구에서 통계적 및 머신러닝 기반 평가 메트릭을 사용해 기존 최고 수준의 생성 모델들을 능가하기 위해.

제안 방법

• 생성기는 변수 간 전문가가 정의한 인과 관계를 코딩한 방향성 비순환 그래프(DAG)를 사용하여 구조화된다.
• DAG는 각 변수가 자신의 부모 변수에 기반해 생성되는 수정된 장기 단기 기억(LSTM) 셀의 네트워크로 변환된다.
• 이산형 및 연속형 변수는 분포 및 구조적 특성을 유지하는 하이브리드 방법으로 인코딩된다.
• 다양한 손실 함수(WGAN, WGGP)와 학습 전략(예: 양방향 레이블 스무딩, 시뮬레이션 기반 샘플링)이 체계적으로 평가된다.
• 이중 평가 프레임워크가 사용되며, 통계적 테스트(예: 콜모고로프-스미르노프, 카이제곱 검정)와 하류 머신러닝 모델 기반 검증이 병행된다.
• 모델은 적대적 학습을 통해 엔드 투 엔드로 훈련되며, 판별기는 구조화된 생성기 출력 기반으로 실제 데이터와 합성 데이터를 구분한다.

실험 결과

연구 질문

• RQ1 DAG를 통해 전문가가 정의한 인과 관계를 통합함으로써 합성 표본 데이터의 대표성과 상관관계 유지 능력이 향상되는가?
• RQ2 다양한 손실 함수(WGAN 대비 WGGP)와 학습 기법(레이블 스무딩, 샘플링 방법)은 DATGAN 모델의 성능에 어떤 영향을 미치는가?
• RQ3 DAG의 구조(완전한 구조 대비 간소화된 구조)는 생성된 합성 데이터셋의 품질에 어느 정도의 영향을 미치는가?
• RQ4 통계적 및 머신러닝 기반 평가 메트릭을 모두 사용할 때 DATGAN은 다양한 사례 연구에서 기존 최고 수준의 생성 모델들을 능가하는가?
• RQ5 DAG의 구조를 수정함으로써 DATGAN은 어떻게 가상의 합성 데이터셋을 생성할 수 있는가?

주요 결과

• 최고 성능을 보인 DATGAN 버전은 통계적 및 머신러닝 기반 평가 메트릭을 모두 사용해 모든 사례 연구에서 기존 최고 수준의 모델들을 능가한다.
• 양방향 레이블 스무딩과 최종 합성 변수의 시뮬레이션 기반 샘플링이 모든 데이터셋에서 가장 높은 성능을 낳는다.
• 이산형 변수가 다수를 차지하는 데이터셋의 경우 WGAN 손실 함수가 뛰어난 결과를 내며, 연속형 변수가 우세한 데이터셋의 경우 WGGP 손실 함수가 최적이다.
• 완전한 DAG 구조는 간소화된 버전보다 합성 데이터에서 상관관계 유지 능력이 뚜렷이 뛰어나다.
• DAG를 수정해 다른 인과적 가정을 반영함으로써 DATGAN은 성능 분석을 위한 가상의 합성 데이터셋을 성공적으로 생성한다.
• 생성기가 원본 훈련 데이터에 직접 접근하지 않기 때문에, 모델는 내재된 차별적 프라이버시를 보여준다.