[논문 리뷰] Airline Passenger Name Record Generation using Generative Adversarial Networks

Alejandro Mottini, Alix Lhéritier외 1명|arXiv (Cornell University)|2018. 07. 17.

Topic Modeling참고 문헌 22인용 수 32

한 줄 요약

이 논문은 혼합형 수치형, 범주형 및 결측치를 포함한 실재적인 승객 이름 기록(PNR)을 생성하기 위해 범주형 특성 임베딩과 Cross-Net 아키텍처를 통합한 Cramér GAN 기반 프레임워크를 제안한다. 이 방법은 실제 데이터 분포를 잘 따르며 학습 샘플을 암기하지 않으며, 고객 세분화 및 국적 예측과 같은 후행 분류 모델의 효과적인 훈련을 가능하게 하는 고해상도 합성 PNR을 생성한다.

ABSTRACT

Passenger Name Records (PNRs) are at the heart of the travel industry. Created when an itinerary is booked, they contain travel and passenger information. It is usual for airlines and other actors in the industry to inter-exchange and access each other's PNR, creating the challenge of using them without infringing data ownership laws. To address this difficulty, we propose a method to generate realistic synthetic PNRs using Generative Adversarial Networks (GANs). Unlike other GAN applications, PNRs consist of categorical and numerical features with missing/NaN values, which makes the use of GANs challenging. We propose a solution based on Cramér GANs, categorical feature embedding and a Cross-Net architecture. The method was tested on a real PNR dataset, and evaluated in terms of distribution matching, memorization, and performance of predictive models for two real business problems: client segmentation and passenger nationality prediction. Results show that the generated data matches well with the real PNRs without memorizing them, and that it can be used to train models for real business applications.

연구 동기 및 목표

• GDPR와 같은 개인정보 보호 규정으로 인해 민감한 항공사 PNR 데이터 공유가 어려운 문제를 해결한다.
• 실제 데이터의 통계적 및 구조적 특성을 유지하면서 현실적인 합성 PNR을 생성할 수 있는 생성 모델을 개발한다.
• 여행 산업에서 비즈니스 인텔리전스 모델 훈련을 위한 합성 데이터의 법적·윤리적인 사용을 가능하게 한다.
• 분포 측정 지표 외에도 후행 응용 성능을 통해 합성 데이터 품질을 평가한다.
• 합성 PNR이 고객 세분화 및 국적 예측 작업에서 실제 데이터를 효과적으로 대체할 수 있음을 입증한다.

제안 방법

• PNR의 비정규분포이자 혼합형 특성 분포를 다루기 위해 표준 GAN보다 훈련 안정성이 높은 Cramér GAN을 사용한다.
• 항공사, 국적, 여행 등급 등의 범주형 특성을 밀도 벡터 표현으로 변환하기 위해 임베딩 레이어를 사용한다.
• 완전 연결층보다 특성 간 상호작용을 더 효과적으로 모델링하기 위해 생성기와 비평가에 Cross-Net 아키텍처를 통합한다.
• 전방향 신경망과 Cross-Nets를 융합한 하이브리드 아키텍처를 적용하여 테이블 형 PNR 데이터의 표현 학습을 향상시킨다.
• 실제 데이터와의 유사도 평가를 위해 점별 Jensen-Shannon 분할 기반의 분포 유사도 측정 기법을 사용한다.
• 하나의 분류 작업을 통해 모델 성능을 검증한다: 합성 데이터로 훈련된 랜덤 포레스트 모델을 실제 테스트 세트에 대해 평가한다.

실험 결과

연구 질문

• RQ1 GAN 기반 모델이 실제 PNR의 통계 분포를 유지하면서도 학습 샘플을 암기하지 않는 합성 PNR을 생성할 수 있는가?
• RQ2 합성 PNR이 고객 세분화 및 국적 예측과 같은 실제 비즈니스 응용 분야의 후행 분류 모델 훈련에 얼마나 효과적으로 기여하는가?
• RQ3 임베딩 vs 수치 인코딩, Cross-Net vs 완전 연결층, Cramér GAN vs WGAN 등의 아키텍처 선택이 합성 PNR 품질에 미치는 영향은 어떠한가?
• RQ4 합성 데이터가 특성 분포와 특성 간 상관관계 측면에서 실제 데이터를 어느 정도 모방하는가?
• RQ5 합성 데이터가 생산 파이프라인 훈련 및 테스트를 위한 실제 PNR 데이터의 법적·윤리적인 대체재로 사용될 수 있는가?

주요 결과

• CrGAN-Cnet 모델이 생성한 합성 PNR은 실제 데이터에 대해 고객 세분화 작업에서 0.92, 국적 예측 작업에서 0.71의 정확도를 기록하여 강력한 일반화 능력을 보였다.
• KS 검정 p-값 0.96과 베이지안 윌콕슨 검정의 사후 확률 구간 [0.235, 0.245]는 모델이 학습 데이터를 암기하지 않았음을 확인한다.
• CrGAN-Cnet 모델은 다른 베이스라인보다 우수한 성능을 보였으며, 실제 대 생성 분류기 정확도가 0.69로 WGAN-FC(0.75)와 WGAN-Num(0.93)보다 유의미하게 높았다.
• 범주형 특성에 수치 인코딩을 사용한 경우(CrGAN-Num) 성능이 가장 열 劣(0.89)였으며, 이는 범주형 특성에 적절한 임베딩의 중요성을 시사한다.
• Cross-Net 아키텍처는 완전 연결층보다 성능 향상을 이뤘으며, 실제 대 생성 분류기 정확도가 CrGAN-FC(0.73) 대비 0.69로 낮아져 성능 향상을 입증했다.
• 이 설정에서 Cramér GAN이 WGAN보다 우수한 성능을 보였으며, 이는 혼합형 특성과 결측치를 포함한 테이블 형 PNR 데이터에 Cramér 거리가 더 적합하다는 것을 시사한다.