[论文解读] Airline Passenger Name Record Generation using Generative Adversarial Networks

Alejandro Mottini, Alix Lhéritier+1 more|arXiv (Cornell University)|Jul 17, 2018

Topic Modeling参考文献 22被引用 32

一句话总结

本文提出一种基于Cramér GAN的框架，结合类别特征嵌入与Cross-Net架构，用于生成包含混合数值型、类别型及缺失数据的逼真合成乘客姓名记录（PNRs）。该方法生成的合成PNR具备高保真度，能准确匹配真实数据的分布，避免记忆训练样本，并可有效用于客户细分与国籍预测等下游分类模型的训练。

ABSTRACT

Passenger Name Records (PNRs) are at the heart of the travel industry. Created when an itinerary is booked, they contain travel and passenger information. It is usual for airlines and other actors in the industry to inter-exchange and access each other's PNR, creating the challenge of using them without infringing data ownership laws. To address this difficulty, we propose a method to generate realistic synthetic PNRs using Generative Adversarial Networks (GANs). Unlike other GAN applications, PNRs consist of categorical and numerical features with missing/NaN values, which makes the use of GANs challenging. We propose a solution based on Cramér GANs, categorical feature embedding and a Cross-Net architecture. The method was tested on a real PNR dataset, and evaluated in terms of distribution matching, memorization, and performance of predictive models for two real business problems: client segmentation and passenger nationality prediction. Results show that the generated data matches well with the real PNRs without memorizing them, and that it can be used to train models for real business applications.

研究动机与目标

• 解决由于GDPR等隐私法规导致的敏感航空PNR数据共享难题。
• 开发一种生成模型，能够生成保留真实数据统计与结构特性的逼真合成PNR。
• 实现合成数据在旅行行业中用于训练商业智能模型的合法且合乎伦理的使用。
• 不仅通过分布度量评估合成数据质量，还通过下游应用性能进行评估。
• 证明合成PNR可有效替代真实数据，用于客户细分与国籍预测任务的模型训练。

提出的方法

• 采用Cramér GAN处理PNR中非高斯分布且类型混合的特征，相比标准GAN，提升了训练稳定性。
• 使用嵌入层将类别特征（如航空公司、国家、舱位等级）编码为密集向量表示。
• 在生成器与判别器中集成Cross-Net架构，以比全连接层更有效地建模特征交互。
• 采用前馈网络与Cross-Nets相结合的混合架构，提升表格型PNR数据的表征学习能力。
• 使用点对点的Jensen-Shannon散度分解方法，评估生成样本相对于真实数据的保真度。
• 通过下游分类任务验证模型性能：在合成数据上训练的随机森林模型在真实测试集上进行测试。

实验结果

研究问题

• RQ1 基于GAN的模型能否生成保留真实PNR统计分布且避免记忆训练样本的合成PNR？
• RQ2 合成PNR在客户细分与国籍预测等真实业务应用的下游分类模型训练中表现如何？
• RQ3 架构选择（如使用嵌入而非数值编码、使用Cross-Net而非全连接层、使用Cramér GAN而非WGAN）对生成PNR质量有何影响？
• RQ4 合成数据在特征分布与特征间依赖关系方面，与真实数据的相似程度如何？
• RQ5 合成数据能否作为真实PNR数据在训练与测试生产流水线中的合法且合乎伦理的替代方案？

主要发现

• 在真实数据上测试时，CrGAN-Cnet模型生成的合成PNR在客户细分任务中达到0.92的分类准确率，在国籍预测任务中达到0.71，表明其具备强大的泛化能力。
• KS检验p值为0.96，贝叶斯Wilcoxon检验后验概率区间为[0.235, 0.245]，证实模型未记忆训练数据。
• CrGAN-Cnet模型优于其他基线模型，其真实与生成样本分类器准确率为0.69，显著优于WGAN-FC（0.75）与WGAN-Num（0.93）。
• 使用数值编码处理类别特征（CrGAN-Num）导致性能最差（0.89），凸显类别特征正确嵌入的重要性。
• Cross-Net架构相比全连接网络提升了性能，表现为真实与生成样本分类器准确率更低（0.69 vs. 0.73，后者为CrGAN-FC）。
• 在本设置中，Cramér GAN优于WGAN，表明Cramér距离更适用于具有混合特征类型与缺失值的表格型PNR数据。