[论文解读] Leveraging GPT-2 for Classifying Spam Reviews with Limited Labeled Data via Adversarial Training

Athirai A. Irissappane, Hanfei Yu+3 more|arXiv (Cornell University)|Dec 24, 2020

Spam and Phishing Detection被引用 7

一句话总结

本文提出 spamGAN-GPT2，一种半监督文本分类框架，通过在生成对抗网络（GAN）框架中利用 GPT-2 的预训练语言表示，实现仅用少量标注数据检测意见垃圾信息。通过结合对抗训练与强化学习进行序列生成，并采用教师强制和 top-p 采样进行微调，该模型在 TripAdvisor 和 YelpZip 数据集上的准确率较最先进方法提升 7% 以上，同时生成低困惑度的高质量合成评论。

ABSTRACT

Online reviews are a vital source of information when purchasing a service or a product. Opinion spammers manipulate these reviews, deliberately altering the overall perception of the service. Though there exists a corpus of online reviews, only a few have been labeled as spam or non-spam, making it difficult to train spam detection models. We propose an adversarial training mechanism leveraging the capabilities of Generative Pre-Training 2 (GPT-2) for classifying opinion spam with limited labeled data and a large set of unlabeled data. Experiments on TripAdvisor and YelpZip datasets show that the proposed model outperforms state-of-the-art techniques by at least 7% in terms of accuracy when labeled data is limited. The proposed model can also generate synthetic spam/non-spam reviews with reasonable perplexity, thereby, providing additional labeled data during training.

研究动机与目标

• 为解决意见垃圾信息检测中因人工标注成本高、耗时长而导致的标注数据有限问题。
• 通过利用大规模未标注在线评论，提升基于文本的垃圾信息检测分类准确率。
• 利用基于 GAN 的框架生成高质量的合成垃圾与非垃圾评论，以扩充训练数据。
• 通过强化学习方法克服标准 GAN 在文本生成中的局限性，如稀疏奖励与离散标记生成问题。
• 将预训练的 GPT-2 模型整合到多组件对抗架构中，以提升语义理解能力，并生成更长、更连贯的文本。

提出的方法

• 该模型采用三组件对抗框架：生成器、判别器和分类器，均基于 Transformer 架构，并从预训练的 GPT-2 微调而来。
• 生成器通过强化学习进行训练，采用演员-评论家方法，其中判别器和分类器提供奖励信号，以引导生成具有类别条件的、逼真的评论。
• 为缓解文本生成中的稀疏奖励问题，生成器采用序列决策过程与长期奖励，将句子生成建模为策略优化任务。
• 在推理过程中，生成器应用 top-p 采样与教师强制策略，以减少暴露偏差并提升自回归文本生成的质量。
• 模型在少量标注评论与大量未标注评论上联合训练，实现半监督学习，从而提升泛化能力。
• 分类器组件与生成器、判别器联合优化，以增强垃圾信息检测性能，同时使生成器学习生成可区分的垃圾信息风格样本。

实验结果

研究问题

• RQ1 在仅有限标注数据可用的情况下，基于 GPT-2 的 GAN 框架是否能提升垃圾评论分类的准确率？
• RQ2 将强化学习与对抗训练结合，在生成高质量、类别条件的合成评论以用于数据增强方面是否有效？
• RQ3 在标注数据稀缺的情况下，使用未标注数据是否能显著提升半监督意见垃圾信息检测的模型性能？
• RQ4 与基线 GAN 模型相比，spammerGAN-GPT2 生成评论的困惑度如何？这反映了生成质量的哪些方面？
• RQ5 该框架是否可泛化至意见垃圾信息检测以外的其他文本分类任务？

主要发现

• 在 TripAdvisor 数据集上，当标注数据有限时，spammerGAN-GPT2 的准确率较最先进方法至少高出 7%，在 10% 标注数据下达到 0.654 ± 0.013 的宏 F1 分数。
• 在更大的 YelpZip 数据集上，spammerGAN-GPT2-100 在使用 100% 标注数据时达到最高准确率与 F1 分数，宏 F1 为 0.652 ± 0.001，显著优于 DRI-RCNN 与 RCNN 基线模型。
• 当所有数据均被标注时，模型在 YelpZip 上生成的合成评论困惑度为 4.506，较基线 spamGAN-100（困惑度 21.89）提升 82.46%。
• 在 YelpZip 上，随着未标注数据量的增加，spammerGAN-GPT2 的性能持续提升，表明其能有效利用未标注数据以增强类别判别能力。
• 与现有半监督及监督基线相比，该模型在低数据环境下实现 7% 以上的准确率增益，展现出强大的泛化能力。
• 在 AWS g4dn.2xlarge 实例上，spammerGAN-GPT2 在 YelpZip 上的训练时间为每模型 200 小时，反映出较高的计算成本，但其卓越的性能与生成质量使其合理。