[論文レビュー] Leveraging GPT-2 for Classifying Spam Reviews with Limited Labeled Data via Adversarial Training

Athirai A. Irissappane, Hanfei Yu+3 more|arXiv (Cornell University)|Dec 24, 2020

Spam and Phishing Detection被引用数 7

ひとこと要約

本稿では、限定的なラベル付きデータを前提に、GPT-2の事前学習済み言語表現を生成対抗ネットワーク（GAN）フレームワーク内で活用する半教師ありテキスト分類フレームワーク、spamGAN-GPT2を提案する。敵対的学習と強化学習による系列生成、および教師強制とtop-pサンプリングを用いたファインチューニングを組み合わせることで、TripAdvisorおよびYelpZipデータセットにおいて最先端手法を7%以上上回る精度を達成し、同時に低パープレキシティで高品質な合成レビューを生成する。

ABSTRACT

Online reviews are a vital source of information when purchasing a service or a product. Opinion spammers manipulate these reviews, deliberately altering the overall perception of the service. Though there exists a corpus of online reviews, only a few have been labeled as spam or non-spam, making it difficult to train spam detection models. We propose an adversarial training mechanism leveraging the capabilities of Generative Pre-Training 2 (GPT-2) for classifying opinion spam with limited labeled data and a large set of unlabeled data. Experiments on TripAdvisor and YelpZip datasets show that the proposed model outperforms state-of-the-art techniques by at least 7% in terms of accuracy when labeled data is limited. The proposed model can also generate synthetic spam/non-spam reviews with reasonable perplexity, thereby, providing additional labeled data during training.

研究の動機と目的

• 手動でのラベル付けが高コストかつ時間のかかるため、ラベル付きデータが限られる意見スパム検出の課題に対処すること。
• 大規模なラベルなしオンラインレビューを活用することで、テキストベースのスパム検出における分類精度を向上させること。
• GANベースのフレームワークを用いて、高品質な合成スパムおよび非スパムレビューを生成し、トレーニングデータを拡張すること。
• 標準的なGANのテキスト生成における限界——例えば報酬の疎らさや離散的トークン生成——を、強化学習の手法によって克服すること。
• より良い意味的理解とより長く一貫性のあるレビューの生成を実現するため、事前学習済みGPT-2モデルを複数コンponentで構成された敵対的アーキテクチャに統合すること。

提案手法

• モデルは、生成器、識別器、分類器という3つのコンponentからなる敵対的フレームワークを採用しており、すべてがトランスフォーマー構造に基づき、事前学習済みGPT-2から微調整されている。
• 生成器は、識別器と分類器が提供する報酬信号を用いて、クラス条件付きで現実的であるようなレビューの生成をガイドするアクターキューブ法を用いた強化学習で訓練される。
• テキスト生成における報酬の疎らさの問題を軽減するため、生成器は長期報酬を考慮した逐次的意思決定プロセスを採用し、文の生成をポリシー最適化タスクとしてモデル化する。
• 推論時には、露出バイアスを低減し、自己回帰的テキスト生成の品質を向上させるために、top-pサンプリングと教師強制を適用する。
• モデルは、少量のラベル付きレビューと大規模なラベルなしレビューの両方を同時に学習することで、一般化性能を向上させる半教師あり学習を実現する。
• 分類器コンponentは生成器および識別器と同時に最適化され、スパム検出性能の向上が図られ、生成器は識別しやすいスパム風のサンプルを生成するよう学習される。

実験結果

リサーチクエスチョン

• RQ1 限定的なラベル付きデータしかない状況で、事前学習済みGPT-2を活用するGANベースのフレームワークは、スパムレビュー分類の精度を向上させることができるか？
• RQ2 強化学習と敵対的学習を統合することで、データ拡張に適した高品質でクラス条件付きの合成レビューを効果的に生成できるか？
• RQ3 ラベルなしデータの使用は、特にラベル付きデータが限られる状況下で、半教師あり意見スパム検出におけるモデル性能を顕著に向上させるか？
• RQ4 提案手法spamGAN-GPT2とベースラインGANモデルとの間で、生成レビューのパープレキシティにどのような差が生じるか？これは生成品質に何を示唆するか？
• RQ5 本手法は、意見スパム検出を越えて、他のテキスト分類タスクにも一般化可能か？

主な発見

• TripAdvisorデータセットでは、ラベル付きデータが限られる状況下で、spamGAN-GPT2は最先端手法を7%以上の精度で上回り、10%のラベル付きデータを使用した際のマクロF1スコアは0.654 ± 0.013を達成した。
• より大きなYelpZipデータセットでは、spamGAN-GPT2-100が最高の精度とF1スコアを記録し、100%のラベル付きデータを使用した際のマクロF1は0.652 ± 0.001を示し、DRI-RCNNおよびRCNNベースラインを顕著に上回った。
• YelpZipで全データがラベル付きの場合、モデルは合成レビューのパープレキシティを4.506にまで低下させ、ベースラインspamGAN-100（パープレキシティ21.89）と比較して82.46%の改善を達成した。
• YelpZipにおけるラベルなしデータ量の増加に伴い、spamGAN-GPT2の性能が向上し、ラベルなしデータの有効な活用が分類の区別能力向上に寄与していることが示された。
• 既存の半教師ありおよび教師ありベースラインを7%以上の精度向上で上回ったことから、低データ環境下でも優れた一般化性能を示した。
• AWS g4dn.2xlargeインスタンスを用いたYelpZipにおけるspamGAN-GPT2のトレーニング時間は、1モデルあたり200時間であった。これは高い計算コストを伴うが、優れた性能と生成品質から妥当であるとされた。