[論文レビュー] Cyberbullying detection across social media platforms via platform-aware adversarial encoding

Peiling Yi, Arkaitz Zubiaga|arXiv (Cornell University)|Apr 1, 2022

Hate Speech and Cyberbullying Detection被引用数 5

ひとこと要約

本稿では、異なるSNSプラットフォーム間でのBERTとRoBERTaの埋め込みを敵対的訓練を用いて整合化することで、クロスプラットフォームにおけるいじめ検出の性能を向上させる、プラットフォームに配慮した敵対的フレームワークXP-CBを提案する。本手法は最先端の性能を達成し、6つのクロスプラットフォーム設定において、BERTを用いたゼロショット転送で9%、RoBERTaを用いた場合で7%の向上を達成した。

ABSTRACT

Despite the increasing interest in cyberbullying detection, existing efforts have largely been limited to experiments on a single platform and their generalisability across different social media platforms have received less attention. We propose XP-CB, a novel cross-platform framework based on Transformers and adversarial learning. XP-CB can enhance a Transformer leveraging unlabelled data from the source and target platforms to come up with a common representation while preventing platform-specific training. To validate our proposed framework, we experiment on cyberbullying datasets from three different platforms through six cross-platform configurations, showing its effectiveness with both BERT and RoBERTa as the underlying Transformer models.

研究の動機と目的

• 既存のいじめ検出モデルが異なるSNSプラットフォーム間で一般化しにくいため、その限界を解消すること。
• Twitter、Wikipedia、Formspringなどのプラットフォーム間で生じるデータ分布のズレによって引き起こされる性能低下を克服すること。
• ラベル付きのソースデータのみを用いて、ソースプラットフォームからターゲットプラットフォームへのゼロショット転送を可能にするフレームワークを開発すること。
• 敵対的訓練とマルチエンコーダー整合化を用いて、変換器ベースのモデルの代表的表現をプラットフォーム間で整合化すること。
• 投稿長や言語的スタイルが異なる多様なプラットフォーム設定において、一貫した性能向上を示すこと。

提案手法

• ソースおよびターゲットプラットフォームの入力を共通の潜在表現空間にマップするためのマルチ変換器エンコーダー整合戦略を統合する。
• ソースおよびターゲットプラットフォームの埋め込みを区別する敵対的ディスクラミネーターを採用し、ターゲットエンコーダーがドメイン不変の表現を生成するように強制する。
• 敵対的適応の基盤として、ADD（Adversarial Discriminant Domain Adaptation）フレームワークを採用する。
• 敵対的損失を用いてターゲットプラットフォームのエンコーダーを微調整し、ドメインシフトを最小限に抑えつつ、いじめ検出に適した意味的コンテンツを保持する。
• ラベル付きソースプラットフォームデータに基づいて共有分類器を学習し、整合化された表現を用いてターゲットプラットフォームに適用する。
• ベースエンコーダーとして事前学習済みのBERTとRoBERTaを採用し、推論時にドメイン適応を適用することで、ゼロショットデプロイメントを可能にする。

実験結果

リサーチクエスチョン

• RQ1 1つのSNSプラットフォームで訓練されたいじめ検出モデルが、ラベルなしの他のプラットフォームへも効果的に一般化できるか？
• RQ2 敵対的ドメイン適応は、プラットフォーム固有の言語的・構造的差異に起因する性能低下をどれほど軽減できるか？
• RQ3 XP-CBフレームワークは、標準的なBERTおよびRoBERTaモデルと比較して、どれほどクロスプラットフォームの転送性を向上させるか？
• RQ4 短い投稿（例：Twitter）と長い投稿（例：Wikipedia）を含む、著しく異なる投稿長のプラットフォーム間でも、フレームワークの性能が維持されるか？
• RQ5 XP-CBが学習した表現は、標準的な変換器と比較して、視覚的および意味的にどのように異なっているか？

主な発見

• XP-CBは、FormspringからTwitterへの転送において、標準的なBERTよりF1スコアで9%の絶対的向上を達成し、同じ設定でRoBERTaでは7%の向上を示した。
• 6つのクロスプラットフォーム設定全体の平均F1スコアは、A&Aモデルの0.235から、RoBERTaを用いたXP-CBの0.693に向上し、優れた一般化性能を示した。
• t-SNE可視化では、XP-CBの埋め込みが標準的なBERTと比較して、明確なクラス分離とより少ないドメインシフトを示しており、より良い表現整合性を示している。
• 投稿長が長いFormspringとWikipedia間の転送では、短い投稿のTwitterと他のプラットフォーム間の転送よりも性能が高かった。これは、投稿長が転送性に影響を与える可能性を示唆している。
• XP-CBは、6つのクロスプラットフォーム設定すべてにおいて、A&Aベースラインおよび標準的なBERT/RoBERTaモデルを一貫して上回り、その頑健性を確認した。
• Twitter（短い投稿）からFormspringやWikipediaへの転送においても、XP-CBは強い性能を維持しており、データ分布のズレに対して耐性があることを示した。