[論文レビュー] Unsupervised Cyberbullying Detection via Time-Informed Gaussian Mixture Model

Lu Cheng, Kai Shu+4 more|arXiv (Cornell University)|Aug 6, 2020

Hate Speech and Cyberbullying Detection参考文献 44被引用数 6

ひとこと要約

本稿では、時間情報を組み込んだ混合ガウス分布モデルを用いて、マルチモーダルなセッション表現とコメントの到着間隔を同時に学習する非教師ありサイバーいじめ検出モデルUCDを提案する。時間的ダイナミクス、階層的アテンション、および共同最適化を統合することで、非教師あり手法として最先端の性能を達成し、実世界のInstagramおよびVineデータセットにおいて教師ありベースラインと競合する結果を得た。

ABSTRACT

Social media is a vital means for information-sharing due to its easy access, low cost, and fast dissemination characteristics. However, increases in social media usage have corresponded with a rise in the prevalence of cyberbullying. Most existing cyberbullying detection methods are supervised and, thus, have two key drawbacks: (1) The data labeling process is often time-consuming and labor-intensive; (2) Current labeling guidelines may not be generalized to future instances because of different language usage and evolving social networks. To address these limitations, this work introduces a principled approach for unsupervised cyberbullying detection. The proposed model consists of two main components: (1) A representation learning network that encodes the social media session by exploiting multi-modal features, e.g., text, network, and time. (2) A multi-task learning network that simultaneously fits the comment inter-arrival times and estimates the bullying likelihood based on a Gaussian Mixture Model. The proposed model jointly optimizes the parameters of both components to overcome the shortcomings of decoupled training. Our core contribution is an unsupervised cyberbullying detection model that not only experimentally outperforms the state-of-the-art unsupervised models, but also achieves competitive performance compared to supervised models.

研究の動機と目的

• 教師ありサイバーいじめ検出の限界、すなわち高コストなラベル付けと言語使用の変化を解消すること。
• ラベル付きデータに依存しない高精度な検出性能を維持しつつ、ラベルなしデータに依存しない非教師ありフレームワークを開発すること。
• ソーシャルメディアのセッションにおけるコメントの時系列的ダイナミクスをモデル化し、サイバーいじめ検出を向上させること。
• 表現学習と時系列モデリングを共同で最適化することで、分離した学習による性能劣化を是正すること。
• 非教師ありで適応的学習を行うことで、将来のサイバーいじめのパターンへの一般化を可能とすること。

提案手法

• 階層的アテンションネットワーク（HAN）が、語彙レベルおよびコメントレベルの意味を捉えるマルチモーダルなセッション表現を符号化する。
• マルチタスク学習ネットワークが、混合ガウス分布モデルを用いていじめの可能性を同時に推定し、コメント間の到着間隔をモデリングする。
• コメントの到着間隔を繰り返しのいじめ行動を特定するための主要な信号として扱い、時間情報を組み込んだ特徴をモデルに統合する。
• 表現学習、時系列モデリング、エネルギーに基づくクラスタリングの共同最適化により、分離した学習による性能劣化を防止する。
• 混合ガウス分布モデルが、いじめの可能性に基づいて各セッションをクラスタに割り当て、教師なし検出を可能にする。
• マルチモーダル特徴には、テキスト、ユーザープロフィール、ソーシャルネットワーク構造、およびソーシャルコンテンツ（例：いいね、共有）が含まれる。

実験結果

リサーチクエスチョン

• RQ1 ラベル付き学習データに依存せずに、非教師ありモデルが効果的にサイバーいじめを検出できるか？
• RQ2 コメントの時系列的パターンは、いじめ行動と非いじめ行動を区別するためにどのように寄与するか？
• RQ3 表現学習と時系列モデリングを共同で最適化することで、分離したアプローチに比べて検出性能が向上するか？
• RQ4 マルチモーダル特徴（テキスト、ネットワーク、時間）を統合することで、非教師ありサイバーいじめ検出がどの程度向上するか？
• RQ5 進化する言語的・ソーシャルダイナミクスに伴い、モデルは未観測のサイバーいじめパターンに対してもどの程度一般化できるか？

主な発見

• UCDは、InstagramおよびVineの両データセットにおいて、AUROCおよびF1スコアの観点で、すべての最先端の非教師ありサイバーいじめ検出手法を上回った。
• Instagramデータセットでは、UCDはAUROCが0.89、F1スコアが0.78を達成し、次に優れた非教師あり手法よりも両指標で5%以上優れた性能を示した。
• Vineデータセットでは、UCDはAUROCが0.85、F1スコアが0.74を達成し、異なるソーシャルメディアプラットフォームにわたり強い汎化性能を示した。
• アブレーションスタディの結果、時系列モデリングや共同最適化を削除すると性能が著しく低下し、これらのコンponentsの重要性が裏付けられた。
• ケーススタディでは、UCDがいじめ関連語（例：'b*tch', 'f*ckin'）を効果的に特定し、コメント間の文脈を考慮することで誤検出を回避できることを示した。
• 複雑なコメントシーケンスを含む非いじめセッションの検出能力は、モデルの文脈的曖昧性へのロバストネスを強調している。