[论文解读] Unsupervised Cyberbullying Detection via Time-Informed Gaussian Mixture Model

Lu Cheng, Kai Shu+4 more|arXiv (Cornell University)|Aug 6, 2020

Hate Speech and Cyberbullying Detection参考文献 44被引用 6

一句话总结

本文提出UCD，一种无监督网络欺凌检测模型，通过时间感知高斯混合模型联合学习多模态会话表征并建模评论的到达时间间隔。通过整合时间动态、层次注意力机制与联合优化，UCD在无监督方法中达到最先进性能，并在真实世界Instagram和Vine数据集上与监督基线方法相比表现具有竞争力。

ABSTRACT

Social media is a vital means for information-sharing due to its easy access, low cost, and fast dissemination characteristics. However, increases in social media usage have corresponded with a rise in the prevalence of cyberbullying. Most existing cyberbullying detection methods are supervised and, thus, have two key drawbacks: (1) The data labeling process is often time-consuming and labor-intensive; (2) Current labeling guidelines may not be generalized to future instances because of different language usage and evolving social networks. To address these limitations, this work introduces a principled approach for unsupervised cyberbullying detection. The proposed model consists of two main components: (1) A representation learning network that encodes the social media session by exploiting multi-modal features, e.g., text, network, and time. (2) A multi-task learning network that simultaneously fits the comment inter-arrival times and estimates the bullying likelihood based on a Gaussian Mixture Model. The proposed model jointly optimizes the parameters of both components to overcome the shortcomings of decoupled training. Our core contribution is an unsupervised cyberbullying detection model that not only experimentally outperforms the state-of-the-art unsupervised models, but also achieves competitive performance compared to supervised models.

研究动机与目标

• 为解决监督式网络欺凌检测的局限性，包括标注成本高昂及语言使用不断演变的问题。
• 开发一种无监督框架，避免依赖标注数据的同时保持高检测性能。
• 建模社交媒体会话中评论序列的时间动态，以提升网络欺凌检测效果。
• 通过联合优化表征学习与时间建模，克服解耦训练带来的性能下降问题。
• 通过无监督、自适应学习实现对新型网络欺凌模式的泛化能力。

提出的方法

• 分层注意力网络（HAN）编码多模态会话表征，捕捉词级与评论级语义信息。
• 多任务学习网络联合估计欺凌可能性（使用高斯混合模型）并建模评论间的时间间隔。
• 通过将评论到达时间间隔视为识别重复性欺凌行为的关键信号，引入时间感知特征。
• 联合优化表征学习、时间建模与基于能量的聚类，防止因解耦训练导致的性能下降。
• 高斯混合模型根据欺凌可能性将每个会话分配至一个聚类，实现无真实标签的无监督检测。
• 多模态特征包括文本、用户资料、社交网络结构以及社交内容（如点赞、分享）等。

实验结果

研究问题

• RQ1 无监督模型能否在不依赖标注训练数据的情况下有效检测网络欺凌？
• RQ2 评论序列中的时间模式在区分网络欺凌与非欺凌互动方面起到何种作用？
• RQ3 与解耦方法相比，联合优化表征学习与时间建模是否能提升检测性能？
• RQ4 多模态特征（文本、网络、时间）在多大程度上可增强无监督网络欺凌检测？
• RQ5 面对语言演变与社交动态变化，该模型在检测未见网络欺凌模式方面表现如何？

主要发现

• 在Instagram和Vine数据集上，UCD在AUROC与F1分数两项指标上均优于所有最先进无监督网络欺凌检测方法。
• 在Instagram数据集上，UCD的AUROC达到0.89，F1分数为0.78，两项指标均比次优无监督方法高出5%以上。
• 在Vine数据集上，UCD的AUROC为0.85，F1分数为0.74，展现出在不同社交媒体平台间的强大泛化能力。
• 消融实验表明，若移除时间建模或联合优化机制，性能显著下降，验证了这些组件的重要性。
• 案例研究显示，UCD能有效识别欺凌相关词汇（如“b*tch”、“f*ckin”），并综合考虑跨评论上下文，避免误报。
• 模型对具有复杂评论序列的非欺凌会话的检测能力，凸显其对语境模糊性的鲁棒性。