[论文解读] KidsTube: Detection, Characterization and Analysis of Child Unsafe Content & Promoters on YouTube

Rishabh Kaushal, Srishty Saha+2 more|arXiv (Cornell University)|Aug 21, 2016

Advanced Malware Detection Techniques参考文献 6被引用 13

一句话总结

本文提出一种双管齐下的方法，用于检测YouTube上的儿童不安全内容及其传播者：一种基于视频、用户和评论特征的监督机器学习模型，以及一种基于卷积神经网络（CNN）的视频帧视觉特征检测方法。该方法实现了85.7%的检测准确率，并发现不安全内容传播者与其他用户形成紧密联系的社群，通过点赞、订阅和播放列表等方式增加了儿童暴露于不安全内容的风险。

ABSTRACT

YouTube draws large number of users who contribute actively by uploading videos or commenting on existing videos. However, being a crowd sourced and large content pushed onto it, there is limited control over the content. This makes malicious users push content (videos and comments) which is inappropriate (unsafe), particularly when such content is placed around cartoon videos which are typically watched by kids. In this paper, we focus on presence of unsafe content for children and users who promote it. For detection of child unsafe content and its promoters, we perform two approaches, one based on supervised classification which uses an extensive set of video-level, user-level and comment-level features and another based Convolutional Neural Network using video frames. Detection accuracy of 85.7% is achieved which can be leveraged to build a system to provide a safe YouTube experience for kids. Through detailed characterization studies, we are able to successfully conclude that unsafe content promoters are less popular and engage less as compared with other users. Finally, using a network of unsafe content promoters and other users based on their engagements (likes, subscription and playlist addition) and other factors, we find that unsafe content is present very close to safe content and unsafe content promoters form very close knit communities with other users, thereby further increasing the likelihood of a child getting getting exposed to unsafe content.

研究动机与目标

• 检测并表征YouTube上儿童不安全内容及其传播者，尤其聚焦于儿童喜爱的卡通视频。
• 应对儿童即使在看似安全的内容中，仍可能通过评论或视频内容暴露于不当内容的风险。
• 分析不安全内容传播者与其它用户在受欢迎程度和互动行为方面的差异。
• 建模用户互动网络（点赞、订阅、播放列表）以理解不安全内容如何传播并与安全内容关联。

提出的方法

• 开发一种监督分类模型，利用广泛的视频级、用户级和评论级特征，以检测不安全内容及其传播者。
• 应用卷积神经网络（CNN）从视频帧中提取视觉特征，用于不安全内容检测。
• 基于用户行为（上传者、评论者与其他用户之间的点赞、订阅和播放列表添加）构建互动网络。
• 在组合的网络图上执行社区检测，识别不安全内容传播者及其与其他用户连接的紧密集群。
• 利用网络分析映射通过共享互动行为从安全内容向不安全内容的过渡路径。
• 比较不安全内容传播者与普通用户之间的互动指标（点赞、订阅、评论），以识别行为差异。

实验结果

研究问题

• RQ1 监督机器学习与深度学习（CNN）模型在检测YouTube上儿童不安全内容方面的有效性如何？
• RQ2 不安全内容传播者与其它用户在受欢迎程度和互动行为方面存在哪些差异？
• RQ3 不安全内容传播者在通过点赞、订阅和播放列表互动方面，与其它用户形成紧密社群的程度如何？
• RQ4 儿童用户通过共享互动行为从观看安全内容转向观看不安全内容的可能性有多大？
• RQ5 不安全内容传播者及其与其他用户连接的网络中存在何种结构模式？

主要发现

• 所提出的检测系统在识别儿童不安全内容及其传播者方面，分类准确率达到85.7%。
• 不安全内容传播者显著不如其他用户受欢迎，互动（点赞、评论、订阅）次数也更少。
• 不安全内容经常与安全内容紧密相邻，增加了儿童因算法推荐而暴露于不安全内容的可能性。
• 存在一个大规模且高度紧密的不安全内容传播者社群，通过点赞、订阅和播放列表添加与其它用户相连，形成与更广泛用户社群融合的网络。
• 评论者比上传者更可能订阅上传者，而上传者极少订阅评论者，表明存在不对称的互动模式。
• 在所有用户类别中，'其他用户'（既非上传者也非评论者）最常被上传者和评论者点赞与订阅，表明其具有共同兴趣或影响力。