[논문 리뷰] KidsTube: Detection, Characterization and Analysis of Child Unsafe Content & Promoters on YouTube

Rishabh Kaushal, Srishty Saha외 2명|arXiv (Cornell University)|2016. 08. 21.

Advanced Malware Detection Techniques참고 문헌 6인용 수 13

한 줄 요약

이 논문은 유튜브에서 아동이 안전하지 않은 콘텐츠와 그를 유포하는 이들을 탐지하기 위한 이중 접근법을 제안한다: 영상, 사용자, 댓글 기능을 사용하는 지도 학습 모델과 영상 프레임을 기반으로 한 CNN 기반 방법. 이는 85.7%의 탐지 정확도를 달성하며, 안전하지 않은 콘텐츠 유포자가 다른 사용자들과 밀접하게 연결된 공동체를 형성하고, 좋아요, 구독, 플레이리스트를 통해 아동의 노출 위험을 증가시킨다는 것을 드러낸다.

ABSTRACT

YouTube draws large number of users who contribute actively by uploading videos or commenting on existing videos. However, being a crowd sourced and large content pushed onto it, there is limited control over the content. This makes malicious users push content (videos and comments) which is inappropriate (unsafe), particularly when such content is placed around cartoon videos which are typically watched by kids. In this paper, we focus on presence of unsafe content for children and users who promote it. For detection of child unsafe content and its promoters, we perform two approaches, one based on supervised classification which uses an extensive set of video-level, user-level and comment-level features and another based Convolutional Neural Network using video frames. Detection accuracy of 85.7% is achieved which can be leveraged to build a system to provide a safe YouTube experience for kids. Through detailed characterization studies, we are able to successfully conclude that unsafe content promoters are less popular and engage less as compared with other users. Finally, using a network of unsafe content promoters and other users based on their engagements (likes, subscription and playlist addition) and other factors, we find that unsafe content is present very close to safe content and unsafe content promoters form very close knit communities with other users, thereby further increasing the likelihood of a child getting getting exposed to unsafe content.

연구 동기 및 목표

• 아동이 선호하는 애니메이션 영상 주변에서 특히, YouTube에서 아동이 안전하지 않은 콘텐츠와 그 유포자를 탐지하고 특성화하는 것.
• 아동이 안전한 콘텐츠이지만 댓글이나 영상 덕분에 부적절한 콘텐츠에 노출되는 위험을 해결하는 것.
• 인기도와 참여도 측면에서 다른 사용자들과 비교해 안전하지 않은 콘텐츠 유포자의 행동 패턴을 분석하는 것.
• 좋아요, 구독, 플레이리스트와 같은 사용자 상호작용 네트워크를 모델링하여 안전하지 않은 콘텐츠가 어떻게 퍼지고 안전한 콘텐츠와 연결되는지 이해하는 것.

제안 방법

• 영상 수준, 사용자 수준, 댓글 수준의 광범위한 특징을 사용해 안전하지 않은 콘텐츠와 유포자를 탐지하기 위한 지도 학습 분류 모델을 개발한다.
• 안전하지 않은 콘텐츠 탐지에 영상 프레임에서 시각적 특징을 추출하기 위해 컨volutional 신경망(CNN)을 적용한다.
• 업로더, 댓글 작성자, 기타 사용자 간의 좋아요, 구독, 플레이리스트 추가 행동 기반으로 상호작용 네트워크를 구축한다.
• 결합된 네트워크 그래프에서 커뮤니티 탐지 기법을 적용해 안전하지 않은 콘텐츠 유포자들이 서로 밀접하게 연결된 군집과 다른 사용자들과의 연결 고리를 식별한다.
• 네트워크 분석을 통해 공유된 참여 행동을 통해 안전한 콘텐츠에서 안전하지 않은 콘텐츠로의 전환 경로를 매핑한다.
• 안전하지 않은 콘텐츠 유포자와 일반 사용자 간의 참여 지표(좋아요, 구독, 댓글)를 비교해 행동적 차이를 식별한다.

실험 결과

연구 질문

• RQ1 지도 학습과 딥 러닝(CNN) 모델이 유튜브에서 아동이 안전하지 않은 콘텐츠를 탐지하는 데 얼마나 효과적인가?
• RQ2 인기도와 참여도 측면에서 안전하지 않은 콘텐츠 유포자와 다른 사용자 간에 어떤 행동적 차이가 있는가?
• RQ3 안전하지 않은 콘텐츠 유포자가 좋아요, 구독, 플레이리스트 상호작용을 통해 다른 사용자들과 얼마나 밀접한 공동체를 형성하는가?
• RQ4 아동 사용자가 공유된 참여 행동을 통해 안전한 콘텐츠에서 안전하지 않은 콘텐츠로 전환할 가능성이 얼마나 높은가?
• RQ5 안전하지 않은 콘텐츠 유포자들의 네트워크와 다른 사용자들과의 연결 고리에 어떤 구조적 패턴이 존재하는가?

주요 결과

• 제안된 탐지 시스템은 아동이 안전하지 않은 콘텐츠와 유포자를 식별하는 데 85.7%의 분류 정확도를 달성한다.
• 안전하지 않은 콘텐츠 유포자는 다른 사용자들보다 상당히 인기도가 낮고, 좋아요, 댓글, 구독과 같은 상호작용 수가 적다.
• 안전하지 않은 콘텐츠는 자주 안전한 콘텐츠와 가까이 배치되어 있어 알고리즘 추천을 통해 아동의 노출 확률이 증가한다.
• 좋아요, 구독, 플레이리스트 추가를 통해 연결된 큰 밀집 공동체가 존재하며, 이는 넓은 사용자 공동체와 통합된 네트워크를 형성하고 있다.
• 댓글 작성자가 업로더보다 더 자주 업로더를 구독하지만, 반대로 업로더가 댓글 작성자를 구독하는 경우는 거의 없어 비대칭적인 참여 패턴이 드러난다.
• 모든 사용자 유형 중 '기타 사용자'(업로더이자 댓글 작성자가 아님)가 업로더와 댓글 작성자 모두로부터 가장 자주 좋아요를 받고 구독을 받으며, 이는 공통된 관심사나 영향력을 나타낸다.