[論文レビュー] KidsTube: Detection, Characterization and Analysis of Child Unsafe Content & Promoters on YouTube

Rishabh Kaushal, Srishty Saha+2 more|arXiv (Cornell University)|Aug 21, 2016

Advanced Malware Detection Techniques参考文献 6被引用数 13

ひとこと要約

本稿では、YouTubeにおける児童に不適切なコンテンツおよびその拡散者を検出する二重アプローチを提案する。1つは動画、ユーザー、コメントの特徴を用いた教師あり機械学習モデルであり、もう1つは動画フレームを用いたCNNベースの手法である。本研究では85.7%の検出精度を達成し、不適切なコンテンツの拡散者が他のユーザーと密接に結びついたコミュニティを形成しており、いいね、購読、プレイリストを通じて児童の露出リスクが増加していることが明らかになった。

ABSTRACT

YouTube draws large number of users who contribute actively by uploading videos or commenting on existing videos. However, being a crowd sourced and large content pushed onto it, there is limited control over the content. This makes malicious users push content (videos and comments) which is inappropriate (unsafe), particularly when such content is placed around cartoon videos which are typically watched by kids. In this paper, we focus on presence of unsafe content for children and users who promote it. For detection of child unsafe content and its promoters, we perform two approaches, one based on supervised classification which uses an extensive set of video-level, user-level and comment-level features and another based Convolutional Neural Network using video frames. Detection accuracy of 85.7% is achieved which can be leveraged to build a system to provide a safe YouTube experience for kids. Through detailed characterization studies, we are able to successfully conclude that unsafe content promoters are less popular and engage less as compared with other users. Finally, using a network of unsafe content promoters and other users based on their engagements (likes, subscription and playlist addition) and other factors, we find that unsafe content is present very close to safe content and unsafe content promoters form very close knit communities with other users, thereby further increasing the likelihood of a child getting getting exposed to unsafe content.

研究の動機と目的

• YouTubeにおける子どもに不適切なコンテンツおよびその拡散者を、特に子どもに人気のあるアニメーション動画を中心に検出・特徴付けること。
• 安全なコンテンツの動画やコメントを通しても、子どもが不適切なコンテンツにさらされるリスクを低減するための対策を講じること。
• 人気度と関与度の観点から、不適切なコンテンツの拡散者と他のユーザーとの行動パターンの違いを分析すること。
• いいね、購読、プレイリストといったユーザー相互作用ネットワークをモデル化し、不適切なコンテンツがどのように広がり、安全なコンテンツとどのように接続されているかを理解すること。

提案手法

• 動画レベル、ユーザーレベル、コメントレベルの豊富な特徴を用いた教師あり分類モデルを開発し、不適切なコンテンツおよびその拡散者の検出を実施する。
• 畳み込みニューラルネットワーク（CNN）を用いて動画フレームから視覚的特徴を抽出し、不適切なコンテンツの検出に応用する。
• アップローダー、コメント投稿者、その他のユーザー間のいいね、購読、プレイリスト追加といったユーザー行動に基づき、相互作用ネットワークを構築する。
• 統合されたネットワークグラフに対してコミュニティ検出を実施し、不適切なコンテンツの拡散者と他のユーザーとの間に形成された密なクラスタを特定する。
• ネットワーク解析を用いて、共通の関与行動を通じて安全なコンテンツから不適切なコンテンツへと移行するプロセスをマッピングする。
• 不適切なコンテンツの拡散者と一般ユーザーとの間でいいね、購読、コメントの関与メトリクスを比較し、行動上の差異を特定する。

実験結果

リサーチクエスチョン

• RQ1 教師あり機械学習およびディープラーニング（CNN）モデルは、YouTubeにおける児童に不適切なコンテンツの検出においてどの程度有効であるか？
• RQ2 人気度と関与度の観点から、不適切なコンテンツの拡散者と他のユーザーとの間にどのような行動的差異が存在するか？
• RQ3 不適切なコンテンツの拡散者が、いいね、購読、プレイリストの相互作用を通じて、他のユーザーとどれほど結束したコミュニティを形成しているか？
• RQ4 子どもユーザーが共通の関与行動を通じて、安全なコンテンツから不適切なコンテンツへと移行する確率はどの程度高いか？
• RQ5 不適切なコンテンツの拡散者と他のユーザーとのつながりにおけるネットワークの構造的パターンは何か？

主な発見

• 提案された検出システムは、児童に不適切なコンテンツおよびその拡散者の識別において85.7%の分類精度を達成した。
• 不適切なコンテンツの拡散者は、他のユーザーと比較して著しく人気がなく、いいね、コメント、購読の関与数も少ない。
• 不適切なコンテンツは、安全なコンテンツと頻繁に隣接して配置されており、アルゴリズムによる推薦を通じて子どもが露出する可能性が高まっている。
• いいね、購読、プレイリストの追加を通じて、不適切なコンテンツの拡散者からなる大規模で密なコミュニティが存在し、広範なユーザーコミュニティと統合されたネットワークを形成している。
• コメント投稿者がアップローダーにサブスクライブする確率が高く、逆にアップローダーがコメント投稿者にサブスクライブする確率は極めて低いことから、非対称な関与パターンが明らかになった。
• すべてのユーザー層の中で、「その他のユーザー」（アップローダーでもコメント投稿者でもない）は、アップローダーおよびコメント投稿者から最も頻繁にいいねや購読を受けていることから、共通の関心や影響力があることが示唆された。