[論文レビュー] Combating the Elsagate phenomenon: Deep learning architectures for disturbing cartoons

Akari Ishikawa, Edson Bollis+1 more|arXiv (Cornell University)|Apr 18, 2019

Sexuality, Behavior, and Technology参考文献 20被引用数 4

ひとこと要約

本論文は、モバイル最適化ニューラルネットワークを用いたトランスファーラーニングにより、コマーシャルアニメーションにおけるElsgateコンテンツを検出する、初めてのディーブラーニングベースのソリューションを提案する。本研究では、1,396件のセンシティブな動画と1,898件の非センシティブな動画を含む、最初の公開可能なElsgateデータセットを提供し、NASNetを静的および運動特徴に微調整することで92.6%の精度を達成した。これは、動画プラットフォームにおける不快なアニメーションコンテンツと戦う上で基盤的意義を持つ一歩である。

ABSTRACT

Watching cartoons can be useful for children's intellectual, social and emotional development. However, the most popular video sharing platform today provides many videos with Elsagate content. Elsagate is a phenomenon that depicts childhood characters in disturbing circumstances (e.g., gore, toilet humor, drinking urine, stealing). Even with this threat easily available for children, there is no work in the literature addressing the problem. As the first to explore disturbing content in cartoons, we proceed from the most recent pornography detection literature applying deep convolutional neural networks combined with static and motion information of the video. Our solution is compatible with mobile platforms and achieved 92.6% of accuracy. Our goal is not only to introduce the first solution but also to bring up the discussion around Elsagate.

研究の動機と目的

• YouTubeなどの動画プラットフォームにおいて、子供のキャラクターが暴力的または不快な状況に登場する『Elsgateコンテンツ』—いわゆる不快なアニメーション—に関する研究が不足しているという問題に対処すること。
• ディープラーニングアーキテクチャを用いて、実用的でモバイル環境に対応可能なソリューションを開発し、Elsgate動画を特定すること。
• 285時間にのぼる動画コンテンツを含む、最初の公開可能なElsgateデータセットを提供し、今後の研究を可能にすること。
• 軽量でモバイル最適化されたディープニューラルネットワークの性能を、コマーシャルアニメーションにおけるセンシティブなコンテンツ検出に応用して評価すること。
• Elsgate現象とその子供の安全に与える潜在的影響について、学術的および一般社会の議論を開始すること。

提案手法

• 著者らは、動画クリップから空間的（フレームレベル）および時間的（運動）特徴を抽出するエンドツーエンドのパイプラインを設計した。
• 静的および運動特徴表現の両方に対して、4種類のモバイル最適化ディープニューラルネットワーク（GoogLeNet、SqueezeNet、MobileNetV2、NASNet）を評価した。
• ImageNetで事前学習されたモデルを用いたトランスファーラーニングを実施し、その後、Elsgateデータセット上で微調整することで、特定の検出タスクに適応させた。
• 分類性能の向上を図るため、フレーム特徴と運動特徴のラテナル融合を検討した。
• 標準的な指標（正確性とF2スコア）を用いてモデルを訓練および評価し、分布シフトに強い性能を重視した。
• 汎化性能を検証するためのテストセットを用い、一部のモデルで性能低下が見られた。これにより、最終的にNASNetが選択された。

実験結果

リサーチクエスチョン

• RQ1 正式な定義がなく、非センシティブなコンテンツと高い視覚的類似性を示す中で、ディープラーニングモデルがElsgateコンテンツを効果的に検出できるか？
• RQ2 効率性を維持しつつ、不快なアニメーションコンテンツを検出する際、どのモバイル最適化ディープニューラルネットワークアーキテクチャが最も優れた性能を示すか？
• RQ3 静的フレーム特徴と運動特徴は、Elsgate検出においてそれぞれどのように寄与しているか？
• RQ4 微調整済みモデルは、分布シフトが生じた場合に、どれほど未観測データに一般化できるか？
• RQ5 Elsgate検出における誤分類の主な原因は何か？また、コンテンツの主観性や動画品質とどのように関連しているか？

主な発見

• NASNetアーキテクチャは、Elsgateデータセット上で微調整された結果、92.6%のテスト精度と88.7%のF2スコアを達成し、他のモデルを上回った。
• SqueezeNetはトレーニングセットでは96.1%の正確性を示したが、テストセットでは62.0%に低下し、著しい過学習と一般化性能の欠如が示された。
• NASNetは高い適応性を示し、トレーニングセットで95.3%の正確性と92.9%のF2スコアを達成。パラメータ数が半分であるにもかかわらず、GoogLeNetをも上回った。
• 誤検出（誤検出）と誤検出（誤検出）は、保育園の童謡や数え歌の動画で最も多く発生し、低品質な制作や表現の強いコンテンツであるため、主観的にElsgateと分類される傾向にあった。
• 運動特徴は、フレーム特徴のみに比べて性能向上を示さず、静的視覚的手がかりが検出に十分であることを示唆した。
• 本研究では、モデル性能がデータ分布のシフトに極めて敏感であることが明らかになった。これは、実運用環境におけるロバストで一般化可能なアーキテクチャの必要性を強調している。