[論文レビュー] A Privacy-Preserving Architecture for the Protection of Adolescents in Online Social Networks

Markos Charalambous, Petros Papagiannis+9 more|arXiv (Cornell University)|Jul 23, 2020

Privacy, Security, and Data Protection被引用数 4

ひとこと要約

本論文は、機械学習分類器とガーディアンアバターを用いて、Facebook、Twitter、YouTubeでサイバーいじめ、性的な誘い、露骨なコンテンツなどのオンライン脅威を検出する、プライバシーを尊重するユーザー中心のサイバーサーフェイティ・ファミリーアドバイス・スイート（CFAS）を提案する。このシステムは、監視を開始する前に未成年者が明示的な同意を示すことで、未成年者のプライバシーを保証する。親と若年層の間で監視を伴わない協働的保護を実現する。

ABSTRACT

Online social networks (OSN) constitute an integral part of people's every day social activity. Specifically, mainstream OSNs such as Twitter, YouTube, and Facebook are especially prominent in adolescents' lives for communicating with other people online, expressing and entertain themselves, and finding information. However, adolescents face a significant number of threats when using online platforms. Some of these threats include aggressive behavior and cyberbullying, sexual grooming, false news and fake activity, radicalization, and exposure of personal information and sensitive content. There is a pressing need for parental control tools and Internet content filtering techniques to protect the vulnerable groups that use online platforms. Existing parental control tools occasionally violate the privacy of adolescents, leading them to use other communication channels to avoid moderation. In this work, we design and implement a user-centric Family Advice Suite with Guardian Avatars aiming at preserving the privacy of the individuals towards their custodians and towards the advice tool itself. Moreover, we present a systematic process for designing and developing state of the art techniques and a system architecture to prevent minors' exposure to numerous risks and dangers while using Facebook, Twitter, and YouTube on a browser.

研究の動機と目的

• オンラインソーシャルネットワーク（OSN）における若年層が直面するリスクの増加に応えること、具体的にはサイバーいじめ、性的な誘い、露骨なコンテンツへの暴露など。
• 監視によって若年層が監視を回避しようとするのを防ぐために、若年層のプライバシーを保護する親のコントロールシステムを設計すること。
• 若年層が監視の存在を認識し、同意することで、自己規制とデジタル責任の意識を高める、子ども中心のシステムを構築すること。
• リアルタイムの脅威検出を可能にするアーキテクチャを実装し、ユーザーのプライバシーやデータ機密性を損なわないこと。
• 制限的な監視から、情報共有され、透明性があり、教育的である保護に移行する、親と若年層の間の協働モデルを考案すること。

提案手法

• 本システムは、OSNデータ分析ソフトウェアスタック（バックエンド）、インテリジェントWebプロキシ（IWP）、リアルタイム監視およびフィルタリング用のブラウザアドオンの3つのコンponentから構成される。
• IWPにホスティングされた機械学習分類器が、サイバーいじめ、性的な誘い、ボットアカウント、個人情報の漏洩、有害な画像や動画を検出する。
• ガーディアンアバターは、チャットのようなインターフェースを通じて、リアルタイムで若年層に警告とアドバイスを提供し、意識の向上と自己規制を促進する。
• 本アーキテクチャは、監視を開始する前に若年層の明示的同意を要件としており、これによりプライバシーが保証される。保護者（管理者）は、その同意がある場合にのみ、懸念されるコンテンツのみを確認できる。
• コンポーネントは独立して動作するが、安全な通信により連携することで、機能性とプライバシーを維持するモジュラーかつ分離型の設計を採用している。
• ブラウザベースの統合とプロキシレベルのトラフィック検査により、Facebook、Twitter、YouTubeのクロスプラットフォーム対応を実現している。

実験結果

リサーチクエスチョン

• RQ1 オンラインセーフティツールは、若年層のプライバシーを侵害せずに、OSNの脅威から若年層を保護するためどのように設計できるか？
• RQ2 ユーザー中心で同意に基づく監視が、若年層のセーフティツールへの関与をどのように向上させられるか？
• RQ3 機械学習分類器は、主流のソーシャルネットワークで、サイバーいじめ、誘い、露骨なコンテンツといった多様なオンライン脅威を効果的に検出するにはどのように実装できるか？
• RQ4 ガーディアンアバターは、若年層のオンラインリスクへの意識と自己規制をどのように高められるか？
• RQ5 親のコントロールシステムは、監視からではなく、協働的で透明性があり、教育的である保護にどのように再考できるか？

主な発見

• CFASアーキテクチャは、サイバーいじめ、性的な誘い、攻撃的ユーザー、ボットアカウント、個人情報漏洩、感受性の高い画像、嫌がらせのためのマジックムービー（ヘイトムービー）、不快な動画の8つの異なる脅威カテゴリを効果的に検出できた。
• 監視やデータ分析を開始する前に若年層の明示的同意を要件としているため、本システムは、監視のない状態での監視を防ぐことでプライバシーを確保している。
• ガーディアンアバターは、若年層に対してリアルタイムで対話的かつ教育的なフィードバックを提供し、親の監視に依存しない形でオンラインリスクへの意識を高めている。
• 監視とデータ保存・分析を分離することで、アーキテクチャは、コンポーネントが独立して機能しつつも、セキュリティとプライバシーを維持できる。
• 保護者（管理者）は、若年層の同意がある場合にのみ、懸念されるコンテンツのアラートを受け取るため、従来の親のコントロールツールで一般的に見られるプライバシー侵害のリスクが低減されている。
• 仮想環境およびベータテストによる評価で、脅威検出の正確性が確認され、家族の安全を目的とした実世界への導入可能性も示された。