[논문 리뷰] A Privacy-Preserving Architecture for the Protection of Adolescents in Online Social Networks

Markos Charalambous, Petros Papagiannis외 9명|arXiv (Cornell University)|2020. 07. 23.

Privacy, Security, and Data Protection인용 수 4

한 줄 요약

이 논문은 개인정보 보호를 고려한 사용자 중심의 사이버안전 가정 조언 솔루션(CFAS)을 제안한다. 이 시스템은 기계학습 분류기와 가디언 아바타를 활용해 페이스북, 트위터, 유튜브에서 사이버불링, 성적 광고, 노골적인 콘텐츠와 같은 온라인 위협을 탐지하며, 모니터링을 시작하기 전에 청소년의 명시적 동의를 요구함으로써 청소년의 사생활을 보호한다. 이는 침입적인 감시 없이 청소년과 부모 간 협력적 보호를 가능하게 한다.

ABSTRACT

Online social networks (OSN) constitute an integral part of people's every day social activity. Specifically, mainstream OSNs such as Twitter, YouTube, and Facebook are especially prominent in adolescents' lives for communicating with other people online, expressing and entertain themselves, and finding information. However, adolescents face a significant number of threats when using online platforms. Some of these threats include aggressive behavior and cyberbullying, sexual grooming, false news and fake activity, radicalization, and exposure of personal information and sensitive content. There is a pressing need for parental control tools and Internet content filtering techniques to protect the vulnerable groups that use online platforms. Existing parental control tools occasionally violate the privacy of adolescents, leading them to use other communication channels to avoid moderation. In this work, we design and implement a user-centric Family Advice Suite with Guardian Avatars aiming at preserving the privacy of the individuals towards their custodians and towards the advice tool itself. Moreover, we present a systematic process for designing and developing state of the art techniques and a system architecture to prevent minors' exposure to numerous risks and dangers while using Facebook, Twitter, and YouTube on a browser.

연구 동기 및 목표

• 온라인 소셜 네트워크에서 청소년이 겪는 증가하는 위험, 즉 사이버불링, 악의적인 유혹 행위, 노골적인 콘텐츠 노출 등의 문제를 해결하기 위해.
• 감시가 청소년이 모니터링을 피하려는 경향을 유도할 수 있으므로, 청소년의 사생활을 보존하면서도 부모 통제 시스템을 설계하기 위해.
• 청소년이 모니터링을 인지하고 동의하는 체계적인 자율적 보호와 디지털 책임감을 증진하기 위해, 어린이 중심의 시스템을 구축하기 위해.
• 사용자 개인정보나 기밀 정보를 훼손하지 않으면서도 실시간 위협 탐지를 가능하게 하는 시스템 아키텍처를 구현하기 위해.
• 제한적인 감시에서 벗어나 투명하고 교육적인 보호로 전환하여, 부모와 청소년 간 협력적 모델을 개발하기 위해.

제안 방법

• 시스템은 세 가지 구성 요소로 구성된다: OSN 데이터 분석 소프트웨어 스택(백엔드), 지능형 웹프록시(IWP), 실시간 모니터링 및 필터링을 위한 브라우저 애드온.
• IWP에 호스팅된 기계학습 분류기가 사이버불링, 성적 광고, 봇 계정, 개인 정보 泄露, 유해한 이미지나 영상 등을 탐지한다.
• 가디언 아바타는 채팅 유사 인터페이스를 통해 실시간으로 사용자 友호적인 경고와 조언을 제공하여 청소년의 위험 인식과 자율적 행동 조절을 촉진한다.
• 시스템은 모니터링이 시작되기 전에 청소년의 명시적 동의를 요구함으로써 사생활을 보호한다. 보호자(가드리언)는 이 동의가 있을 경우에만 의심스러운 콘텐츠만 볼 수 있다.
• 모듈러하고 분리된 아키텍처를 사용하여 구성 요소들이 독립적으로 작동하면서도 안전한 통신을 통해 기능성과 사생활 보호를 유지한다.
• 브라우저 기반 통합과 프록시 수준의 트래픽 검사를 통해 페이스북, 트위터, 유튜브 등 다양한 플랫폼에서의 크로스플랫폼 운영을 지원한다.

실험 결과

연구 질문

• RQ1 온라인 안전 도구는 청소년의 사생활을 침해하지 않으면서도 온라인 소셜 네트워크 위협으로부터 보호할 수 있는가?
• RQ2 사용자 중심의 동의 기반 모니터링이 청소년의 온라인 안전 도구 활용에 어떻게 기여할 수 있는가?
• RQ3 기계학습 분류기를 어떻게 효과적으로 구현하여 주요 소셜 네트워크에서 사이버불링, 광고 유도, 노골적인 콘텐츠와 같은 다양한 온라인 위협을 탐지할 수 있는가?
• RQ4 가디언 아바타는 온라인 위험에 대응할 때 청소년의 위험 인식과 자율적 행동 조절을 어떻게 향상시킬 수 있는가?
• RQ5 부모 통제 시스템은 감시에서 벗어나 부모와 청소년 간 협력을 촉진하는 방식으로 어떻게 재구성될 수 있는가?

주요 결과

• CFAS 아키텍처는 사이버불링, 성적 광고, 폭력적인 사용자, 봇 계정, 개인 정보 泄露, 민감한 이미지, 증오 메모, 충격적인 영상 등 총 여덟 가지의 위협 유형을 성공적으로 탐지한다.
• 모니터링이나 데이터 분석이 시작되기 전에 청소년의 명시적 동의를 요구함으로써 사생활 보호를 확보하여 암묵적 감시를 방지한다.
• 가디언 아바타는 청소년에게 실시간으로 상호작용적이고 교육적인 피드백을 제공함으로써 부모의 감시에만 의존하지 않고도 온라인 위험에 대한 인식을 높인다.
• 모니터링과 데이터 저장 및 분석을 분리함으로써 구성 요소들이 독립적으로 작동하면서도 보안과 사생활 보호를 유지할 수 있도록 아키텍처를 설계했다.
• 보호자(가드리언)는 청소년의 동의가 있을 경우에만 의심스러운 콘텐츠에 대한 경고를 받을 수 있어, 기존의 부모 통제 도구에서 흔히 발생하는 사생활 침해를 줄였다.
• 가상 환경과 베타 테스트를 통한 평가 결과, 시스템은 위협 탐지 정확도가 높으며, 가정 안전 분야에서의 실제 적용 가능성이 확인되었다.