[논문 리뷰] Uncovering the Dark Side of Telegram: Fakes, Clones, Scams, and Conspiracy Movements

Massimo La Morgia, Alessandro Mei외 2명|arXiv (Cornell University)|2021. 11. 26.

Spam and Phishing Detection참고 문헌 27인용 수 10

한 줄 요약

이 논문은 35,382개의 텔레그램 채널을 담은 대규모 스냅샷인 TGDataset를 제시하고, 프라이버시 기능을 악용하는 위조, 클론, 스캠 채널을 조사한다. 86%의 정확도를 달성하는 기계학습 모델을 제안하며, 클론과 위조 채널을 통해 퍼진 사브미크 음모이론을 분석하여 카드링, 아동 성착취물, 암호화폐 스캠 등 광범위한 경계선 활동을 드러낸다.

ABSTRACT

Telegram is one of the most used instant messaging apps worldwide. Some of its success lies in providing high privacy protection and social network features like the channels -- virtual rooms in which only the admins can post and broadcast messages to all its subscribers. However, these same features contributed to the emergence of borderline activities and, as is common with Online Social Networks, the heavy presence of fake accounts. Telegram started to address these issues by introducing the verified and scam marks for the channels. Unfortunately, the problem is far from being solved. In this work, we perform a large-scale analysis of Telegram by collecting 35,382 different channels and over 130,000,000 messages. We study the channels that Telegram marks as verified or scam, highlighting analogies and differences. Then, we move to the unmarked channels. Here, we find some of the infamous activities also present on privacy-preserving services of the Dark Web, such as carding, sharing of illegal adult and copyright protected content. In addition, we identify and analyze two other types of channels: the clones and the fakes. Clones are channels that publish the exact content of another channel to gain subscribers and promote services. Instead, fakes are channels that attempt to impersonate celebrities or well-known services. Fakes are hard to identify even by the most advanced users. To detect the fake channels automatically, we propose a machine learning model that is able to identify them with an accuracy of 86%. Lastly, we study Sabmyk, a conspiracy theory that exploited fakes and clones to spread quickly on the platform reaching over 1,000,000 users.

연구 동기 및 목표

• 텔레그램에서 프라이버시와 匿명성 기능을 악용하는 위조, 클론, 스캠 채널의 보편성을 밝혀내는 것.
• 공개 채널에서 카드링, 불법 성인 콘텐츠, 백인 우월주의 콘텐츠와 같은 경계선 활동을 분석하는 것.
• 높은 정확도로 자동으로 위조 채널을 탐지할 수 있는 기계학습 모델을 개발하는 것.
• 위조 및 클론 채널을 활용한 조작된 정보유포의 사례로 사브미크 음모이론을 조사하는 것.
• 미래 연구를 위해 공개 가능한 일반 목적의 텔레그램 채널 데이터셋인 TGDataset를 공개하는 것.

제안 방법

• 공개 API 접근 및 크롤링을 통해 35,382개의 텔레그램 채널과 1,300만 건 이상의 메시지를 수집하였다.
• 메시지 포워딩 패턴에서 네트워크 그래프를 구축하여 채널 간의 정보 흐름을 추적하였다.
• 사용자명 유사성, 메시지 패턴 등의 텍스트적 및 구조적 특징을 사용하여 위조 채널를 분류하는 기계학습 모델을 제안하였다.
• 확인된 스캠 채널과 보고된 스캠 채널의 레이블링된 데이터를 기반으로 모델을 훈련하여 86%의 정확도를 달성하였다.
• 그래프 기반 분석을 통해 사브미크 네트워크의 구조를 파악하였으며, 주 채널에서 파생된 98개의 채널와 그 확산 경로를 규명하였다.
• 클론 및 위조 채널의 콘텐츠 분석을 수행하여 수익화 및 이데올로기 홍보 전략을 규명하였다.

실험 결과

연구 질문

• RQ1 텔레그램 채널에서 널리 퍼져 있는 경계선 및 불법 활동의 유형은 무엇이며, 플랫폼 기능을 어떻게 악용하는가?
• RQ2 텔레그램에서 위조 및 클론 채널는 구조, 콘텐츠, 확산 메커니즘 측면에서 어떻게 다를까?
• RQ3 기계학습을 통해 위조 텔레그램 채널를 얼마나 정확하게 탐지할 수 있으며, 제안된 모델의 효과성은 어떠한가?
• RQ4 사브미크 음모이론은 위조 및 클론 채널을 통해 어떻게 신속하게 퍼졌으며, 어떤 네트워크 패턴이 그 확산을 가능하게 했는가?
• RQ5 검증되지 않은 채널이 사용자 프라이버시, 오해의 소지가 있는 정보 유포, 플랫폼 거버넌스에 미치는 영향은 무엇인가?

주요 결과

• 공식 채널의 콘텐츠를 복제하여 구독자를 확보하고 암호화폐나 이데올로기를 홍보하는 데 목적이 있는 83개의 클론 채널를 확인하였다.
• 기계학습 모델은 위조 채널 탐지에서 86%의 정확도를 달성하였으며, 191개의 의심스러운 위조 채널을 식별하였고, 그 중 27개는 실제로 사기로 확인되었다.
• 스캠 채널는 확인된 채널에서 메시지 포워딩을 통해 2회 이내로 접근 가능하여 사용자에게 고위험 콘텐츠 노출 위험이 높아졌다.
• 사브미크 음모 네트워크는 총 98개의 채널로 구성되어 있었으며, 그 중 98%의 멤버가 메인 채널에서 1단계 연결을 통해 가입하였다.
• 사브미크 네트워크는 100만 명 이상의 사용자에게 도달하였으며, 위조 및 클론 채널를 활용해 메시지를 신속하게 확산시켰다.
• 데이터셋은 텔레그램의 검증 및 스캠 표시 시스템에도 불구하고 아동 성착취물, 복수 성착취물, 카드링, 백인 우월주의 자료 등 광범위한 불법 콘텐츠를 드러냈다.