[論文レビュー] Uncovering the Dark Side of Telegram: Fakes, Clones, Scams, and Conspiracy Movements

Massimo La Morgia, Alessandro Mei+2 more|arXiv (Cornell University)|Nov 26, 2021

Spam and Phishing Detection参考文献 27被引用数 10

ひとこと要約

本稿では、35,382のTelegramチャンネルを含む大規模なスナップショットであるTGDatasetを提示し、プライバシー機能を悪用する偽物、クローン、スパムチャンネルの調査を実施する。機械学習モデルを提案し、偽物チャンネルの検出において86%の正確性を達成した。また、クローンや偽物を通じて広がったサブマイク陰謀説を分析し、カードリング、児童ポルノ、暗号通貨スキャンダルを含む広範な境界領域活動が存在することが明らかになった。

ABSTRACT

Telegram is one of the most used instant messaging apps worldwide. Some of its success lies in providing high privacy protection and social network features like the channels -- virtual rooms in which only the admins can post and broadcast messages to all its subscribers. However, these same features contributed to the emergence of borderline activities and, as is common with Online Social Networks, the heavy presence of fake accounts. Telegram started to address these issues by introducing the verified and scam marks for the channels. Unfortunately, the problem is far from being solved. In this work, we perform a large-scale analysis of Telegram by collecting 35,382 different channels and over 130,000,000 messages. We study the channels that Telegram marks as verified or scam, highlighting analogies and differences. Then, we move to the unmarked channels. Here, we find some of the infamous activities also present on privacy-preserving services of the Dark Web, such as carding, sharing of illegal adult and copyright protected content. In addition, we identify and analyze two other types of channels: the clones and the fakes. Clones are channels that publish the exact content of another channel to gain subscribers and promote services. Instead, fakes are channels that attempt to impersonate celebrities or well-known services. Fakes are hard to identify even by the most advanced users. To detect the fake channels automatically, we propose a machine learning model that is able to identify them with an accuracy of 86%. Lastly, we study Sabmyk, a conspiracy theory that exploited fakes and clones to spread quickly on the platform reaching over 1,000,000 users.

研究の動機と目的

• Telegramにおける偽物、クローン、スキャンダルチャンネルの広がりを明らかにすること。これらはプライバシーおよび匿名性の特徴を悪用している。
• 公開チャンネルにおけるカードリング、違法な成人向けコンテンツ、白人至上主義的コンテンツなどの境界領域活動を分析すること。
• 高い正確性を持つ自動化された偽物チャンネル検出のための機械学習モデルを開発すること。
• 偽物およびクローンチャンネルを用いた一貫した誤情報拡散の事例としてのサブマイク陰謀説を調査すること。
• 将来の研究のための一般用途で利用可能な、公開済みのTelegramチャンネルデータセットであるTGDatasetをリリースすること。

提案手法

• 公開APIアクセスとクローリングを用いて、35,382のTelegramチャンネルと130万件を超えるメッセージを収集した。
• メッセージの転送パターンからネットワークグラフを構築し、チャンネル間の情報の流れを追跡した。
• テキスト的および構造的特徴（例：ユーザーネームの類似度、メッセージパターン）を用いた機械学習モデルを提案し、偽物チャンネルを分類した。
• 確認済みおよび報告済みのスキャンダルチャンネルからのラベル付きデータでモデルを学習させ、86%の正確性を達成した。
• グラフベースの分析により、サブマイクネットワークの構造を同定した。このネットワークには98のチャンネルとその拡散経路が含まれていた。
• クローンおよび偽物チャンネルのコンテンツ分析を実施し、収益化戦略およびイデオロギーの広報戦略を特定した。

実験結果

リサーチクエスチョン

• RQ1 Telegramチャンネルでは、どのような境界領域および違法活動が広がっており、プラットフォームの特徴をどのように悪用しているか？
• RQ2 Telegramにおける偽物およびクローンチャンネルは、構造、コンテンツ、拡散メカニズムにおいてどのように異なるか？
• RQ3 機械学習は、どれほど正確に偽物Telegramチャンネルを検出できるのか？提案されたモデルの有効性はいかほどか？
• RQ4 サブマイク陰謀説は、どのように偽物およびクローンチャンネルを用いて急速に広がったのか？その拡散を可能にしたネットワークパターンは何か？
• RQ5 検証されていないチャンネルが、ユーザーのプライバシー、誤情報、プラットフォームガバナンスに与える影響は何か？

主な発見

• 本研究では、公式チャンネルのコンテンツを複製し、参加者を獲得し、暗号通貨やイデオロギーを広める目的で使用される83のクローンチャンネルを同定した。
• 機械学習モデルは、偽物チャンネルの検出において86%の正確性を達成し、191件の疑わしい偽物を特定。そのうち27件が不正であると確認された。
• スキャンダルチャンネルは、メッセージの転送により、確認済みチャンネルから2ホップ未満で到達可能であり、ユーザーが高リスクコンテンツにさらされる危険性がある。
• サブマイク陰謀ネットワークは98のチャンネルから構成され、その98％のメンバーがメインチャンネルからの1ホップ接続によって参加した。
• サブマイクネットワークは100万人以上のユーザーに到達した。このネットワークは、偽物およびクローンチャンネルを用いて、メッセージの拡散を急速に拡大した。
• データセットは、Telegramの検証およびスキャンダルマーク制度にもかかわらず、児童ポルノ、復讐ポルノ、カードリング、白人至上主義的物的が広範に存在することを明らかにした。