[論文レビュー] Mutual Hyperlinking Among Misinformation Peddlers

Vibhor Sehgal, Ankit Peshin+2 more|arXiv (Cornell University)|Apr 20, 2021

Misinformation and Its Impacts参考文献 36被引用数 9

ひとこと要約

本稿では、ウェブサイト間の相互ハイパーリンクパターンとTwitterユーザーの共有行動を分析することで、誤情報拡散業者をドメインレベルで同定・低減するアプローチを提案する。誤情報ドメインは信頼できるドメインとのリンクが少なく、互いに密接に接続されたクラスタを形成しており、特定のユーザーは一貫してこれらのネットワークを拡散しており、推薦システムにおける同定と低減が可能である。

ABSTRACT

The internet promised to democratize access to knowledge and make the world more open and understanding. The reality of today's internet, however, is far from this ideal. Misinformation, lies, and conspiracies dominate many social media platforms. This toxic online world has had real-world implications ranging from genocide to, election interference, and threats to global public health. A frustrated public and impatient government regulators are calling for a more vigorous response to mis- and disinformation campaigns designed to sow civil unrest and inspire violence against individuals, societies, and democracies. We describe a large-scale, domain-level analysis that reveals seemingly coordinated efforts between multiple domains to spread and amplify misinformation. We also describe how the hyperlinks shared by certain Twitter users can be used to surface problematic domains. These analyses can be used by search engines and social media recommendation algorithms to systematically discover and demote misinformation peddlers.

研究の動機と目的

• ソーシャルメディアのアルゴリズムを悪用して誤りや陰謀論を広める、組織的な誤情報キャンペーンの増加する脅威に対処すること。
• 個々の投稿の事実確認ではスケーラブルでないため、スケーラブルなドメインレベルの検出技術を開発すること。
• 誤情報ドメインと信頼できる情報ドメインを区別するハイパーリンクネットワークの構造的パターンを同定すること。
• 誤情報ドメインにリンクを頻繁に共有する、一貫した行動を示す「スーパースプレッダー」Twitterユーザーを特定すること。
• 検索エンジンや推薦アルゴリズムが、構造的および行動的信号に基づいて誤情報ネットワーク全体を低減できるツールを提供すること。

提案手法

• 相互ハイパーリンクを用いてドメインレベルのハイパーリンクネットワークを構築し、1%のジャカード類似度閾値を用いて接続を定義する。
• Twitterユーザーのデータから、同じユーザーが共有するリンクに基づいてソーシャルメディアのリンク共有ネットワークを構築する。
• コミュニティ検出を適用して、特に誤情報ドメインが優勢な、内部接続性の高いドメインクラスタを同定する。
• ハイパーリンクパターンとTwitterユーザーのエンゲージメント指標に基づいて、ドメインが誤情報的であるかを予測するバイナリ分類器を訓練する。
• 閾値ベースのアプローチを用いて、複数の誤情報ドメインに高頻度でリンクを共有する「スーパースプレッダー」ユーザーを同定する。
• 同定された構造的および行動的パターンを活用し、推薦システムにおいて誤情報ネットワーク全体を低減するための提案を行う。

実験結果

リサーチクエスチョン

• RQ1 誤情報ドメインは、情報ドメインとのリンクと比較して、顕著に強い相互ハイパーリンクを示すか？
• RQ2 ドメインのハイパーリンク構造は、そのドメインが誤情報拡散業者である確率を予測できるか？
• RQ3 複数の誤情報ドメインに一貫してリンクを共有する特定のTwitterユーザーが存在するか、すなわちスーパースプレッダー行動を示すか？
• RQ4 ハイパーリンクパターンとソーシャルメディアの共有行動を組み合わせることで、誤情報ドメインを効果的に同定する分類器を訓練できるか？
• RQ5 誤情報ネットワークは、広範なウェブとは明確に分離された、一貫性のある閉じたコミュニティを形成するか？

主な発見

• 誤情報ドメインは顕著に強い相互ハイパーリンクを示しており、131ドメインの最大コミュニティの89.3%が誤情報的であり、46ドメインのコミュニティでは91.3%が誤情報的である。
• 誤情報ドメインの平均内部接続数は7.55であり、外部接続数は1.57であるのに対し、情報ドメインはそれぞれ1.00および0.86である。
• 気候変動否定を主張する14ドメインのコミュニティ（wattsupwiththat.comを含む）は、非常に密接に接続されたネットワークを形成しており、14中13が誤情報的である。
• 特定のTwitterユーザーは、複数の誤情報ドメインに高頻度でリンクを共有する予測可能な行動パターンを示しており、スーパースプレッダー行動を示している。
• ハイパーリンク構造そのもので誤情報ステータスを高い正確性で予測可能であり、個々の投稿の分析なしにスケーラブルな検出が可能である。
• 本研究では、誤情報ドメインと情報ドメインの間で明確な構造的分断が確認され、誤情報ネットワークが自己強化的な孤立したクラスタを形成していることが明らかになった。