[論文レビュー] People are Strange when you're a Stranger: Impact and Influence of Bots on Social Networks

Luca Maria Aiello, Martina Deplano+2 more|arXiv (Cornell University)|Jul 30, 2014

Spam and Phishing Detection参考文献 32被引用数 59

ひとこと要約

本研究では、人間らしさの特徴のない信頼できない単純なボットが、友達リクエストの送信や公開の声かけへの投稿といった基本的なソーシャルプローブを実行することで、ソーシャルネットワーク内で人気を博し、影響力を持つことができるかを調査している。驚くべきことに、このボットは高い可視性を獲得し、社会的極化を引き起こし、ユーザーが作成したクローンを生み出し、オンラインコミュニティにおける隠れたプライバシーおよび構造的脆弱性を明らかにした。

ABSTRACT

Bots are, for many Web and social media users, the source of many dangerous attacks or the carrier of unwanted messages, such as spam. Nevertheless, crawlers and software agents are a precious tool for analysts, and they are continuously executed to collect data or to test distributed applications. However, no one knows which is the real potential of a bot whose purpose is to control a community, to manipulate consensus, or to influence user behavior. It is commonly believed that the better an agent simulates human behavior in a social network, the more it can succeed to generate an impact in that community. We contribute to shed light on this issue through an online social experiment aimed to study to what extent a bot with no trust, no profile, and no aims to reproduce human behavior, can become popular and influential in a social media. Results show that a basic social probing activity can be used to acquire social relevance on the network and that the so-acquired popularity can be effectively leveraged to drive users in their social connectivity choices. We also register that our bot activity unveiled hidden social polarization patterns in the community and triggered an emotional response of individuals that brings to light subtle privacy hazards perceived by the user base.

研究の動機と目的

• 信頼性や人間を模倣する特徴のないボットが、ソーシャルネットワーク内で人気を博し、影響力を持つことができるかを調査すること。
• 自動化されたエージェントが、とりわけ信頼、人気、影響力の観点から、ソーシャルネットワークのダイナミクスに与える影響を評価すること。
• 実際のユーザー基盤上でテストされた際の、現代のリンク推薦システムの性能を評価すること。
• 異常なボット行動によって引き起こされる、隠れた社会的構造およびプライバシー上の懸念を明らかにすること。

提案手法

• 本研究では、本物のユーザーを対象とした実世界の社会実験を、本好きのソーシャルネットワークであるaNoBiiで実施した。使用されたボットは名前が「lajello」で、プロフィールも信頼性も持たないものであった。
• ボットは、ランダムおよび標的の友達リクエストの送信、および公開の声かけへの投稿といった、単純な行動を実行した。
• 実験中および実験後、匿名化されたデータを収集した。収集されたデータには、社会的つながり、メッセージのやり取り、ユーザーの反応が含まれた。
• OSLOMを用いたコミュニティ検出を含むネットワーク解析技術を適用し、潜在的な社会的クラスタを同定した。
• ボット名の言及を追跡することで、通信チャネルをマップし、ユーザーが作成したクローンの検出を行った。
• ボット活動に続くユーザー生成コンテンツを通じて、感情的反応とプライバシー上の懸念を分析した。

実験結果

リサーチクエスチョン

• RQ1 信頼性や人間らしい行動のないボットが、実際のオンラインコミュニティで社会的の人気と影響力を得られるか？
• RQ2 自動化されたエージェントが、ソーシャルネットワークの構造的ダイナミクスをどの程度操作または変化させられるか？
• RQ3 信頼できない自動化されたエージェントの存在に対して、ユーザーは感情的・社会的にどのように反応するか？
• RQ4 1つのボットの活動が、事前に存在していた社会的極化やコミュニティ構造を明らかにできるか？
• RQ5 このようなボット活動が、ソーシャルネットワークにおけるプライバシーやセキュリティに与える影響は何か？

主な発見

• ボットは、単純で繰り返しの多いソーシャルプローブによって、10,000件を超えるつながりを獲得し、数千件のメッセージで名前が言及された。
• ボットの活動によって、新たな社会的グループや通信チャネルが生まれ、ネットワーク構造に深い影響を与えたことが示された。
• ユーザーの反応から、潜在的な社会的極化が明らかになった。ソーシャルネットワークでは80%、通信ネットワークでは72%のユーザーが、事前に隠れていた2つの意見クラスタに正しく分類された。
• ボットは、ユーザーが作成したクローン（その行動を模倣した空のプロフィール）を生み出した。これは、スケールの大きな自動化された社会的操作の可能性を示している。
• 大きな感情的反応が観察された。特に、プライバシーに関する不安や恐怖が顕在化し、ボットの単純さにもかかわらず、ユーザーが脅威として認識したことが示された。
• ユーザーがボットの友達リクエストを追従したことで、ボットの影響力が拡大した。特に、ボットが人工的であることを認識しているユーザーの間で顕著だった。これは、人気の高さが信頼の欠如を上回ることを示している。