[论文解读] People are Strange when you're a Stranger: Impact and Influence of Bots on Social Networks

Luca Maria Aiello, Martina Deplano+2 more|arXiv (Cornell University)|Jul 30, 2014

Spam and Phishing Detection参考文献 32被引用 59

一句话总结

本研究探讨了一个缺乏可信度且不具备人类特征的简单机器人，如何通过执行基本的社交探测（如发送好友请求和在公共喊话区发帖）在社交网络中获得人气和影响力。令人惊讶的是，该机器人实现了高度可见性，引发社会分化，诱发用户创建克隆账号，并暴露出在线社区中隐藏的隐私和结构漏洞。

ABSTRACT

Bots are, for many Web and social media users, the source of many dangerous attacks or the carrier of unwanted messages, such as spam. Nevertheless, crawlers and software agents are a precious tool for analysts, and they are continuously executed to collect data or to test distributed applications. However, no one knows which is the real potential of a bot whose purpose is to control a community, to manipulate consensus, or to influence user behavior. It is commonly believed that the better an agent simulates human behavior in a social network, the more it can succeed to generate an impact in that community. We contribute to shed light on this issue through an online social experiment aimed to study to what extent a bot with no trust, no profile, and no aims to reproduce human behavior, can become popular and influential in a social media. Results show that a basic social probing activity can be used to acquire social relevance on the network and that the so-acquired popularity can be effectively leveraged to drive users in their social connectivity choices. We also register that our bot activity unveiled hidden social polarization patterns in the community and triggered an emotional response of individuals that brings to light subtle privacy hazards perceived by the user base.

研究动机与目标

• 调查一个没有身份特征或人类模仿能力的机器人是否能在社交网络中获得人气和影响力。
• 评估自动化代理对社交网络动态的影响，特别是信任、人气和影响力方面的影响。
• 评估现代链接推荐系统在真实人类用户群体上测试时的表现。
• 揭示由异常机器人行为触发的隐藏社交结构与隐私问题。

提出的方法

• 在以书友为主题的社交网络 aNobii 上开展真实世界社交实验，使用名为 'lajello' 的机器人，该机器人无个人资料且无可信度。
• 机器人执行简单操作：发送随机和有针对性的好友请求，并在公共喊话区发帖。
• 在实验期间及之后，收集关于社交连接、消息交互和用户反应的匿名化数据。
• 应用网络分析技术，包括 OSLOM 用于社区检测，以识别潜在的社交聚类。
• 追踪机器人名称的提及情况，以绘制通信渠道并检测用户创建的克隆账号。
• 通过用户生成内容分析情绪反应和隐私担忧，以评估机器人活动的影响。

实验结果

研究问题

• RQ1 一个缺乏可信度或人类行为特征的机器人是否能在真实在线社区中实现社交人气和影响力？
• RQ2 自动化代理在多大程度上能够操纵或改变社交网络的结构动态？
• RQ3 用户对一个不可信的自动化代理的出现，在情绪和社交层面有何反应？
• RQ4 单个机器人的活动是否能揭示既存的社会分化或社区结构？
• RQ5 此类机器人活动对社交网络的隐私与安全有何影响？

主要发现

• 该机器人通过简单重复的社交探测实现了显著人气，获得了超过 10,000 个连接，并在数千条消息中被提及。
• 该机器人的活动触发了新社交群体和通信渠道的形成，表明其对网络结构产生了深远影响。
• 用户反应揭示了潜在的社会分化：社交网络中 80% 的用户和通信网络中 72% 的用户可被准确分类为两个意见集群，这些集群此前处于隐藏状态。
• 该机器人激发了用户创建克隆账号——即模仿其行为的空置个人资料——表明大规模自动化社交操控具有潜在可行性。
• 观察到显著的情绪反应，包括对隐私的恐惧和担忧，表明尽管机器人本身极为简单，用户仍将其视为潜在威胁。
• 当用户遵循机器人的好友建议时，其影响力被进一步放大，尤其是那些意识到其人工性质的用户，表明人气可能超越不信任心理。