[논문 리뷰] People are Strange when you're a Stranger: Impact and Influence of Bots on Social Networks

Luca Maria Aiello, Martina Deplano외 2명|arXiv (Cornell University)|2014. 07. 30.

Spam and Phishing Detection참고 문헌 32인용 수 59

한 줄 요약

이 연구는 인간과 유사한 특성을 지니지 않은 단순하고 신뢰할 수 없는 봇이 친구 요청을 보내고 공개 쇼트박스에 게시하는 등의 기본적인 사회적 탐색을 통해 소셜 네트워크에서 인기를 얻고 영향력을 행사할 수 있는지 조사한다. 놀랍게도 봇은 높은 노출도를 얻었고, 사회적 극화를 유도하며 사용자가 만든 클론을 만들어내었으며, 온라인 커뮤니티의 숨겨진 프라이버시 및 구조적 취약성을 드러냈다.

ABSTRACT

Bots are, for many Web and social media users, the source of many dangerous attacks or the carrier of unwanted messages, such as spam. Nevertheless, crawlers and software agents are a precious tool for analysts, and they are continuously executed to collect data or to test distributed applications. However, no one knows which is the real potential of a bot whose purpose is to control a community, to manipulate consensus, or to influence user behavior. It is commonly believed that the better an agent simulates human behavior in a social network, the more it can succeed to generate an impact in that community. We contribute to shed light on this issue through an online social experiment aimed to study to what extent a bot with no trust, no profile, and no aims to reproduce human behavior, can become popular and influential in a social media. Results show that a basic social probing activity can be used to acquire social relevance on the network and that the so-acquired popularity can be effectively leveraged to drive users in their social connectivity choices. We also register that our bot activity unveiled hidden social polarization patterns in the community and triggered an emotional response of individuals that brings to light subtle privacy hazards perceived by the user base.

연구 동기 및 목표

• 신뢰도나 인간을 모방하는 특성이 없는 봇이 실재하는 소셜 네트워크에서 인기와 영향력을 얻을 수 있는지 조사하기.
• 자동화된 에이전트가 신뢰, 인기, 영향력 등 소셜 네트워크의 역동성에 미치는 영향을 평가하기.
• 현대의 링크 추천 시스템이 실제 인간 사용자 기반에서 어떻게 작동하는지 평가하기.
• 이상한 봇 행동에 의해 유도되는 숨겨진 사회적 구조와 프라이버시 우려를 밝혀내기.

제안 방법

• 책을 좋아하는 소셜 네트워크인 aNobii에서 실재 사회 실험을 수행하였으며, 프로필이나 신뢰도가 없는 'lajello'라는 이름의 봇을 사용하였다.
• 봇은 간단한 행동을 수행하였는데, 무작위 및 타겟팅된 친구 요청 보내기와 공개 쇼트박스에 게시하기였다.
• 실험 기간 동안 및 이후에 사회적 연결, 메시지 교환, 사용자 반응에 관한 익명화된 데이터를 수집하였다.
• 잠재적 사회 집단을 식별하기 위해 네트워크 분석 기법을 적용하였으며, 특히 OSLOM을 사용하여 공동체 탐지하였다.
• 봇의 이름 언급을 추적하여 소통 채널을 맵핑하고 사용자가 만든 클론을 탐지하였다.
• 봇 활동 이후 사용자가 생성한 콘텐츠를 분석하여 정서적 반응과 프라이버시 우려를 분석하였다.

실험 결과

연구 질문

• RQ1 신뢰도나 인간다운 행동이 없는 봇이 실재하는 온라인 커뮤니티에서 사회적 인기와 영향력을 얻을 수 있는가?
• RQ2 자동화된 에이전트가 소셜 네트워크의 구조적 역동성에 얼마나 깊이 영향을 미칠 수 있는가?
• RQ3 사용자가 신뢰할 수 없는 자동화된 에이전트의 존재에 대해 정서적·사회적으로 어떻게 반응하는가?
• RQ4 단일 봇의 활동이 기존에 존재하던 사회적 극화 또는 공동체 구조를 드러내는 데 기여할 수 있는가?
• RQ5 이러한 봇 활동이 소셜 네트워크의 프라이버시 및 보안에 미치는 영향은 무엇인가?

주요 결과

• 봇은 단순하고 반복적인 사회적 탐색을 통해 상당한 인기를 얻었으며, 10,000개 이상의 연결을 확보하고 수천 건의 메시지에서 이름이 언급되었다.
• 봇의 활동은 새로운 사회적 집단과 소통 채널의 생성을 유도하여 네트워크 구조에 심대한 영향을 미쳤다.
• 사용자 반응을 분석한 결과 잠재적 사회적 극화가 드러났다: 소셜 네트워크의 80% 및 소통 네트워크의 72% 사용자가 이전에는 숨겨져 있던 두 의견 군집으로 정확히 분류되었다.
• 봇은 사용자가 만든 클론(빈 프로필로 봇의 행동을 모방함)을 탄생시켰으며, 이는 대규모 자동화된 사회적 조작의 잠재력을 보여주었다.
• 공포와 프라이버시 우려를 포함한 뚜렷한 정서적 반응이 관찰되어, 봇의 단순함에도 불구하고 사용자들이 봇을 잠재적 위협으로 인식함을 시사했다.
• 사용자들이 봇의 친구 요청을 따를 경우, 특히 봇의 인공성에 인지하고 있는 사용자들 사이에서 봇의 영향력이 증폭되었으며, 이는 인기의 힘이 신뢰를 초월할 수 있음을 보여주었다.