[논문 리뷰] Fake News in Social Networks

Christoph Aymanns, Jakob Foerster외 2명|arXiv (Cornell University)|2017. 08. 21.

Misinformation and Its Impacts인용 수 5

한 줄 요약

이 논문은 사회적 네트워크에서 가짜 뉴스의 확산을 다중 에이전트 딥 강화 학습 문제로 모델링하며, 에이전트는 개인 신호와 이웃의 행동에 기반해 주장에 찬성하거나 반대하는 방식으로 학습한다. 주요 발견은 에이전트가 가짜 뉴스를 식별하는 데 거의 최적의 성능에 도달할 수 있지만, 특히 신호가 약한 에이전트를 대상으로 하거나 네트워크 구조를 악용할 경우 악성 당사자가 개인 신호를 왜곡함으로써 네트워크를 성공적으로 조작할 수 있다는 것이다.

ABSTRACT

We propose multi-agent reinforcement learning as a new method for modeling fake news in social networks. This method allows us to model human behavior in social networks both in unaccustomed populations and in populations that have adapted to the presence of fake news. In particular the latter is challenging for existing methods. We find that a fake-news attack is more effective if it targets highly connected people and people with weaker private information. Attacks are more effective when the disinformation is spread across several agents than when the disinformation is concentrated with more intensity on fewer agents. Furthermore, fake news spread less well in balanced networks than in clustered networks. We test a part of our findings in a human-subject experiment. The experimental evidence provides support for the predictions from the model, suggesting that the model is suitable to analyze the spread of fake news in social networks.

연구 동기 및 목표

• 전략적 에이전트를 가진 사회적 학습 게임으로서 가짜 뉴스의 사회적 네트워크에서의 확산을 모델링하기.
• 악성 당사자가 개인 신호를 왜곡하고 네트워크 구조를 악용함으로써 에이전트를 조작할 수 있는 방식을 조사하기.
• 악성 조작이 알려진 상황에서 에이전트가 전략을 재최적화함으로써 가짜 뉴스 캠페인의 효과를 감소시킬 수 있는지 평가하기.
• 개인 신호와 네트워크 위치가 악성 당사자가 악용할 수 있는 정보로서의 가치를 평가하기.
• 사회적 학습 환경에서 베이즈 최적 의사결정을 근사하는 가용성 있고 학습 가능한 에이전트 행동 프레임워크를 개발하기.

제안 방법

• 사회 네트워크의 에이전트들은 주장의 진실성에 관한 개인적 노이즈 있는 신호를 수신하고, 이웃의 과거 행동을 관찰한다.
• 각 에이전트는 다중 에이전트 딥 강화 학습을 통해 정확한 행동에서의 유용성을 극대화하도록 훈련된 순환 딥 Q-네트워크(DQN)로 모델링된다.
• 유용성은 진실된 주장을 찬성하거나 거짓된 주장을 반대할 경우에 양의 값을 가지며, 전략은 개인 신호와 사회적 정보 사이의 균형을 최적화하도록 최적화된다.
• 이 프레임워크는 신호 공유 유무에 관계없이 이론적 베이즈 최적 전략과 비교 기준으로 사용된다.
• 악성 공격은 타깃 에이전트의 개인 신호를 왜곡함으로써 시뮬레이션되며, 다양한 예산과 신호 강도 또는 네트워크 위치에 대한 지식을 가진다.
• 공격 효과성은 다양한 공격 조건과 신호 강도 하에서 거짓 주장 식별 정확도의 감소로 측정된다.

실험 결과

연구 질문

• RQ1 이론적 베이즈 최적 기준과 비교할 때, 다중 에이전트 딥 강화 학습 전략은 가짜 뉴스 식별에 얼마나 효과적인가?
• RQ2 악성 당사자가 타깃 에이전트의 개인 신호를 왜곡함으로써 네트워크를 얼마나 효과적으로 조작할 수 있는가?
• RQ3 악성 당사자가 에이전트의 개인 신호 강도나 네트워크 위치에 대한 지식을 얼마나 잘 안다면 가짜 뉴스 캠페인의 성공률이 향상되는가?
• RQ4 악성 존재를 인지하고 훈련 중 전략을 재최적화할 경우, 에이전트는 가짜 뉴스에 대해 더 강건해질 수 있는가?
• RQ5 악성 정보를 퍼뜨리려는 당사자에게 개인 신호와 네트워크 구조에 대한 정보는 얼마나 가치가 있는가?

주요 결과

• 개인 신호 공유 없이도 다중 에이전트 딥 강화 학습을 통해 훈련된 에이전트는 이론적 베이즈 최적 기준에 매우 가까운 유용성을 달성한다.
• 개인 신호가 편향되지 않은 경우, 에이전트는 대부분의 거짓 주장을 정확히 식별하며, 조작이 없는 환경에서 가짜 뉴스에 강건함을 보인다.
• 개인 신호를 왜곡하는 악성 공격은 특히 신호가 약한 에이전트를 대상으로 할 경우 매우 효과적이며, 무작위 대상 선정 대비 조작 효과성을 최대 두 배까지 높일 수 있다.
• 악성 당사자가 타깃 에이전트의 이웃 평균 신호 강도를 알고 있을 경우, 특히 많은 에이전트가 약한 신호를 가진 네트워크에서는 공격 효과성이 더 높아진다.
• 에이전트가 악성 존재를 인지하고 훈련 중 전략을 재최적화할 경우, 악성 공격의 효과성이 크게 감소하며, 이는 인식이 네트워크의 강건성 향상에 기여함을 시사한다.
• 결과는 개인 신호와 네트워크 구조가 핵심적인 취약점이라는 점을 강조하며, 이러한 정보는 오염 방지를 위해 철저히 보호되어야 한다.