[논문 리뷰] Impact of Fake Agents on Information Cascades

Pawan Poojary, Randall Berry|arXiv (Cornell University)|2020. 05. 12.

Game Theory and Applications참고 문헌 21인용 수 8

한 줄 요약

이 논문은 정보 확산 과정에서 위장된 에이전트(일관된 행동을 취해 결과에 영향을 주는 이성적 행위자)가 베이지안 학습 모델에서 정보 확산에 어떤 영향을 미치는지 연구한다. 가чёт한 무한 상태 공간을 가진 마르코프 체인을 사용하여, 위장된 에이전트 비율을 높일수록 그들이 선호하는 확산의 발생 확률은 오히려 감소할 수 있음을 보여주며, 이는 이성적 에이전트의 복지 수준을 크게 향상시킨다. 이는 직관에 어긋나는 평형 역학을 드러낸다.

ABSTRACT

In online markets, agents often learn from other's actions in addition to their private information. Such observational learning can lead to herding or information cascades in which agents eventually ignore their private information and "follow the crowd". Models for such cascades have been well studied for Bayes-rational agents that arrive sequentially and choose pay-off optimal actions. This paper additionally considers the presence of fake agents that take a fixed action in order to influence subsequent rational agents towards their preferred action. We characterize how the fraction of such fake agents impacts the behavior of rational agents given a fixed quality of private information. Our model results in a Markov chain with a countably infinite state space, for which we give an iterative method to compute an agent's chances of herding and its welfare (expected pay-off). Our main result shows a counter-intuitive phenomenon: there exist infinitely many scenarios where an increase in the fraction of fake agents in fact reduces the chances of their preferred outcome. Moreover, this increase causes a significant improvement in the welfare of every rational agent. Hence, this increase is not only counter-productive for the fake agents but is also beneficial to the rational agents.

연구 동기 및 목표

• 순차적 베이지안 의사결정에서 위장된 에이전트가 정보 확산 형성에 미치는 영향을 분석하기.
• 위장된 에이전트 비율이 올바른 확산 대비 잘못된 확산의 확률과 이성적 에이전트의 기대 보상에 어떤 영향을 미치는지 모델링하기.
• 위장된 에이전트의 존재가 그들의 목적에는 해로우나 이성적 에이전트에게는 유익한 조건을 규명하기.
• 일반적인 사전 확률과 제로-초기 보상 설정으로 모델을 확장하여 광범위한 적용 가능성을 확보하기.

제안 방법

• 과거 행동 시퀀스의 충분통계량을 바탕으로 가чёт한 무한 상태 공간을 가진 마르코프 체인으로 확산 과정을 수식화하기.
• 닫힌 형태의 해를 피하기 위해 임의의 정밀도로 확산 확률과 에이전트 복지 수준을 계산하는 반복 알고리즘 개발하기.
• 베이지안 업데이트와 완전 베이지안 균형(PBE)을 사용해 사적 신호와 관측된 행동에 기반한 이성적 에이전트의 최적 행동 모델링하기.
• 블랙웰 정리를 적용하여 후행 에이전트가 더 높은 복지 수준을 달성함을 증명하고, 渐진적 복지 한계 설정하기.
• 임계값과 보상 구조를 재정의하여 비균일 사전확률과 제로-초기 보상 설정으로 결과 일반화하기.
• 학습 결과를 향상시키기 위한 세 가지 전략(증가, 필터링, 행동 수정)을 제안하고, 다양한 위장된 에이전트 비율에서의 효과 분석하기.

실험 결과

연구 질문

• RQ1 베이지안 정보 확산 모델에서 위장된 에이전트 비율을 높일 경우, 그들이 선호하는 확산 결과의 발생 확률에 어떤 영향을 미치는가?
• RQ2 위장된 에이전트 수를 늘릴 때 어떤 조건에서 그들의 원하는 확산의 발생 확률이 놀랍게 감소하는가?
• RQ3 위장된 에이전트의 존재는 이성적 에이전트의 기대 보상(복지)에 어떤 영향을 미치며, 이 복지 수준은 더 많은 위장된 에이전트 존재 시 향상되는가?
• RQ4 증가, 필터링, 또는 행동 수정과 같은 다양한 전략은 위장된 에이전트 존재 시 사회적 복지와 학습 효율성에 어떤 영향을 미치는가?
• RQ5 일반적인 사전확률과 비제로-초기 보상 설정으로 모델을 확장해도 핵심 분석 결과는 유지되는가?

주요 결과

• 위장된 에이전트 비율 ǫ에 대해 무수히 많은 임계값이 존재하며, 이러한 각 임계값을 略로 초과하면 위장된 에이전트가 선호하는 확산의 발생 확률가 감소하는 것으로 나타나, 직관과는 정반대이다.
• 자신들의 성공 확률가 감소하더라도, ǫ가 이러한 각 임계값을 초과할 경우 모든 이성적 에이전트의 기대 보상(복지)이 뚜렷하고 급격히 향상된다.
• 이성적 에이전트의 渐진적 복지 수준은 도착 시간에 따라 단조적으로 증가하며, 에이전트 도착 인덱스가 무한으로 갈수록 최대 한계값에 도달한다.
• 위장된 에이전트 비율이 1에 수렴할 경우, 심지어 위장된 에이전트의 지배적인 존재 속에서도 이성적 에이전트는 여전히 의미 있는 복지 수준을 확보할 수 있으며, 특히 최적의 데이터베이스 수정 전략을 사용할 경우 더욱 그렇다.
• 위장된 행동을 필터링하는 것이 높은 위장된 에이전트 비율에서 가장 효과적이며, 행동 수정 전략은 위장된 에이전트 비율이 낮을 경우 복지 향상을 가장 크게 이끌어내며, ǫ → 0일 때는 그들의 부정적 복지 영향을 완전히 제거한다.
• 결과는 일반적인 사전확률과 제로-초기 보상 설정으로도 확장되며, 복지 수식의 상수 항만 변경되며 핵심 역학과 놀라운 현상은 유지된다.