[論文レビュー] Impact of Fake Agents on Information Cascades

Pawan Poojary, Randall Berry|arXiv (Cornell University)|May 12, 2020

Game Theory and Applications参考文献 21被引用数 8

ひとこと要約

本稿は、常に固定された行動を取ることで結果に影響を与える「なりすましエージェント」——合理的な意思決定者であり、意思決定に影響を与えるために行動する者——がベイジアン学習モデルにおける情報カスケードに与える影響を研究する。可算無限の状態空間を持つマルコフ連鎖を用いて、なりすましエージェントの割合を増やすと、直感に反して彼ら自身の好むカスケードが発生する可能性を低下させる一方で、すべての合理的エージェントの福利厚生を著しく向上させることを示しており、予期しない均衡ダイナミクスを明らかにしている。

ABSTRACT

In online markets, agents often learn from other's actions in addition to their private information. Such observational learning can lead to herding or information cascades in which agents eventually ignore their private information and "follow the crowd". Models for such cascades have been well studied for Bayes-rational agents that arrive sequentially and choose pay-off optimal actions. This paper additionally considers the presence of fake agents that take a fixed action in order to influence subsequent rational agents towards their preferred action. We characterize how the fraction of such fake agents impacts the behavior of rational agents given a fixed quality of private information. Our model results in a Markov chain with a countably infinite state space, for which we give an iterative method to compute an agent's chances of herding and its welfare (expected pay-off). Our main result shows a counter-intuitive phenomenon: there exist infinitely many scenarios where an increase in the fraction of fake agents in fact reduces the chances of their preferred outcome. Moreover, this increase causes a significant improvement in the welfare of every rational agent. Hence, this increase is not only counter-productive for the fake agents but is also beneficial to the rational agents.

研究の動機と目的

• 逐次ベイジアン意思決定における情報カスケード形成へのなりすましエージェントの影響を分析すること。
• なりすましエージェントの割合が正しいカスケードと誤ったカスケードの確率、および合理的エージェントの期待報酬に与える影響をモデル化すること。
• なりすましエージェントの存在を増やすと、彼ら自身の目的には悪影響を及ぼすが、合理的エージェントには利益をもたらすような条件を同定すること。
• 一般の事前分布およびゼロの事前報酬設定への一般化を図り、広範な適用可能性を確保すること。

提案手法

• 過去の行動シーケンスの十分統計量に基づき、可算無限の状態空間を持つマルコフ連鎖としてカスケードプロセスを形式化する。
• 閉形式解を避けて、任意の精度でカスケード確率とエージェントの福利厚生を計算する反復的アルゴリズムを開発する。
• ベイズ更新と完全ベイジアン均衡（PBE）を用いて、私的信号と観察された行動に基づく合理的エージェントの最適行動をモデル化する。
• ブラックウェルの定理を適用して、後続で到着するエージェントがより高い福利厚生を達成することを証明し、漸近的福利厚生の上限を確立する。
• 閾値と報酬構造を再定義することで、非一様事前分布およびゼロの事前報酬設定への一般化を実現する。
• 学習結果を改善するための3つの戦略——なりすましエージェントの増加、フィルタリング、行動の変更——を提案し、異なるなりすましエージェントの割合における有効性を分析する。

実験結果

リサーチクエスチョン

• RQ1 ベイジアン情報カスケードモデルにおいて、なりすましエージェントの割合を増やすと、彼らの好むカスケード結果の発生確率にどのような影響を与えるか？
• RQ2 なりすましエージェントの数を増やすと、どのような条件下で彼ら自身の望むカスケードの発生確率が直感に反して著しく低下するのか？
• RQ3 なりすましエージェントの存在が、合理的エージェントの期待報酬（福利厚生）に与える影響は何か？ また、なりすましエージェントの数が増えると福利厚生は向上するのか？
• RQ4 増加、フィルタリング、行動変更といった異なる戦略が、なりすましエージェントが存在する状況下で社会的福利厚生と学習効率にどのように影響を与えるか？
• RQ5 一般の事前分布および非ゼロの事前報酬設定へとモデルを拡張可能か？ また、その際、主要な分析的結果は保持されるか？

主な発見

• なりすましエージェントの割合 ǫ に対して、無限に多くの閾値が存在し、それらのいずれの閾値をわずかに超えると、なりすましエージェントの好むカスケードの発生確率が低下する。これは直感に反する。
• 自身の成功確率が低下するにもかかわらず、任意のこのような閾値を超えた段階で、すべての合理的エージェントの期待報酬（福利厚生）が著しくかつ急激に向上する。
• 合理的エージェントの漸近的福利厚生は、到着順序が進むにつれて単調に増加し、エージェントの到着インデックスが無限大に近づくと、上限の最大値に達する。
• なりすましエージェントの割合が1に近づくと、圧倒的ななりすましエージェントの存在下でも、合理的エージェントは非自明な福利厚生を達成可能である。特に最適なデータベース変更戦略を採用した場合に顕著である。
• なりすましエージェントの割合が高い場合には、なりすまし行動をフィルタリングすることが最も効果的であり、割合が低い場合には行動の変更が最大の福利厚生向上効果をもたらし、ǫ → 0 のときにはその負の福利厚生効果を完全に相殺する。
• 結果は一般の事前分布およびゼロの事前報酬設定へと拡張可能であり、福利厚生方程式における定数項のみが変化するが、コアとなるダイナミクスおよび予期しない現象は保持される。