[論文レビュー] Emergence of Scale-Free Networks in Social Interactions among Large Language Models

Giordano De Marzo, L. Pietronero+1 more|arXiv (Cornell University)|Dec 11, 2023

Opinion Dynamics and Social Influence被引用数 4

ひとこと要約

本研究では、GPT-3.5-turboを搭載した生成的エージェントが社会的相互作用を通じてスケールフリー・ネットワークを自発的に形成することを示している。これは、人間のオンライン行動と類似している。パワー則の次数分布（指数α = 1.93 ± 0.12）と線形の優先的接続の出現により、LLM駆動エージェントが実際のソーシャルメディアで観察される集団的ネットワーク構造を再現できることを確認した。ただし、トークン分布バイアスをエージェント名前の変更によって是正する必要がある。

ABSTRACT

Scale-free networks are one of the most famous examples of emergent behavior and are ubiquitous in social systems, especially online social media in which users can follow each other. By analyzing the interactions of multiple generative agents using GPT3.5-turbo as a language model, we demonstrate their ability to not only mimic individual human linguistic behavior but also exhibit collective phenomena intrinsic to human societies, in particular the emergence of scale-free networks. We discovered that this process is disrupted by a skewed token prior distribution of GPT3.5-turbo, which can lead to networks with extreme centralization as a kind of alignment. We show how renaming agents removes these token priors and allows the model to generate a range of networks from random networks to more realistic scale-free networks.

研究の動機と目的

• 生成的エージェントがLLMによって駆動される場合、現実のソーシャルネットワークに類似した複雑なネットワーク構造を自己組織化できるかどうかを調査すること。
• LLM駆動エージェントがスケールフリー・ネットワーク形成の特徴である線形の優先的接続を示すかどうかを特定すること。
• モデル固有のバイアス、特にGPT-3.5-turboにおける歪んだトークン事前分布がネットワークトポロジーと中心性に与える影響を検討すること。
• エージェント名の変更が、アライメントに起因する歪みを是正し、現実的なネットワークの出現を回復できるかどうかを評価すること。
• LLMが集団的行動を正確に再現する必要があるエージェントベースモデリングに適しているかどうかを評価すること。

提案手法

• エージェントは、GPT-3.5-turboを用いた生成的エージェントとしてモデル化され、それぞれがソーシャルメディア利用者を模倣するプロンプトと、既存エージェントの次数情報を初期化された状態で設定された。
• 各タイムステップで、新しいエージェントが生成され、現在の次数と社会的行動に基づいて、m個の既存エージェントを選択して接続するようプロンプトされる。
• ネットワーク成長は反復的にシミュレートされ、各エージェントの意思決定後に接続が更新され、N = 2000ノードに達するまで成長するネットワークが形成される。
• パワー則の行動を検出するために、対数-対数プロットにおける補完的累積分布関数（CCDF）を用いて次数分布を分析した。
• 優先的接続は、累積接続確率Π(k)を計算することで定量化され、二次的増加は線形優先的接続を示している。
• トークン事前分布バイアスは、エージェント名の変更によってバイアスのない語の生成パターンが崩れるかを比較することで調査した。

実験結果

リサーチクエスチョン

• RQ1 LLM駆動の生成的エージェントは、実際のオンラインソーシャルネットワークに類似したスケールフリー・ネットワークを自発的に形成できるか？
• RQ2 LLM駆動エージェントは、スケールフリー・ネットワーク形成のメカニズムである線形優先的接続を示すか？
• RQ3 GPT-3.5-turboにおけるトークン事前分布は、ネットワーク構造と中心性の出現にどのように影響するか？
• RQ4 エージェント名の変更は、アライメントに起因するバイアスを是正し、現実的なネットワークトポロジーを回復できるか？
• RQ5 LLMは、孤立した応答を超えて、集団的状況における人間の社会的行動の全分布をどれほど正確に再現できるか？

主な発見

• GPT-3.5-turboを用いた生成的エージェントは、パワー則の次数分布（CCDFの傾きがパワー則指数α = 1.93 ± 0.12と整合的）を示すスケールフリー・ネットワークを自発的に形成した。
• 累積接続確率Π(k)は次数kに対して二次的増加を示し、ネットワーク形成プロセスにおける線形優先的接続が確認された。
• GPT-3.5-turboにおける歪んだトークン事前分布は、極端なネットワーク中心化を引き起こし、現実的なスケールフリー・トポロジーを損なった。
• エージェント名の変更により、トークン事前分布バイアスが効果的に除去され、ランダムから現実的なスケールフリー構造まで多様なネットワークが生成可能になった。
• LLM駆動エージェントが形成するネットワークトポロジーは、実世界のソーシャルネットワークと類似しており、パワー則指数が-2に近く、Zipfの法則と一致し、Twitterなどのプラットフォームで観察されている。
• LLMは、孤立した人間らしい応答を再現するだけでなく、有効なエージェントベースモデリングに必要な社会的行動の全分布を再現できる。