[论文解读] Emergence of Scale-Free Networks in Social Interactions among Large Language Models

Giordano De Marzo, L. Pietronero+1 more|arXiv (Cornell University)|Dec 11, 2023

Opinion Dynamics and Social Influence被引用 4

一句话总结

本研究表明，由 GPT-3.5-turbo 驱动的生成式智能体通过社交互动自发形成无标度网络，其特征与人类在线行为相一致。幂律度分布的出现（指数 α = 1.93 ± 0.12）以及线性优先连接机制的确认，表明大语言模型驱动的智能体能够复现真实社交媒体中观察到的集体网络结构，前提是通过智能体重命名策略缓解令牌分布偏差。

ABSTRACT

Scale-free networks are one of the most famous examples of emergent behavior and are ubiquitous in social systems, especially online social media in which users can follow each other. By analyzing the interactions of multiple generative agents using GPT3.5-turbo as a language model, we demonstrate their ability to not only mimic individual human linguistic behavior but also exhibit collective phenomena intrinsic to human societies, in particular the emergence of scale-free networks. We discovered that this process is disrupted by a skewed token prior distribution of GPT3.5-turbo, which can lead to networks with extreme centralization as a kind of alignment. We show how renaming agents removes these token priors and allows the model to generate a range of networks from random networks to more realistic scale-free networks.

研究动机与目标

• 探究由大语言模型驱动的生成式智能体是否能自发组织成类似于现实世界社交网络的复杂网络结构。
• 确定大语言模型驱动的智能体是否表现出线性优先连接，这是无标度网络形成的标志性机制。
• 考察模型特异性偏差（尤其是 GPT-3.5-turbo 中的倾斜令牌先验）对网络拓扑与中心性的影响。
• 评估通过重命名智能体是否可缓解对齐引起的偏差，并恢复真实的网络涌现特性。
• 评估大语言模型在需要准确反映集体人类行为的基于智能体建模中的适用性。

提出的方法

• 智能体被建模为使用 GPT-3.5-turbo 的生成式智能体，每个智能体均通过模拟社交媒体用户的提示词初始化，并附带现有智能体的度信息。
• 在每个时间步，新智能体被创建，并根据其当前度与社交行为，被提示选择 m 个已有智能体建立连接。
• 通过迭代模拟网络增长，每次智能体决策后更新连接关系，形成逐步扩展的网络，直至达到 N = 2000 个节点。
• 通过双对数坐标下的互补累积分布函数（CCDF）分析度分布，以检测幂律行为。
• 通过计算累积连接概率 Π(k) 来量化优先连接机制，其中二次增长表明存在线性优先连接。
• 通过对比启用与未启用智能体重名的网络，研究令牌先验偏差的影响，以破坏有偏的词语生成模式。

实验结果

研究问题

• RQ1 由大语言模型驱动的生成式智能体能否自发形成类似于真实在线社交网络的无标度网络？
• RQ2 大语言模型驱动的智能体是否表现出线性优先连接，即无标度网络形成的机制？
• RQ3 GPT-3.5-turbo 中的令牌先验分布如何影响网络结构与中心性的涌现？
• RQ4 重命名智能体是否能缓解对齐引起的偏差，并恢复真实的网络拓扑？
• RQ5 大语言模型在多大程度上能够复现集体场景中人类社交行为的完整分布，而不仅限于孤立响应？

主要发现

• 使用 GPT-3.5-turbo 的生成式智能体自发形成具有幂律度分布的无标度网络，CCDF 图中斜率与幂律指数 α = 1.93 ± 0.12 一致。
• 累积连接概率 Π(k) 随度 k 呈二次增长，证实网络形成过程中存在线性优先连接。
• GPT-3.5-turbo 中的倾斜令牌先验导致网络中心化程度极高，破坏了真实的无标度拓扑结构。
• 通过重命名智能体可有效消除令牌先验偏差，使模型能够生成从随机到真实无标度结构的各类网络。
• 大语言模型驱动的智能体形成的网络拓扑与现实世界社交网络高度一致，幂律指数接近 -2，符合齐普夫定律，并与 Twitter 等平台的观测结果一致。
• 大语言模型不仅能复现孤立的类人响应，还能复现基于智能体建模所必需的完整社交行为分布。