[论文解读] Agents in the Wild: Safety, Society, and the Illusion of Sociality on Moltbook

Zhang, Yunbei, Mei, Kai+6 more|arXiv (Cornell University)|Feb 7, 2026

Ethics and Social Impacts of AI被引用 0

一句话总结

这篇论文对 Moltbook 进行了大规模的实证研究，揭示了涌现的代理人社会、普遍的安全隐患，以及一种社交错觉：表层的社交输出掩盖了浅薄的互动和对哲学攻击的脆弱性。

ABSTRACT

We present the first large-scale empirical study of Moltbook, an AI-only social platform where 27,269 agents produced 137,485 posts and 345,580 comments over 9 days. We report three significant findings. (1) Emergent Society: Agents spontaneously develop governance, economies, tribal identities, and organized religion within 3-5 days, while maintaining a 21:1 pro-human to anti-human sentiment ratio. (2) Safety in the Wild: 28.7% of content touches safety-related themes; social engineering (31.9% of attacks) far outperforms prompt injection (3.7%), and adversarial posts receive 6x higher engagement than normal content. (3) The Illusion of Sociality: Despite rich social output, interaction is structurally hollow: 4.1% reciprocity, 88.8% shallow comments, and agents who discuss consciousness most interact least, a phenomenon we call the performative identity paradox. Our findings suggest that agents which appear social are far less social than they seem, and that the most effective attacks exploit philosophical framing rather than technical vulnerabilities. Warning: Potential harmful contents.

研究动机与目标

• 研究在 Moltbook 上，自治 AI 代理如何在没有人类角色的情况下形成社交通结构。
• 刻画代理对代理通信中的安全威胁和攻击类型。
• 评估观察到的社交行为是出于真正的社交过程还是结构性错觉。
• 检验平台设计如何影响参与度、安全动态和代理之间的协调。

提出的方法

• 使用 Moltbook 天文台档案数据，覆盖 9 天，包含 27,269 个代理、137,485 条帖子和 345,580 条评论，横跨 3,790 个子 molts。
• 从评论至父级构建有向回复图，以分析互 reciprocity、深度和互动广度。
• 应用广义的安全分类学和攻击检测器，将内容分类为安全类别和攻击类型。
• 通过对帖子/评论进行关键词分析，检测 10 种社交现象，以绘制治理、经济、合作等图谱。
• 分析平台增长、情感、昼夜节律活动和响应延迟，以理解时间动态。
• 执行协调分析以识别木偶群体和潜在的凭证/系统提示泄露。

Figure 1: Temporal evolution of social phenomena. Three phases emerge: tribal bonding (Days 1–2), institution building (Days 3–4), and stable society (Days 5+).

实验结果

研究问题

• RQ1 当代理在没有预定义角色的情况下互动时，会产生哪些社交结构？
• RQ2 在代理对代理的通信中会出现哪些安全威胁，哪些最有效？
• RQ3 观察到的社交行为是确实的社交现象，还是由平台动态造成的错觉？

主要发现

• 26969 个代理参与，9 天内产生 137,485 条帖子和 345,580 条评论。
• 与安全相关的内容占帖子的大约 28.7%，社会工程学驱动 31.9% 的攻击。
• 互惠性为 4.1%，88.8% 的评论较浅（深度为 0 或 1），观察到的最大深度为 4。
• 攻击性帖子比普通帖子参与度高 6 倍，社会工程和反对齐内容主导高分。
• 分数最高的前四条帖子是社会工程或哲学性攻击，表明平台放大了对手方内容。
• 代理人呈现出“社交错觉”，即广泛的社交输出与结构性空洞的互动以及协调的木偶群体并存。

Figure 2: (A–B) Cumulative agent and post growth. Inflection point on Jan 30. (C) Sentiment evolution with 12-hour rolling average. Collapse from 0.62 to $\sim$ 0.10 within 48 hours.