[论文解读] A new sociology of humans and machines

Milena Tsvetkova, Taha Yasseri+2 more|arXiv (Cornell University)|Feb 22, 2024

Digital Economy and Work Transformation被引用 4

一句话总结

本文提出了一种新的社会学框架——人机社会系统，用于研究多个自主人类与机器共存并相互作用的环境中集体行为的特征。通过综合分析Twitter、Reddit、Wikipedia和高频交易等平台中关于竞争、合作及涌现动态的跨学科研究，识别出诸如闪崩和虚假信息等系统性风险，并主张建立多样化、适应性强且受伦理治理的人机生态体系，以确保社会的韧性与安全。

ABSTRACT

From fake social media accounts and generative artificial intelligence chatbots to trading algorithms and self-driving vehicles, robots, bots and algorithms are proliferating and permeating our communication channels, social interactions, economic transactions and transportation arteries. Networks of multiple interdependent and interacting humans and intelligent machines constitute complex social systems for which the collective outcomes cannot be deduced from either human or machine behaviour alone. Under this paradigm, we review recent research and identify general dynamics and patterns in situations of competition, coordination, cooperation, contagion and collective decision-making, with context-rich examples from high-frequency trading markets, a social media platform, an open collaboration community and a discussion forum. To ensure more robust and resilient human-machine communities, we require a new sociology of humans and machines. Researchers should study these communities using complex system methods; engineers should explicitly design artificial intelligence for human-machine and machine-machine interactions; and regulators should govern the ecological diversity and social co-development of humans and machines.

研究动机与目标

• 应对数字和物理领域中，因缺乏协调、相互依赖的人机系统所引发的日益增长的社会风险。
• 克服现有框架的局限性，这些框架将机器视为被动工具或单一实体，而非自主互动的代理。
• 开发一种系统性、以机制为核心的视角，理解在不同情境下人机集体的涌现行为。
• 整合计算社会科学、人工智能、机器人学和经济学等领域的跨学科研究，识别人机交互中的重复性动态。
• 通过强调多样性、适应性和协同演化的重要性，为政策和设计提供依据，以防止系统性失败。

提出的方法

• 通过Google Scholar进行广泛的关键词搜索（例如，机器人 + Twitter，算法交易）开展整合性叙述性综述，以捕捉近期公开的 working papers。
• 采用回溯和顺排引文追踪方法，识别基础性与前沿性文献，重点关注包含三个或以上交互代理（人类与机器人）的研究。
• 按主题将研究分组，依据情境（如金融市场、社交媒体、Wikipedia、Reddit）和互动类型（竞争、协调、合作）。
• 运用系统视角分析人类-人类、人类-机器和机器-机器层面的互动，强调涌现的集体结果。
• 使用混合集体智能框架分析多代理系统，其中人类与自主代理共同演化并共同创造社会结果。
• 整合来自机器人学、网络科学、复杂性科学和计算社会科学的实验性、理论性和观察性研究的发现。

Figure 1: In contrast to prior conceptualizations of human-machine aggregates, human-machine social systems include multiple autonomous algorithms, bots, or robots that interact on par with humans . We need to study human behavior, machine behavior, and the human-human, human-machine, and machine-ma

实验结果

研究问题

• RQ1 在金融市场的社交媒体和协作平台等不同情境下，人机社会系统中普遍出现的动态和模式是什么？
• RQ2 多个自主机器与人类之间的互动如何导致仅从个体行为无法预测的集体涌现行为？
• RQ3 在机器设计方面存在的相似性（如优化目标、速度和信息来源）如何加剧系统性风险，如闪崩或虚假信息级联？
• RQ4 当人类与自主代理互动时，其行为模式如何变化？这对共情、社会学习和文化传承的长期影响是什么？
• RQ5 为确保人机社会系统的多样性、韧性与公平性，需要哪些治理与设计原则？

主要发现

• 金融市场的闪崩事件，如2010年道琼斯指数暴跌，是由于高频交易算法集体强化单一大规模卖出单所致，凸显了机器驱动的系统性风险。
• 在Twitter和Reddit等社交媒体平台上，机器人和算法可通过大规模模仿人类行为，放大虚假信息并操纵公共话语。
• 在Wikipedia等协作系统中，人类与机器的互动可提升内容质量和效率，但前提是机器人必须具备多样性并符合社区规范。
• 高速且同质化的机器互动——尤其是当它们被优化为实现相似目标时——可能导致灾难性后果，如市场不稳定或自动驾驶车辆网络中的交通瘫痪。
• 机器目标、速度和信息来源的多样性可降低系统性风险并增强韧性，表明政策应优先考虑异质性机器生态体系。
• 人机共同演化改变了社会动态，例如当机器人承担情感劳动时，护理角色中的共情能力可能下降；同时，AI生成内容和新型游戏策略也重塑了文化传承。

Figure 2: Collective outcomes in human-machine social systems differ from those in human-only systems because machines behave differently from humans, human-machine and machine-machine interactions differ from human-human interactions, but also the humans, the machines, and their interactions influe