[论文解读] "Collective Intelligence as Infrastructure for Reducing Broad Global Catastrophic Risks"

Vicky Chuqiao Yang, Anders Sandberg|arXiv (Cornell University)|May 6, 2022

Evolutionary Game Theory and Cooperation被引用 1

一句话总结

本文提出，集体智能（CI）——即群体有效处理分布式信息的能力——应被视为降低广泛全球性灾难风险（GCR）的基础性基础设施。通过应用集体智能原则以改善人类群体的协调、决策与韧性，作者认为可增强各类风险（如大流行病、核战争及对齐失败的人工智能）下的系统稳定性，从而为更稳健的GCR缓解提供跨学科框架。

ABSTRACT

Academic and philanthropic communities have grown increasingly concerned with global catastrophic risks (GCRs), including artificial intelligence safety, pandemics, biosecurity, and nuclear war. Outcomes of many, if not all, risk situations hinge on the performance of human groups, such as whether governments or scientific communities can work effectively. We propose to think about these issues as Collective Intelligence (CI) problems—of how to process distributed information effectively. CI is a transdisciplinary research area, whose application involves human and animal groups, markets, robotic swarms, collections of neurons, and other distributed systems. In this article, we argue that improving CI in human groups can improve general resilience against a wide variety of risks. We summarize findings from the CI literature on conditions that improve human group performance, and discuss ways existing CI findings may be applied to GCR mitigation. We also suggest several directions for future research at the exciting intersection of these two emerging fields.

研究动机与目标

• 将全球性灾难风险（GCR）缓解重新定义为集体智能（CI）问题，强调群体层面表现而非孤立的技术解决方案。
• 识别并综合集体智能研究中的关键条件，以提升人类群体在不确定性和压力下的表现。
• 通过将集体智能洞见整合到高风险情境的缓解策略中，弥合GCR研究与行为科学之间的鸿沟。
• 探讨现有集体智能机制（如信息聚合、坚定少数派、集体记忆）在GCR情境中的应用方式。
• 识别集体智能与GCR交叉领域的新兴研究前沿，包括人机协作及机构整合至灾难框架之中。

提出的方法

• 基于跨学科的集体智能文献，本文识别出高性能群体的核心设计原则，包括多样化信息源、结构化沟通以及平等互动模式。
• 借鉴生物系统（如鱼群行为与神经网络）的类比，建模分布式、冲突性输入如何被聚合为连贯且适应性强的群体决策。
• 使用走钢索者平衡杆的隐喻，说明集体智能如何作为复杂系统中抗扰动的稳定基础设施。
• 从集体智能视角分析博弈论挑战（如公地悲剧与囚徒困境），将冲突与分歧重新诠释为提升信息处理能力的资源。
• 提出将集体智能方法整合至现有灾难管理框架（如《仙台框架》、欧盟民防机制）中，以增强其适应能力。
• 突出新兴应用，如利用坚定少数派实现早期预警，以及借助人工智能弥补人类在高风险决策中的认知局限。

实验结果

研究问题

• RQ1 集体智能机制如何提升对广泛全球性灾难风险的系统韧性？
• RQ2 人类群体中哪些结构与社会条件最能有效增强其在不确定性和压力下的集体决策能力？
• RQ3 在GCR缓解中，如何将成员间在目标、信息与偏好的差异转化为优势而非障碍？
• RQ4 在高风险情境下，人类-人工智能集体智能系统应如何设计，以实现互补并超越单一组件的表现？
• RQ5 在多大程度上，可通过整合集体智能研究原则来增强既有灾难管理机构的能力？

主要发现

• 集体智能可作为通用型基础设施，提升系统整体稳定性与适应性，类似于走钢索者平衡杆的作用。
• 个体在目标、信息与偏好上的差异——常被视为障碍——若通过有效聚合机制加以引导，可成为富有成效的资源，正如动物群体行为所示。
• 生物系统（如神经网络与鱼群）表明，分布式、去中心化的信息处理可对环境变化产生更优的集体响应。
• 将集体智能原则整合至既有灾难管理框架（如《仙台框架》）中，可显著提升其响应速度与适应能力。
• 坚定少数派可作为早期预警系统，于广泛共识形成前检测并发出新兴风险信号，体现其在集体远见中的战略作用。
• 人机协同系统为GCR缓解提供了有前景的前沿方向，其中人工智能可识别高维模式，人类可提供情境化与伦理推理，前提是协作设计得当。