[论文解读] Frontiers in Collective Intelligence: A Workshop Report

Tyler Millhouse, Melanie E. Moses+1 more|arXiv (Cornell University)|Dec 13, 2021

Ethics and Social Impacts of AI被引用 4

一句话总结

本工作坊报告综合了计算机科学、生物学和社会科学的跨学科洞见，提出智能源于具有自主性的个体之间的协调互动。报告强调自适应通信、优化的通信渠道以及结构化的制度是设计高效集体人工智能系统的关键机制。

ABSTRACT

In August of 2021, the Santa Fe Institute hosted a workshop on collective intelligence as part of its Foundations of Intelligence project. This project seeks to advance the field of artificial intelligence by promoting interdisciplinary research on the nature of intelligence. The workshop brought together computer scientists, biologists, philosophers, social scientists, and others to share their insights about how intelligence can emerge from interactions among multiple agents--whether those agents be machines, animals, or human beings. In this report, we summarize each of the talks and the subsequent discussions. We also draw out a number of key themes and identify important frontiers for future research.

研究动机与目标

• 探讨具有自主性的个体（如神经元、社会性昆虫或人工智能组件）之间的互动如何催生智能。
• 识别促成或制约集体智能的核心机制——包括通信、规范、制度和协调策略。
• 弥合自然系统（如蚂蚁巢穴、大脑）与人工系统（如群体机器人、人工智能）之间的洞见，以指导可扩展、稳健的集体智能设计。
• 考察进化与选择压力在塑造个体行为以实现集体结果方面的作用。
• 指导设计透明、公平且在人机协作环境中高效的新型人工智能系统。

提出的方法

• 采用多学科工作坊形式，汇集计算机科学、生物学、哲学和社会科学专家，分享研究成果并探讨核心主题。
• 分析案例研究，包括Copycat架构（一种基于代理感知的类比生成认知模型）、蚂蚁觅食行为以及在线虚假信息传播动态。
• 考察集体系统中通信的权衡，例如觅食者与在线用户在信息共享中的成本-收益平衡。
• 探索机制设计原则——尤其是逆向博弈论——作为构建互动以实现期望集体结果的手段。
• 评估选择在塑造个体行为以实现集体功能方面的作用，区分对群体结果的选择与对个体特征的选择。
• 将洞见整合为人工集体智能的设计原则，强调对组件、通信和制度结构的优化。

实验结果

研究问题

• RQ1 去中心化、基于代理的系统如何在无中央控制的情况下实现类比推理等高层认知功能？
• RQ2 通信（包括局部与全局通信）在生物系统与人工系统中如何增强或削弱集体表现？
• RQ3 制度、规范和工程化机制在提升人类与人工系统中集体智能的效率与公平性方面有哪些作用？
• RQ4 个体行为在多大程度上受到自然选择对群体层面结果的塑造？
• RQ5 如何设计集体智能以抵御虚假信息，并在大规模人机协作中促进透明度与公平性？

主要发现

• Copycat架构表明，类比推理等高层认知功能可从无中央控制的专用代理的随机并行互动中涌现。
• 集体系统中的通信涉及信息价值与处理成本之间的权衡，过度或结构不良的通信会降低系统效率。
• 昆虫群体展现出经自然选择优化的通信与分工，表明生物系统可为工程化集体系统提供蓝图。
• 少数高度连接的个体在在线环境中不成比例地传播虚假信息，表明针对这些‘连续违规者’可显著提升信息质量。
• 机制设计（如结构化规范与规则）可显著改善集体结果，即使在个体行为本身未针对群体目标优化的系统中亦然。
• ‘认知贯穿始终’的概念表明，个体代理层面的智能对于集体智能的涌现至关重要，而不仅仅是系统复杂性的副产品。