[论文解读] Definition and properties to assess multi-agent environments as social intelligence tests

Javier Insa-Cabrera, José Hernández‐Orallo|arXiv (Cornell University)|Aug 27, 2014

Computability, Logic, AI Algorithms参考文献 50被引用 4

一句话总结

本文提出了一种形式化、参数化的社会智力定义，即在多智能体环境中的预期表现，其基础是智能体互动、奖励机制与团队结构。该文引入了10项形式化属性（如有界性、预期性与辨别性），用以评估环境是否可作为有效的社会智力测试，并将其应用于囚徒困境与捕食者-猎物等基准游戏，表明唯有满足这些标准的环境才能可靠地衡量社会智力。

ABSTRACT

Social intelligence in natural and artificial systems is usually measured by the evaluation of associated traits or tasks that are deemed to represent some facets of social behaviour. The amalgamation of these traits is then used to configure the intuitive notion of social intelligence. Instead, in this paper we start from a parametrised definition of social intelligence as the expected performance in a set of environments with several agents, and we assess and derive tests from it. This definition makes several dependencies explicit: (1) the definition depends on the choice (and weight) of environments and agents, (2) the definition may include both competitive and cooperative behaviours depending on how agents and rewards are arranged into teams, (3) the definition mostly depends on the abilities of other agents, and (4) the actual difference between social intelligence and general intelligence (or other abilities) depends on these choices. As a result, we address the problem of converting this definition into a more precise one where some fundamental properties ensuring social behaviour (such as action and reward dependency and anticipation on competitive/cooperative behaviours) are met as well as some other more instrumental properties (such as secernment, boundedness, symmetry, validity, reliability, efficiency), which are convenient to convert the definition into a practical test. From the definition and the formalised properties, we take a look at several representative multi-agent environments, tests and games to see whether they meet these properties.

研究动机与目标

• 将社会智力形式化定义为在具有明确团队与奖励机制的加权多智能体环境集合上的预期表现。
• 识别并形式化使环境成为有效且可靠的社会智力测试所必需的关键属性。
• 根据这些属性评估现有多智能体游戏与环境（如囚徒困境、吃豆人、RoboCup）的适用性，以判断其是否适合作为社会智力测试。
• 通过阐明其对环境与智能体设计选择的依赖性，厘清社会智力与通用智力之间的区别。
• 提供一个普遍适用、具有心理测量学依据的框架，用于在人工智能体中测试社会智力，其基础为博弈论与多智能体系统。

提出的方法

• 将社会智力形式化为智能体在多智能体环境分布上的预期表现，按智能体角色与团队配置加权。
• 引入10项形式化属性——有界性、互动性、非中立性、辨别性、预期性、对称性、有效性、可靠性、效率与奖励依赖性——以确保测试质量。
• 使用数学形式化定义合作预期（ACoop）作为关键指标，通过在团队阵容中交换智能体角色后计算预期奖励差异来实现。
• 应用该框架通过分析推导与博弈论推理分析现实环境，包括在不同智能体策略下计算预期奖励。
• 通过智能体对与团队的加权平均计算整体社会智力得分，并通过归一化确保可比性。
• 通过匹配硬币、囚徒困境、捕食者-猎物与RoboCup的案例研究验证各项属性，利用对称性与奖励依赖性评估测试的有效性。

实验结果

研究问题

• RQ1 何种形式化定义的社会智力能够实现在多智能体环境中的可靠、通用评估？
• RQ2 哪些属性是使多智能体环境成为有效社会智力测试的必要且充分条件？
• RQ3 竞争与合作动态在共享环境中如何影响社会智力的测量？
• RQ4 标准基准游戏如囚徒困境或RoboCup在多大程度上满足作为有效社会智力测试的形式化标准？
• RQ5 如何通过环境设计在多智能体系统中区分社会智力与通用智力？

主要发现

• 捕食者-猎物（追捕游戏）环境的合作预期得分最高可达1，表明其完全满足预期性属性，是有效的社会智力测试。
• 囚徒困境环境满足奖励依赖性与精细辨别等关键属性，但在某些智能体配置下不满足非中立性与预期性。
• 匹配硬币环境满足有界性、互动性与辨别性，但因智能体互动缺乏战略深度而不满足预期性与非中立性。
• 吃豆人与RoboCup足球环境因奖励不对称与缺乏结构化团队动态，而未能满足多项核心属性，包括有界性与预期性。
• 该形式化框架揭示，社会智力并非智能体的内在特质，而是关键依赖于环境设计，包括团队结构与奖励分配。
• 唯有满足全部10项形式化属性（包括预期性、辨别性与对称性）的环境，才可被视为可靠且有效的社会智力测试。