[论文解读] Representing and Aggregating Conflicting Beliefs

Pedrito Maynard-Reid, Daniel Lehmann|ArXiv.org|Mar 11, 2002

Logic, Reasoning, and Knowledge参考文献 32被引用 12

一句话总结

本文提出模块化、可传递关系作为集体信念的语义清晰表示，明确区分群体无感与冲突，从而更好地处理对立意见。提出一种基于可靠来源权重的聚合方法，绕过阿罗不可能定理，并引入基于集合论的融合算子，确保幂等性、交换律和结合律，实现跨代理鲁棒、顺序无关的信念组合。

ABSTRACT

We consider the two-fold problem of representing collective beliefs and aggregating these beliefs. We propose modular, transitive relations for collective beliefs. They allow us to represent conflicting opinions and they have a clear semantics. We compare them with the quasi-transitive relations often used in Social Choice. Then, we describe a way to construct the belief state of an agent informed by a set of sources of varying degrees of reliability. This construction circumvents Arrow's Impossibility Theorem in a satisfactory manner. Finally, we give a simple set-theory-based operator for combining the information of multiple agents. We show that this operator satisfies the desirable invariants of idempotence, commutativity, and associativity, and, thus, is well-behaved when iterated, and we describe a computationally effective way of computing the resulting belief state.

研究动机与目标

• 开发一种信念表示方法，明确建模群体无感与群体冲突，避免集体判断中的语义模糊。
• 设计一种基于可靠来源权重的聚合机制，通过使用广义信念表示绕过阿罗不可能定理。
• 创建适用于多代理的信念融合算子，确保在迭代过程中具有良好性质，满足幂等性、交换律和结合律。
• 在动态多智能体系统（如自主机器人从多个来源接收信息）中实现高效、分布式的信念组合。
• 通过使用追踪来源可信度的血统信念状态，避免存储所有独立来源关系，从而降低存储与计算成本。

提出的方法

• 使用模块化、可传递关系表示集体信念，明确区分无感与冲突，具有清晰语义，避免准传递关系的局限性。
• 采用基于可信度的来源排名系统，其中高排名来源在冲突时占主导地位，低排名来源在高排名来源无意见时提供默认假设。
• 采用基于集合论的融合算子，通过取所有代理间两两比较的并集来组合信念状态，确保幂等性、交换律和结合律。
• 引入“血统信念状态”，为每个信念标注支持它的最高排名来源，实现无需存储所有来源关系的高效计算。
• 通过尊重来源可信度并利用最高排名来源解决冲突的传递闭包过程，合并所有代理报告以计算最终信念状态。
• 使用关系的严格版本定义偏好顺序，并应用传递闭包以确保最终信念状态的一致性。

实验结果

研究问题

• RQ1 如何表示集体信念，使其能明确区分群体无感与群体冲突？
• RQ2 能否设计一种信念聚合机制，避免阿罗不可能定理，同时尊重来源可靠性？
• RQ3 何种融合算子可实现动态、分布式系统中多代理信念状态的鲁棒、顺序无关组合？
• RQ4 如何优化信念表示以降低多智能体系统中的存储与计算成本？
• RQ5 来源可信度排名对最终聚合信念状态的一致性与正确性有何影响？

主要发现

• 所提出的模块化可传递关系表示方法成功区分了群体无感与冲突，解决了准传递关系中存在的语义模糊问题。
• 基于可信度权重的聚合方法通过使用广义信念表示尊重来源层级结构，并在高可信来源沉默时允许低可信来源提供默认假设，从而绕过阿罗不可能定理。
• 基于集合论的融合算子满足幂等性、交换律和结合律，确保无论代理报告以何种顺序接收，结果均保持一致。
• 使用血统信念状态将最坏情况下的存储复杂度从 O(|S|2^|W|) 降低至 O(2^|W|)，在大规模系统中实现显著的空间节省。
• 示例 9 表明，仅依赖最高来源排名（如通过 AGR*）不足以实现准确融合，因为具有相同最高排名来源的不同来源集合可能产生不同的最终信念状态。
• 在空间机器人场景中，融合多个代理的报告（每个代理基于不同来源子集）所得到的信念状态，与所有来源通过单一代理聚合的结果完全一致，证明了方法的正确性与顺序无关性。