[논문 리뷰] Representing and Aggregating Conflicting Beliefs

Pedrito Maynard-Reid, Daniel Lehmann|ArXiv.org|2002. 03. 11.

Logic, Reasoning, and Knowledge참고 문헌 32인용 수 12

한 줄 요약

이 논문은 집단적 믿음을 의미적으로 명확한 표현으로서 모듈러하고 추이적인 관계를 제안하여 그룹의 무관심과 갈등을 명시적으로 구분함으로써 갈등이 있는 의견을 더 잘 다룰 수 있도록 한다. 이는 아로우의 불가능성 정리(Arrow’s Impossibility Theorem)를 회피하는 신뢰할 수 있는 소스 가중 평균화 방법과, 등급화된 집합 이론 기반의 융합 연산자를 도입하여 안정적이고 순서에 영향을 받지 않는 믿음 조합을 보장한다.

ABSTRACT

We consider the two-fold problem of representing collective beliefs and aggregating these beliefs. We propose modular, transitive relations for collective beliefs. They allow us to represent conflicting opinions and they have a clear semantics. We compare them with the quasi-transitive relations often used in Social Choice. Then, we describe a way to construct the belief state of an agent informed by a set of sources of varying degrees of reliability. This construction circumvents Arrow's Impossibility Theorem in a satisfactory manner. Finally, we give a simple set-theory-based operator for combining the information of multiple agents. We show that this operator satisfies the desirable invariants of idempotence, commutativity, and associativity, and, thus, is well-behaved when iterated, and we describe a computationally effective way of computing the resulting belief state.

연구 동기 및 목표

• 집단적 판단에서 의미적 모호성을 피하기 위해 그룹의 무관심과 갈등을 명시적으로 모델링하는 믿음 표현 방식을 개발하는 것.
• 일반화된 믿음 표현 방식을 사용함으로써 소스 신뢰도를 존중하고 아로우의 불가능성 정리를 우회하는 신뢰할 수 있는 소스 가중 평균화 메커니즘을 설계하는 것.
• 반복적 적용에 잘 작동하는 믿음 융합 연산자를 만들기 위해, 등급화된 집합 이론 기반의 융합 연산자를 설계하는 것.
• 자율 로봇과 같은 동적 다중 에이전트 시스템에서 여러 소스로부터 정보를 수신할 때 효율적이고 분산된 믿음 조합을 가능하게 하는 것.
• 모든 개별 소스 관계를 저장하지 않고도 소스 신뢰도를 추적할 수 있는 품질 증명된 믿음 상태를 사용하여 저장 및 계산 비용을 줄이는 것.

제안 방법

• 집단적 믿음을 표현하기 위해 모듈러하고 추이적인 관계를 사용하여, 무관심과 갈등을 명시적으로 구분할 수 있도록 하며, 준추이적 관계의 한계를 피할 수 있는 명확한 의미론을 제공한다.
• 소스에 대한 신뢰도 기반 순위 시스템을 적용하여, 갈등 발생 시 상위 순위 소스가 우세하고, 상위 소스가 무관심일 경우 하위 소스가 기본값을 제공하도록 한다.
• 집합 이론 기반의 융합 연산자를 사용하여, 모든 에이전트 간의 쌍별 비교를 합집합함으로써 믿음 상태를 융합하며, 등급화, 교환법칙, 결합법칙을 보장한다.
• 각 믿음을 지지하는 가장 높은 순위의 소스를 애너테이션하는 '품질 증명된 믿음 상태'를 도입하여, 모든 소스 관계를 저장하지 않아도 효율적인 계산이 가능하도록 한다.
• 모든 에이전트 보고서를 소스의 신뢰도를 존중하고 갈등을 가장 높은 순위 소스가 결정하는 방식으로 전이 폐쇄 과정을 통해 융합하여 최종 믿음 상태를 계산한다.
• 관계의 엄격한 버전을 사용하여 선호 순서를 정의하고, 전이 폐쇄를 적용하여 최종 믿음 상태에서 일관성을 확보한다.

실험 결과

연구 질문

• RQ1 집단적 믿음을 어떻게 표현할 수 있을까? 이는 그룹의 무관심과 갈등을 명시적으로 구분할 수 있도록 해야 한다.
• RQ2 소스의 신뢰도를 존중하면서도 아로우의 불가능성 정리를 우회할 수 있는 믿음 평균화 메커니즘을 설계할 수 있는가?
• RQ3 다양한 에이전트의 믿음 상태를 안정적이고 순서에 영향을 받지 않는 방식으로 융합할 수 있는 융합 연산자는 무엇인가?
• RQ4 다중 에이전트 시스템에서 저장 및 계산 비용을 줄이기 위해 믿음 표현 방식을 어떻게 최적화할 수 있는가?
• RQ5 소스의 신뢰도 순위가 최종 융합된 믿음 상태의 일관성과 정확성에 어떤 영향을 미치는가?

주요 결과

• 제안된 모듈러하고 추이적인 관계 표현 방식은 집단적 무관심과 갈등을 성공적으로 구분하여 준추이적 관계에서 발생하는 의미적 모호성을 해결한다.
• 신뢰도 가중 평균화 방법은 일반화된 믿음 표현 방식을 사용함으로써 소스 계층을 존중하고, 높은 순위 소스가 묵시적일 경우 낮은 신뢰도 소스의 기본 가정을 允허함으로써 아로우의 불가능성 정리를 우회한다.
• 집합 이론 기반 융합 연산자는 등급화, 교환법칙, 결합법칙을 만족하여, 에이전트 보고서가 도착하는 순서에 관계없이 일관된 결과를 보장한다.
• 품질 증명된 믿음 상태의 사용은 최악의 경우 저장 복잡도를 O(|S|2^|W|)에서 O(2^|W|)로 줄여 대규모 시스템에서 상당한 공간 절약을 가능하게 한다.
• 예제 9는 최대 소스 순위(예: AGR*)에만 의존하는 것이 충분하지 않음을 보여주며, 동일한 최상위 소스를 가진 서로 다른 소스 집합이 서로 다른 최종 믿음 상태를 산출할 수 있음을 시사한다.
• 우주선 로봇 시나리오에서, 서로 다른 소스 하위 집합으로부터 정보를 받는 여러 에이전트의 보고서를 융합하면, 단일 에이전트가 모든 소스를 통합한 것과 동일한 정확한 믿음 상태를 도출함으로써 정확성과 순서 독립성을 입증한다.