[논문 리뷰] Probability Judgement in Artificial Intelligence

Glenn Shafer|arXiv (Cornell University)|2013. 03. 27.

Bayesian Modeling and Causal Inference참고 문헌 2인용 수 10

한 줄 요약

이 논문은 인공지능 분야에서 불확실성 처리를 위한 베이지안 확률 이론과 덴스터-샤퍼 신뢰 함수 이론을 비교하며, 기초적인 예시를 통해 전문가 시스템에서의 응용을 설명한다. 두 프레임워크의 역사적 기원을 강조하고 구현 과제를 논의하며, 신뢰 함수가 AI 시스템의 불확실성 처리에 베이지안 추론의 타당한 대안이 될 수 있음을 시사한다.

ABSTRACT

This paper is concerned with two theories of probability judgment: the Bayesian theory and the theory of belief functions. It illustrates these theories with some simple examples and discusses some of the issues that arise when we try to implement them in expert systems. The Bayesian theory is well known; its main ideas go back to the work of Thomas Bayes (1702-1761). The theory of belief functions, often called the Dempster-Shafer theory in the artificial intelligence community, is less well known, but it has even older antecedents; belief-function arguments appear in the work of George Hooper (16401723) and James Bernoulli (1654-1705). For elementary expositions of the theory of belief functions, see Shafer (1976, 1985).

연구 동기 및 목표

• 인공지능에서 불확실성 처리를 위한 두 주요 접근법인 베이지안 확률 이론과 신뢰 함수의 이론적 기초와 실용적 구현을 검토하기.
• 베이지안 이론의 형식화 이전에 존재했던 덴스터-샤퍼 이론의 역사적 발달과 철학적 기반을 명확히 하기.
• 특히 불확실한 믿음의 표현과 갱신에 관여하는 전문가 시스템 내에서 두 이론을 적용할 때 발생하는 과제를 특정하고 분석하기.
• AI 응용에서 한 이론이 다른 이론보다 더 유리한 경우를 이해하기 위한 체계적 비교 프레임워크 제공하기.
• 공식화된 확률과 신뢰 구조를 통해 불확실성 모델링을 탐색하는 연구자들에게 기초 자료로 기능하기.

제안 방법

• 증거 집계 방식의 차이를 강조하며, 베이지안 갱신과 신뢰 함수 조합을 대비하는 간단한 예시를 사용한다.
• 신뢰 함수의 수학적 프레임워크를 적용하여, 단일 사건이 아닌 프레임의 변별 집합에 질량 할당을 부여한다.
• 덴스터의 조합 규칙를 사용하여 신뢰 함수를 조합하는 방법을 설명하며, 이는 부분적 또는 모호한 증거를 다룰 수 있도록 베이즈 정리의 일반화이다.
• 후퍼와 베르누이의 자료를 인용하여, 신뢰 함수 추론이 현대 베이지안 이론 이전에 이미 존재했음을 보여준다.
• 신뢰 함수의 형식적 구조를 검토하며, 프레임의 부분집합 A에 대해 질량 함수 m(A)를 정의하고, m(∅) = 0 이며 ∑m(A) = 1 임을 명시한다.
• 전문가 시스템 설계에서의 일관성, 일관성 유지 및 계산의 실현 가능성 측면에서 두 이론을 비교한다.

실험 결과

연구 질문

• RQ1 베이지안 확률 이론과 신뢰 함수는 불확실성과 증거 조합을 어떻게 다루는가?
• RQ2 덴스터-샤퍼 이론의 역사적 근원은 무엇이며, 그것이 AI 응용에서의 활용에 어떻게 기여하는가?
• RQ3 전문가 시스템에 신뢰 함수나 베이지안 추론을 구현할 때 발생하는 실용적 과제는 무엇인가?
• RQ4 증거가 불완전하거나 상충될 경우, 신뢰 함수가 베이지안 방법보다 어떤 장점을 제공하는가?
• RQ5 두 프레임워크는 어떻게 체계적으로 인공지능에서 불확실한 추론을 모델링하는 데 적용될 수 있는가?

주요 결과

• 베이지안 이론만큼 널리 알려지진 않았지만, 덴스터-샤퍼 이론은 더 깊은 역사적 근원을 지니며, 후퍼와 베르누이의 저술에서 이미 초기 형태로 나타났다.
• 신뢰 함수는 단일 사건에 확률를 할당하는 대신, 집합에 질량 할당을 통해 무지와 부분적 믿음을 표현할 수 있다. 이는 베이지안 이론과의 핵심적 차이점이다.
• 덴스터의 조합 규칙를 통한 신뢰 함수 조합은 베이지안 조건화의 일반화이며, 불완전하거나 상충되는 증거 하에서의 추론을 가능하게 한다.
• 이론적 우월성에도 불구하고, 전문가 시스템에서의 신뢰 함수 구현은 계산 복잡성과 질량 함수의 해석 문제로 인해 과제를 안고 있다.
• 이 논문은 베이지안 이론과 신뢰 함수 이론이 모두 AI에서 불확실성 모델링에 타당하며, 그 선택은 가용 증거의 성격과 시스템 요구사항에 따라 달라진다는 점을 입증한다.
• 이 논문의 1985년 UAI 컫런스 논문 버전은 두 접근법 간 철학적·기술적 차이를 이해하는 데 있어 결정적인 참고 자료로 남아 있다.