[논문 리뷰] On Stochastic Belief Revision and Update and their Combination

Gavin Rens|arXiv (Cornell University)|2016. 04. 07.

Logic, Reasoning, and Knowledge참고 문헌 21인용 수 5

한 줄 요약

이 논문은 민감도(노이즈 기반) 정보원과 실재성(사건 기반) 정보원 간의 상충 관계를 모델링함으로써 확률적 믿음 수정과 갱신을 통합하는 하이브리드 스토케스틱 믿음 변화(HSBC) 프레임워크를 제안한다. 동적 시스템 관점과 베이지안 조건부 확률을 활용하여 가능한 세계들에 대한 확률 분포를 유지하며, 관측치가 노이즈 있는 폭로로 간주되는지 또는 환경 변화로 간주되는지에 따라 합리적인 믿음 변화가 발생함을 보여준다.

ABSTRACT

I propose a framework for an agent to change its probabilistic beliefs when a new piece of propositional information $α$ is observed. Traditionally, belief change occurs by either a revision process or by an update process, depending on whether the agent is informed with $α$ in a static world or, respectively, whether $α$ is a 'signal' from the environment due to an event occurring. Boutilier suggested a unified model of qualitative belief change, which "combines aspects of revision and update, providing a more realistic characterization of belief change." In this paper, I propose a unified model of quantitative belief change, where an agent's beliefs are represented as a probability distribution over possible worlds. As does Boutilier, I take a dynamical systems perspective. The proposed approach is evaluated against several rationality postulated, and some properties of the approach are worked out.

연구 동기 및 목표

• 확률적 믿음 변화 프레임워크에서 믿음 수정(인지 정보)과 믿음 갱신(실재성, 사고 기반) 과정을 통합할 수 있는 수량적 프레임워크의 격차를 해소하기 위해.
• 관측치의 노이즈와 비결정적 사건을 포함하여 가능한 세계들에 대한 확률적 믿음을 유지하는 에이전트를 모델링하기 위해.
• 인지 정보와 실재성 정보의 유형을 구분할 수 있는 조정 가능한 강도 파라미터를 통해 합리적이고 역동적으로 일관된 믿음 변화 프레임워크를 제공하기 위해.
• 합리성 공리와의 비교를 통해 평가하고, 책과 잔디의 건조 여부에 대한 믿음 갱신을 포함한 구체적인 사례를 통해 그 타당성을 입증하기 위해.

제안 방법

• 믿음 상태를 가능한 세계들에 대한 확률 분포로 모델링하며, 初기 믿음을 벡터 $ b $ 로 표현한다.
• 관측치 $ \alpha $ 가 실재성(사건 기반)인지인지 정보(폭로 기반)인지 여부를 수량화하기 위해 온틱 강도 파라미터 $ \mathit{os}(\alpha, w) \in [0,1] $ 를 도입한다.
• 정보가 실재성일 경우 베이지안 조건부 확률을 적용하여 믿음 갱신을 수행하며, 전이 모델을 사용해 가능한 세계의 변화 경로를 추론한다.
• 정보가 인지성일 경우 기대값 의미론을 통한 확률적 수정을 적용하여, 새로운 정보의 가능성에 따라 믿음을 조정한다.
• 양쪽 과정을 가중 평균으로 조합하며, 온틱 강도에 의해 상충 관계를 제어함으로써 하이브리드 믿음 갱신 연산 $ b \lhd \alpha $ 를 도출한다.
• 부분 관측 가능한 사건과 노이즈 있는 관측치를 모델링하기 위해 POMDP 기반 상태 추정 프레임워크를 활용하여, 미관측 원인(예: 분수, 비)에 대한 추론을 가능하게 한다.

실험 결과

연구 질문

• RQ1 인지 정보(수정)와 실재성 정보(갱신) 과정을 구분할 수 있는 통합된 확률적 믿음 변화 프레임워크는 어떻게 설계할 수 있는가?
• RQ2 스토케스틱 환경에서 믿음 수정과 믿음 갱신을 균형 잡는 데 있어 상충 관계 파라미터의 역할은 무엇인가?
• RQ3 관측치가 더 인지성으로 간주될 때와 더 실재성으로 간주될 때 가능한 세계들에 대한 믿음 분포는 어떻게 변화하는가?
• RQ4 제안된 하이브리드 모델이 믿음 변화에 대한 합리성 공리들을 충족하면서도 계산적이고 의미론적으로 타당한가?
• RQ5 노이즈 있는 관측치와 비결정적 사건은 확률적 믿음 수정 및 갱신 프레임워크 내 믿음 역학에 어떻게 영향을 미치는가?

주요 결과

• 관측치 $ \lnot\mathtt{Dry}(G) $ 가 순수하게 인지성으로 간주될 때($ \mathit{os} = 0.00 $), 에이전트는 $ w_1 $ 과 $ w_5 $ 에서 그에 가까운 $ \lnot\mathtt{Dry}(G) $-세계로 믿음을 이동시키며, 책이 건조하고 안에 있는 상태에 대한 믿음은 33%로 유지된다.
• 온틱 강도가 1.00으로 증가함에 따라, 책이 건조하고 안에 있는 상태에 대한 믿음은 28%로 감소하고, 책이 밖에 있고 젖은 상태($ w_8 $)에 대한 믿음은 51%로 증가하여 환경 사건에 대한 인과적 추론을 반영한다.
• 추가 정보 $ \mathtt{Dry}(B) $ 가 제공되면, 전적으로 온틱적 인식을 할 경우 책이 건조하고 잔디가 젖어 있는 상태에 대한 믿음은 78%로 증가하지만, $ \lnot\mathtt{Dry}(G) $ 만 있을 경우 40%에 그치므로 복합 증거의 영향을 보여준다.
• 모델은 합리적인 행동을 보인다: 정보가 인지성일 경우 믿음은 최소한으로 국소적으로 이동하고, 정보가 실재성일 경우 믿음은 가능한 인과 경로로 퍼지며, 사고 결과의 불확실성을 반영한다.
• 하이브리드 접근은 수정과 갱신을 성공적으로 균형 잡으며, 믿음 상태가 인지-실재 스펙트럼을 따라 부드럽게 전이됨을 보여주며, 다양한 $ \mathit{os} $ 값에 따른 확률 벡터로 이를 확인할 수 있다.
• 환경 사건이 관측 결과로 이어질 수 있음을 모델링함으로써, POMDP 스타일의 상태 추정과 일관된 방식으로 미관측 원인(예: 분수, 비)에 대한 추론을 지원한다.