[논문 리뷰] Symmetry of models versus models of symmetry

Gert de Cooman, Enrique Miranda|ArXiv.org|2008. 01. 13.

Bayesian Modeling and Causal Inference참고 문헌 24인용 수 23

한 줄 요약

이 논문은 믿음 모델에서 두 가지 유형의 대칭성, 즉 약한 불변성(믿음의 대칭성, 모델이 변환에 대해 불변일 때)과 강한 불변성(대칭성의 믿음, 현상이 대칭적임을 명시적으로 표현할 때)을 구분한다. 부정확한 확률 모델(일관된 하한 예측)을 사용하여 저자들은 이러한 개념들이 형식적으로 분리될 수 있음을 보여주며, 무지와 동등시하는 것을 강요하는 베이지안 모델의 기초적 결함을 해결한다. 주요 기여는 완전한 무지를 가정할 때도 동등성을 강요하지 않고 결정 불확실성을 포괄하는 프레임워크를 제공함으로써 라플라스의 부족한 이유 원칙을 피하는 것이다.

ABSTRACT

A model for a subject's beliefs about a phenomenon may exhibit symmetry, in the sense that it is invariant under certain transformations. On the other hand, such a belief model may be intended to represent that the subject believes or knows that the phenomenon under study exhibits symmetry. We defend the view that these are fundamentally different things, even though the difference cannot be captured by Bayesian belief models. In fact, the failure to distinguish between both situations leads to Laplace's so-called Principle of Insufficient Reason, which has been criticised extensively in the literature. We show that there are belief models (imprecise probability models, coherent lower previsions) that generalise and include the Bayesian belief models, but where this fundamental difference can be captured. This leads to two notions of symmetry for such belief models: weak invariance (representing symmetry of beliefs) and strong invariance (modelling beliefs of symmetry). We discuss various mathematical as well as more philosophical aspects of these notions. We also discuss a few examples to show the relevance of our findings both to probabilistic modelling and to statistical inference, and to the notion of exchangeability in particular.

연구 동기 및 목표

• 믿음 모델에서의 대칭성(약한 불변성)과 현상의 대칭성에 대한 믿음(강한 불변성) 간의 개념적 구분을 명확히 하는 것.
• 베이지안 모델이 완전한 무지 하에서의 결정 불확실성을 포착하지 못하고, 이로 인해 결정 불확실성과 동등성 간의 정당성 없는 동일시를 강요하는 이유를 보여주는 것.
• 두 유형의 대칭성을 독립적으로 표현할 수 있는 일관된 하한 예측을 사용한 형식적 프레임워크를 개발하는 것.
• 공집합 믿음 모델이 모든 변환에 대해 약하게 불변이며, 완전한 무지를 충실하게 표현할 수 있음을 보여주는 것.
• 정확한 확률 모델이 대칭성을 처리하는 데 가지는 한계, 특히 무한 영역에서의 한계를 다루고, 통계적 추론에 더 견고한 기초를 제안하는 것.

제안 방법

• 저자들은 믿음의 부정확성 표현을 위해 베이지안 확률 모델의 일반화로 일관된 하한 예측을 사용한다.
• 약한 불변성을 변환군 또는 변환 모노이드에 대해 하한 예측이 불변일 때로 정의하여 믿음의 대칭성을 보장한다.
• 강한 불변성을 현상의 대칭성에 대한 믿음이 반영된 변환에 대해 하한 예측이 불변일 때로 정의한다.
• 강한 불변성 조건을 만족하는 가장 작은 일관된 하한 예측을 구성하기 위해 자연적 확장을 도입한다.
• 업데이트 과정에서 이러한 모델의 행동을 분석하고, 공집합 모델이 조건부 확률 적용 후에도 여전히 공집합 상태를 유지함으로써 결정 불확실성이 유지됨을 보여준다.
• 반단순한 극한과 모노이드의 구조적 분석을 사용하여, 무한 집합에서 강한 불변 예측의 존재성과 한계를 탐색한다.

실험 결과

연구 질문

• RQ1 믿음 모델은 모델의 대칭성(약한 불변성)과 현상의 대칭성에 대한 믿음(강한 불변성)을 구분할 수 있는가?
• RQ2 왜 베이지안 모델은 완전한 무지 하에서의 결정 불확실성을 포착하지 못하며, 이를 동등성과 혼동함으로써 어떤 결과를 초래하는가?
• RQ3 무한 영역(예: 자연수)에서 강한 불변성이 어떤 조건에서 확실한 손실을 초래하는가?
• RQ4 정확한 확률이 실패할 수 있는 상황에서도, 구조적 대칭성을 반영하는 변환에 대해 불변인 일관된 하한 예측을 구성할 수 있는가?
• RQ5 확실한 손실을 피하면서도 대칭 기반 추론의 합리성을 유지할 수 있는 강한 불변성의 약화된 형태가 존재하는가?

주요 결과

• 공집합 믿음 모델은 어떤 변환에 대해서도 약하게 불변이며, 완전한 무지를 표현하는 자연스러운 후보가 된다.
• 완전한 치환군 하에서 자연수 위의 일관된 하한 예측에 대해 강한 불변성을 도입할 수 없으며, 이는 확실한 손실을 초래하기 때문이다.
• 이동(이동 변환)의 모노이드의 경우 강한 불변성은 가능하지만, 업데이트 과정에서 여전히 확실한 손실을 초래할 수 있어 그 행동적 정당성에 한계가 있음을 보여준다.
• 강한 불변 예측의 자연적 확장이 일관성이 없을 수 있음을 보여주며, 이는 강한 불변성이 항상 일관성과 호환되지 않음을 시사한다.
• 부정확한 확률 모델은 결정 불확실성을 동등성과 분리하여 표현할 수 있으므로, 라플라스의 부족한 이유 원칙의 핵심 결함을 피할 수 있다.
• 약한 불변성과 강한 불변성의 구분은 증거의 대칭성과 대칭성에 대한 증거를 모두 형식적으로 모델링할 수 있는 기초를 제공하며, 통계적 추론 분야의 오랜 문제를 해결한다.