[논문 리뷰] Multivariate subjective fiducial inference

Russell J. Bowater|arXiv (Cornell University)|2018. 04. 25.

Statistical Mechanics and Entropy참고 문헌 34인용 수 6

한 줄 요약

이 논문은 베이지안 및 흔히 쓰이는 추론 이론에 대한 일관된 대안으로 다변량 주관적 피듀셜 추론을 발전시킨다. 이는 분석적 방법 또는 지그비 샘플링을 통해 전체 조건부 분포에서 유도된 연합 피듀셜 분포를 사용하여, 조건부 분포가 상호 모순일 경우에도 추론이 가능하게 한다. 이 방법은 고정된 모수에 대한 확률 문장들을 본질적으로 주관적인 것으로 간주하지만, 사전 지식이 최소일 경우에도 강력한 실용적 성능을 유지한다.

ABSTRACT

The aim of this paper is to firmly establish subjective fiducial inference as a rival to the more conventional schools of statistical inference, and to show that Fisher's intuition concerning the importance of the fiducial argument was correct. In this regard, methodology outlined in an earlier paper is modified, enhanced and extended to deal with general inferential problems in which various parameters are unknown. As a key part of what is put forward, the joint fiducial distribution of all the parameters of a given model is determined on the basis of the full conditional fiducial distributions of these parameters by using an analytical approach or a Gibbs sampling method, the latter of which does not require these conditional distributions to be compatible. Although the resulting theory is classified as being "subjective", this is essentially due to the argument that all probability statements made about fixed but unknown parameters must be inherently subjective. In particular, it is systematically argued that, in general, there is no need to place a great emphasis on the difference between the fiducial probabilities derived by using this theory of inference and objective probabilities. Some important examples of the application of this theory are presented.

연구 동기 및 목표

• 주관적 피듀셜 추론을 주류 통계적 추론 이론의 실용적이고 일관된 대안으로 정립하기 위해.
• 전통적인 피듀셜 방법의 한계를 극복하고, 다수의 미지 모수를 가진 다변량 모형으로 피듀셜 이론을 확장하기 위해.
• 모수에 대한 사전 정보가 없거나 최소일 경우 객관적 베이지안 추론의 부족함을 해결하기 위해.
• 주관적 사전분포 없이도 피듀셜 확률이 객관적 확률만큼 강력하고 신뢰할 수 있음을 보여주기 위해.
• 순차적 데이터 분석에서 피듀셜 및 베이지안 추론을 융합하는 데 실용적인 전략을 제안하여 피듀셜 추론의 일관성 문제를 해결하기 위해.

제안 방법

• 전체 조건부 피듀셜 분포를 분석적 방법 또는 지그비 샘플링을 통해 사용하여 다중 모수의 연합 피듀셜 분포를 유도한다.
• 조건부 피듀셜 분포가 상호 모순일 경우에도 지그비 샘플링을 활용해 연합 피듀셜 분포를 구성한다.
• 충분통계량이 존재하지 않을 경우 최대우도추정량의 일对일 함수로 피듀셜 통계량을 정의함으로써 적용 범위를 넓힌다.
• 고정되어 있지만 알려지지 않은 모수에 대한 모든 확률 문장을 본질적으로 주관적인 것으로 간주하여, 이론을 확률의 철학적 해석에 기반한다.
• 데이터 생성 알고리즘을 사용해 피듀셜 분포를 시뮬레이션함으로써, 공액 사전분포나 우도 대칭성의 필요 없이 추론을 가능하게 한다.
• 피듀셜 분포의 신뢰도를 평가하기 위해 확률의 강도 기준을 사용하며, 피듀셜 및 베이지안 추론을 융합할 때의 결정을 안내한다.

실험 결과

연구 질문

• RQ1 주관적 피듀셜 추론은 다변량 환경에서 베이지안 및 흔히 쓰이는 추론 이론에 대해 일관되고 실용적인 대안이 될 수 있는가?
• RQ2 조건부 피듀셜 분포가 상호 모순일 경우 연합 피듀셜 분포는 어떻게 구성할 수 있는가?
• RQ3 사전 정보가 없을 경우 이 방법으로 유도된 피듀셜 확률이 객관적 확률만큼 신뢰할 수 있는 정도는 어느 정도인가?
• RQ4 순차적 데이터 분석에서 피듀셜 분포를 베이지안 업데이트와 융합할 때는 언제이고, 병합된 데이터의 피듀셜 분포로 대체할 때는 언제인가?
• RQ5 충분통계량을 초월해 피듀셜 추론을 확장할 수 있는가? 이는 일관성과 계산 가능성에 어떤 영향을 미치는가?

주요 결과

• 사전 지식이 최소일 경우 주관적 피듀셜 추론은 객관적 베이지안 추론보다 일관성과 해석 가능성 측면에서 뛰어나게 성능을 발휘한다.
• 조건부 피듀셜 분포가 상호 모순일 경우에도 지그비 샘플링을 통해 연합 피듀셜 분포를 구성할 수 있으며, 이는 이 한계를 극복하는 데 기여한다.
• 피듀셜 통계량은 충분통계량일 필요가 없으며, 최대우도추정량의 일대일 함수일 수 있어 적용 가능한 모형의 범위를 크게 넓힌다.
• 데이터 크기와 정밀도에 기반해 피듀셜 분포가 '매우 강력하다'고 판단될 경우, 이를 새로운 데이터의 베이지안 분석에서 사전분포로 사용할 수 있어 일관성 확보를 위한 실용적 길을 제공한다.
• 병합된 데이터의 피듀셜 분포와 순차적 피듀셜-베이지안 업데이트로부터 유도된 사후분포 사이에 갈등이 발생할 경우, 첫 번째 표본이 작을 경우 일반적으로 병합된 데이터의 피듀셜 분포를 우선시한다.
• 주관적 피듀셜 추론의 계산 부담은 베이지안 추론보다 높지만, 최근 계산 통계학의 발전을 고려할 때 이 격차는 시간이 지남에 따라 좁아질 것이다.