[논문 리뷰] Higher order asymptotics of Generalized Fiducial Distribution

Abhishek Pal Majumder, Jan Hannig|arXiv (Cornell University)|2016. 08. 25.

Statistical Distribution Estimation and Applications참고 문헌 24인용 수 6

한 줄 요약

이 논문은 일반화된 피듀셜 분포(GFD)에 대한 고차수 渐近 이론을 개발하여, 피듀셜 신뢰구간의 신뢰도가 제2차 빈도주의 정확도를 달성할 조건을 규명한다. 피듀셜 분위수 신뢰구간의 고차수 항을 분석하기 위해 이전에 확률 매칭 사전에 사용된 수축 방법을 응용함으로써, 제1차 및 제2차 오차 항이 사라지는 명시적인 정규성 조건을 도출하였으며, 이는 일변량 모형에서 향상된 빈도주의 캘리브레이션을 갖는 GFD를 구성할 수 있도록 한다.

ABSTRACT

Generalized Fiducial Inference (GFI) is motivated by R.A. Fisher's approach of obtaining posterior-like distributions when there is no prior information available for the unknown parameter. Without the use of Bayes' theorem GFI proposes a distribution on the parameter space using a technique called increasing precision asymptotics \cite{hannig2013generalized}. In this article we analyzed the regularity conditions under which the Generalized Fiducial Distribution (GFD) will be first and second order exact in a frequentist sense. We used a modification of an ingenious technique named "Shrinkage method" \cite{bickel1990decomposition}, which has been extensively used in the probability matching prior contexts, to find the higher order expansion of the frequentist coverage of Fiducial quantile. We identified when the higher order terms of one-sided coverage of Fiducial quantile will vanish and derived a workable recipe for obtaining such GFDs. These ideas are demonstrated on several examples.

연구 동기 및 목표

• 일반화된 피듀셜 분포(GFD)의 빈도주의 신뢰구간 정확도를 제1차 渐近 이론을 초월하여 조사하기 위해.
• 피듀셜 분위수 신뢰구간의 고차수 항이 사라지는 정규성 조건을 규명하여 제2차 정확도를 달성하기 위해.
• 적절한 데이터 생성 방정식을 선택함으로써 GFD를 구성하는 실용적 절차를 개발하기 위해.
• 비정규 모형에서 피듀셜 추론의 적용 가능성을 넓히기 위해 고차수 渐近 행동을 체계화하기 위해.

제안 방법

• 이전에 확률 매칭 사전에 사용된 바 있는 수축 방법을 응용하여, 피듀셜 신뢰구간 확률의 고차수 전개를 분석한다.
• 일측 피듀셜 신뢰구간 확률의 고차수 渐近 전개를 $ o(n^{-1}) $까지 도출하며, 피셔 정보, 스코어 함수 및 고차수 모멘트의 수렴을 포함한다.
• 데이터 생성 방정식(DGE) $ \mathbf{X} = G(\mathbf{U}, \theta) $를 사용하여 GFD를 정의하며, 여기서 $ \mathbf{U} $ 는 $ \theta $ 와 독립이고 균일 분포를 따른다.
• 약한 수렴 추론을 적용하여 $ \bar{\pi}(\theta) \to \delta_{\theta_0}(\theta) $ 를 이용해 오차 항의 극한 표현을 유도한다.
• 신뢰구간 오차의 제1차 및 제2차 항에 대한 명시적 표현을 유도하며, 이는 $ I_\theta $, $ J(\theta_0, \theta) $, 및 $ M_\theta $ (제3모멘트)를 포함한다.
• 특정 조합의 $ I_\theta $, $ J $, 및 $ M_\theta $ 의 도함수들이 미분 조건을 만족할 경우 제2차 오차 항이 사라지며, 이는 고차수 정확도를 갖는 GFD를 구성하는 절차를 이끌어낸다.

실험 결과

연구 질문

• RQ1 일반화된 피듀셜 분포가 빈도주의 관점에서 제1차 정확도를 갖기 위한 정규성 조건은 무엇인가?
• RQ2 피듀셜 신뢰구간 확률의 제2차 오차 항이 사라질 조건은 무엇이며, 이는 제2차 빈도주의 정확도를 의미하는가?
• RQ3 수축 방법은 일변량 모형에서 피듀셜 추론의 고차수 渐近 이론을 분석하기 위해 어떻게 적응될 수 있는가?
• RQ4 데이터 생성 방정식에 대한 어떤 조건이 피듀셜 분포의 향상된 빈도주의 캘리브레이션을 보장하는가?
• RQ5 고차수 신뢰구간 오차가 사라지는 GFD를 구성하기 위한 체계적인 절차를 유도할 수 있는가?

주요 결과

• 피듀셜 분위수의 제1차 신뢰구간 오차는 $ n^{-1/2} $ 의 순서이며, 그 계수는 $ \Delta_1(\theta_0) $ 로 명시적으로 주어지며, 이는 피셔 정보의 도함수와 $ J'(\theta_0, \theta)/J(\theta_0, \theta) $ 의 비율을 포함한다.
• 제2차 신뢰구간 오차는 $ n^{-1} $ 의 순서이며, 그 계수는 $ \Delta_2(\theta_0) $ 로 주어지며, 이는 피듀셜 조정 함수 $ \alpha(\theta) $ 의 도함수, 스코어 함수, 및 $ a_n^1(\mathbf{X}, \theta) $ 의 기대값을 포함하는 항들의 조합이다.
• 제2차 오차 항이 사라지기 위한 조건은 $ \theta = \theta_0 $ 에서 다음 식의 도함수 값이 0이 되는 것이다: \\n$$ \frac{d}{d\theta} \left[ \frac{1}{6}I^{-2}_{\theta}M_{\theta}J(\theta_0,\theta) - \frac{1}{2}I^{-1}_{\theta}J'(\theta_0,\theta) - \frac{1}{2}J(\theta_0,\theta)\frac{d}{d\theta}I^{-1}_{\theta} \right] $$
• 고차수 정확도를 갖는 GFD를 구성하기 위한 절차가 도출되었다: 위의 미분 표현식이 $ \theta_0 $ 에서 0이 되는 조건을 만족하는 데이터 생성 방정식을 선택할 경우, 피듀셜 구간은 제2차 빈도주의 정확도를 달성한다.
• 유도된 정규성 조건을 만족하는 DGE를 선택함으로써, 비정규 모형에서도 GFD를 제2차로 점점 정확한 점근적 분포로 구성할 수 있다.
• 다양한 예시를 통해 결과가 실제 적용 가능하며, 유도된 조건을 만족함으로써 보다 향상된 신뢰구간 성질을 갖는 피듀셜 구간을 도출할 수 있음을 보여주었다.