[논문 리뷰] Contributed Discussion to Uncertainty Quantification for the Horseshoe by Stéphanie van der Pas, Botond Szabó and Aad van der Vaart

William Weimin Yoo|arXiv (Cornell University)|2017. 10. 16.

Probabilistic and Robust Engineering Design참고 문헌 3인용 수 12

한 줄 요약

이 논문은 희박한 고차원 정규 평균 모델에서 말발굽 사전의 불확실성 측정을 조사하며, 사전 분석 품질을 평가하기 위해 적응형 구성요소별 신뢰구간과 ℓ₂-신뢰공을 제안한다. 연구는 작은 신호, 중간 크기의 신호, 큰 신호의 세 가지 신호 영역을 식별하며, 중간 크기의 신호에서는 신뢰구간의 커버리지가 실패하는 것을 밝혀내고, 자기유사성 또는 과도한 편향 제약 조건이 이러한 갭을 제거함으로써 희박성 하에서 정직한 불확실성 측정이 가능해짐을 보여준다.

ABSTRACT

We begin by introducing the main ideas of the paper under discussion. We discuss some interesting issues regarding adaptive component-wise credible intervals. We then briefly touch upon the concepts of self-similarity and excessive bias restriction. This is then followed by some comments on the extensive simulation study carried out in the paper.

연구 동기 및 목표

• 희박한 고차원 모델에서 말발굽 사전을 사용한 불확실성 측정의 품질을 평가하기 위해.
• 다양한 신호 크기에서 적응형 구성요소별 신뢰구간의 성능을 조사하기 위해.
• 자기유사성 또는 과도한 편향 제약과 같은 조건이 중간 크기의 신호에서 커버리지 갭을 해결할 수 있는지 검토하기 위해.
• 자기유사성 조건이 위반되었을 때 신뢰구간 성능의 강건성을 평가하기 위해.
• 희박 모델에서 말발굽 사전의 불확실성 측정을 스파이크-앤피드와 같은 다른 사전과 비교하기 위해.

제안 방법

• 말발굽 사전을 사용한 계층적 정규 평균 모델을 사용: θ_i | λ_i, τ ~ N(0, λ_i²τ²), λ_i ~ Half-Cauchy.
• τ 추정을 위한 두 가지 방법을 적용: 최대 우도 추정기(최대 우도 추정기, MMLE)와 계층적 초우도수분포.
• 개별 구성요소를 위한 적응형 신뢰구간과 전반적 불확실성 평가를 위한 ℓ₂-신뢰공을 정의.
• 신뢰구간이 0을 포함하면 해당 신호가 중요하지 않다고 간주하여 모델 선택을 수행.
• 문제가 되는 진짜 신호를 제외하기 위해 자기유사성 및 과도한 편향 제약 조건을 도입.
• 커버리지 및 구간 길이 평가를 위해 n=400이고, p_n=20 또는 200개의 비영 신호를 포함하는 광범위한 시뮬레이션을 수행.

실험 결과

연구 질문

• RQ1 말발굽 사전의 구성요소별 신뢰구간이 왜 중간 크기의 신호에서는 커버리지에 실패하는가?
• RQ2 자기유사성 또는 과도한 편향 제약 조건이 중간 크기의 신호 영역에서 커버리지 갭을 제거할 수 있는가?
• RQ3 자기유사성 조건이 위반되었을 때 말발굽 사전의 신뢰구간 성능은 어떻게 변화하는가?
• RQ4 말발굽 사전이 다양한 신호 희박성 수준에서 얼마나 정직한 불확실성 측정을 제공하는가?
• RQ5 커버리지 및 구간 길이 측면에서 말발굽 사전의 신뢰구간은 다른 사전과 어떻게 비교되는가?

주요 결과

• 말발굽 사전의 구성요소별 신뢰구간은 작은 신호와 큰 신호에서는 적절한 커버리지를 달성하지만, 중간 크기의 신호에서는 실패한다.
• 작은, 중간, 큰 세 신호 영역의 3영역 구조는 특정 진짜 신호를 제외하지 않는 한 커버리지 갭을 해결하지 못한다.
• 자기유사성 또는 과도한 편향 제약 조건 하에서는 세 영역이 더 연결되어 있어 커버리지 갭이 효과적으로 제거된다.
• 진짜 신호가 0일 경우, 특히 낮은 신호 비율 하에서 말발굽 사전의 신뢰구간은 거의 완벽한 커버리지와 가장 짧은 길이를 보인다.
• 실험 결과는 자기유사성 조건이 약간 위반되어도 성능이 양호하게 유지됨을 시사하지만, 이론적 보장은 붕괴될 수 있다.
• 본 연구는 적응형 신뢰집합이 일부 진짜 신호를 제외하지 않는 한 모든 가능한 희박 신호에 대해 정직한 불확실성 측정을 제공할 수 없다고 강조한다.