[논문 리뷰] Inference in high-dimensional set-identified affine models

Bulat Gafarov|arXiv (Cornell University)|2019. 03. 01.

Statistical Methods and Inference참고 문헌 22인용 수 7

한 줄 요약

이 논문은 고차원 선형 모델에서 부분적으로 식별된 파라미터에 대해 계산적으로 효율적이고 균일하게 타당한 신뢰구간을 제안한다. 이는 정규화된 지지함수의 반중위수 불편추정량을 사용하며, 볼록 최적화를 통해 빠른 계산을 가능하게 하고, 표준 오차와 부트스트랩 추론을 위한 渐近적 선형 표현을 제공한다. 이로 인해 차원 d와 부등식의 수 k가 100을 초과하는 경우에도 균일한 추론이 가능해진다.

ABSTRACT

This paper proposes both point-wise and uniform confidence sets (CS) for an element $\ heta_{1}$ of a parameter vector $\ heta\\in\\mathbb{R}^{d}$ that is partially identified by affine moment equality and inequality conditions. The method is based on an estimator of a regularized support function of the identified set. This estimator is \\emph{half-median unbiased} and has an \\emph{asymptotic linear representation} which provides closed form standard errors and enables optimization-free multiplier bootstrap. The proposed CS can be computed as a solution to a finite number of linear and convex quadratic programs, which leads to a substantial decrease in \\emph{computation time} and \\emph{guarantee of global optimum}. As a result, the method provides uniformly valid inference in applications with the dimension of the parameter space, $d$, and the number of inequalities, $k$, that were previously computationally unfeasible ($d,k >100$). The proposed approach is then extended to construct polygon-shaped joint CS for multiple components of $\ heta$. Inference for coefficients in the linear IV regression model with interval outcome is used as an illustrative example. Key Words: Affine moment inequalities; Asymptotic linear representation; Delta\ extendash Method; Interval data; Intersection bounds; Partial identification; Regularization; Strong approximation; Stochastic Programming; Subvector inference; Uniform inference.

연구 동기 및 목표

• 고차원 모델에서 선형 모멘트 부등식으로 인해 부분적으로 식별되는 상황에서 균일하게 타당한 추론을 수행하는 데 도전한다.
• 기존 방법이 복잡성으로 인해 실패하는 d > 100 및 k > 100인 모델에서의 계산 불가능성을 해결한다.
• 파라미터 벡터 θ의 개별 또는 다중 성분에 대해 점추정 및 균일한 신뢰구간을 제공하는 방법을 개발한다.
• 신뢰구간이 유한차원 볼록 프로그래밍을 통해 계산 가능하고, 전역 최적해가 보장되도록 한다.
• 하위벡터 θ에 대한 다변량 추론을 지원하는 다각형 모양의 공동 신뢰구간을 구성하기 위해 프레임워크를 확장한다.

제안 방법

• 반중위수 불편성을 가지며, 강건성과 유리한 농도 성질을 보장하는 정규화된 지지함수 추정량을 제안한다.
• 추정량에 대한 渐近적 선형 표현을 도출하여, 폐형 표준오차와 효율적 추론을 가능하게 한다.
• 볼록 최적화를 통해 추정량을 계산하기 위해 확률적 프로그래밍 접근법을 활용하여 전역 수렴을 보장한다.
• 渐近적 선형 표현을 활용해 최적화가 필요 없는 다중 부트스트랩을 통한 균일한 신뢰구간을 가능하게 한다.
• 유한 개의 선형 및 볼록 2차 프로그래밍을 풀어 신뢰구간을 구성함으로써 계산 시간을 크게 감소시킨다.
• 개별 구간의 교차를 통해 다각형 모양의 신뢰구간을 형성함으로써 공동 추론으로의 확장을 수행한다.

실험 결과

연구 질문

• RQ1 d > 100 및 k > 100인 고차원 부분적으로 식별된 모델에서 효율적으로 균일하게 타당한 신뢰구간을 구성할 수 있는가?
• RQ2 복잡한 모멘트 부등식 모델을 풀이하는 데 따르는 계산 부담을 줄일 수 있는가, 동시에 추론의 타당성은 유지할 수 있는가?
• RQ3 渐近적 선형 표현을 갖는 정규화된 지지함수 추정량을 사용하여 집합으로 식별된 모델에서 빠르고 강건한 추론을 가능하게 할 수 있는가?
• RQ4 고차원 환경에서 θ의 하위벡터에 대한 공동 신뢰구간을 구성하는 데 있어 제안된 방법의 성능은 어떠한가?
• RQ5 부분적으로 식별된 상황에서 기존 방법과 비교해 본다면, 이 방법은 계산 속도와 타당성 측면에서 어떤가?

주요 결과

• 제안된 추정량은 반중위수 불편성을 확보하여 유한표본에서의 우수한 행동과 모형 잘못설정에 대한 강건성을 보장한다.
• 渐近적 선형 표현 덕분에 폐형 표준오차를 도출할 수 있고, 균일한 추론을 위한 최적화가 필요 없는 다중 부트스트랩을 가능하게 한다.
• 신뢰구간은 유한 개의 볼록 프로그래밍의 해로 계산 가능하며, 전역 최적해 보장과 함께 계산 시간을 크게 단축시킨다.
• 이 방법은 기존 방법으로는 계산이 불가능했던 d > 100 및 k > 100인 모델에서도 균일하게 타당한 추론을 가능하게 한다.
• 다양한 성분의 θ에 대한 다각형 모양의 공동 신뢰구간을 구성할 수 있어 다변량 추론 능력을 향상시킨다.
• 구간 결과 데이터를 가진 선형 IV 회귀에 대한 응용은 이 방법의 실용적 유용성과 현실적인 경제학적 환경에서의 확장 가능성(스케일러빌리티)을 보여준다.