[논문 리뷰] Dual Regression

Richard H. Spady, Sami Stouli|arXiv (Cornell University)|2012. 10. 25.

Statistical Methods and Inference참고 문헌 5인용 수 7

한 줄 요약

이 논문은 조건부 분포 함수를 추정하는 데 있어 양자수렴 표면 문제로 인해 발생하는 문제를 해결하기 위한 새로운 방법인 이중 회귀를 제안한다. 동시에 선형 위치-스케일 모형의 수학적 프로그래밍 이중 문제로 추정을 공식화함으로써, 최소한의 정규성 조건 하에서도 일致성 있고 교차하지 않는 분포 추정을 가능하게 하며, 경험 과정에 대한 완전한 점근 이론을 제공한다.

ABSTRACT

We propose dual regression as an alternative to the quantile regression process for the global estimation of conditional distribution functions under minimal assumptions. Dual regression provides all the interpretational power of the quantile regression process while avoiding the need for repairing the intersecting conditional quantile surfaces that quantile regression often produces in practice. Our approach introduces a mathematical programming characterization of conditional distribution functions which, in its simplest form, is the dual program of a simultaneous estimator for linear location-scale models. We apply our general characterization to the specification and estimation of a flexible class of conditional distribution functions, and present asymptotic theory for the corresponding empirical dual regression process.

연구 동기 및 목표

• 양자수렴 표면이 교차하는 문제로 인해 기존의 양자수렴 회귀의 해석성이 떨어지는 문제를 해결하기 위해.
• 약한 정규성 조건 하에서도 조건부 분포 함수를 전역적으로 일관되게 추정하는 방법을 개발하기 위해.
• 조건부 분포 함수를 동시에 추정하는 방법의 이중 문제로 특징짓는 수학적 프로그래밍 프레임워크를 제공하기 위해.
• 탄력적인 모델 클래스에서 경험 이중 회귀 과정에 대한 점근 이론을 수립하기 위해.
• 복잡한 후처리 없이도 강력하고 교차하지 않는 조건부 분포 추정을 가능하게 하기 위해.

제안 방법

• 이중 회귀는 선형 위치-스케일 모형에 대한 동시에 추정하는 방법의 이중 문제로 조건부 분포 함수의 추정을 공식화한다.
• 수학적 프로그래밍의 이중성 원리를 활용하여 교차하는 양자수렴 표면을 수정할 필요 없이 이를 방지한다.
• 비모수적 또는 반모수적 특성으로 인해 탄력적인 조건부 분포 함수 클래스에 적용할 수 있다.
• 방법론은 구성상 조건부 분포 추정치의 단조성과 교차 방지를 보장한다.
• 경험 이중 회귀 과정에 대한 점근 이론이 개발되어 일관성과 약한 수렴성을 확립한다.
• 최소한의 정규성 조건 하에서도 효율적인 추정과 추론이 가능하다.

실험 결과

연구 질문

• RQ1 이중 회귀 공식화가 조건부 분포 함수 추정에 대해 양자수렴 회귀의 대안으로서 일관성 있고 교차하지 않는 방법을 제공할 수 있는가?
• RQ2 수학적 프로그래밍의 이중성은 교차하는 양자수렴 표면을 수정하지 않고도 조건부 분포 함수를 특징짓는 데 어떻게 활용될 수 있는가?
• RQ3 이중 회귀 과정이 일관성 있고 점근적으로 타당해지기 위한 정규성 조건은 무엇인가?
• RQ4 기존의 양자수렴 회귀와 비교해 볼 때 이중 회귀는 탄력적인 조건부 분포 함수 클래스의 추정에서 어떻게 성능을 발휘하는가?
• RQ5 이중 회귀 프레임워크는 경험 과정에 대해 완전한 점근 이론을 지원할 수 있는가?

주요 결과

• 이중 회귀는 구성상 교차하는 양자수렴 표면을 수정할 필요 없이 조건부 분포 추정치의 단조성을 보장한다.
• 이 방법은 선형 위치-스케일 모형에 대한 동시에 추정하는 방법과 대응하는 수학적으로 옹호된 이중 공식화를 제공한다.
• 최소한의 정규성 조건 하에서도 경험 이중 회귀 과정이 일관성 있고 약한 수렴성을 보임이 입증되었다.
• 강한 파라미터 제약 조건을 부과하지 않으며 탄력적인 조건부 분포 함수 클래스의 추정을 지원한다.
• 이중 공식화는 양자수렴 회귀의 해석적 명확성과 유사한 전역적 조건부 분포 함수 추정을 보장하지만, 그 주요 실용적 결함은 없앴다.
• 점근 이론이 확립되어 추정된 분포 함수에 대한 타당한 추론과 가설 검정이 가능해졌다.