[논문 리뷰] Local Polynomial Regression Based on Functional Data

Karim Benhenni, David Degras|arXiv (Cornell University)|2011. 07. 20.

Bayesian Methods and Mixture Models참고 문헌 26인용 수 3

한 줄 요약

이 논문은 일반적인 오차 과정 하에서 회귀 함수와 그 도함수를 추정할 때의 점근적 편향과 분산 표현을 유도하면서 기능적 자료를 위한 국소 다항 회귀를 개발한다. 최적의 샘플링 밀도와 대역폭을 확립하고, 점근적 정규성을 증명하며, 정확한, 점근적이고 교차검증된 대역폭을 비교하는 시뮬레이션을 통해 성능을 검증한다.

ABSTRACT

Suppose that $n$ statistical units are observed, each following the model $Y(x_j)=m(x_j)+ ε(x_j),\, j=1,...,N,$ where $m$ is a regression function, $0 \leq x_1

연구 동기 및 목표

• 전체 곡선이 이산적인 점들에서 관측되는 기능적 자료 설정으로 국소 다항 회귀를 확장한다.
• 일반적인 오차 과정 하에서 추정기의 점근적 편향과 분산 표현을 유도한다.
• m와 그 도함수의 추정에서 평균제곱오차를 최소화하는 최적의 샘플링 밀도와 대역폭을 결정한다.
• 추정기의 점근적 정규성을 확립하여 추론을 위한 목적을 달성한다.
• 정확한 최적, 점근적 최적, 교차검증된 대역폭을 비교하는 광범위한 시뮬레이션을 통해 다양한 대역폭 선택 방법의 성능을 비교한다.

제안 방법

• 고정된 점 x에서 회귀 함수 m(x)와 그 도함수를 추정하기 위해 차수 p의 국소 다항 회귀를 사용한다.
• 오차 과정 공분산 함수의 미분 가능성 조건 하에서 n, N → ∞ 일 때 점근적 편향과 분산 표현을 도출한다.
• 설계 행렬과 그 역행렬에 대한 테일러 전개와 행렬 점근적 분석을 적용하며, 샘플링 밀도 f와 커널 K를 활용한다.
• 오차 과정 공분산 구조에 기반하여 추정기의 점근적 분산을 최소화하는 최적의 샘플링 밀도 f*(x)를 유도한다.
• 편향과 분산의 해석적 표현을 사용하여 점근적 평균제곱오차를 최소화하는 최적의 대역폭을 유도한다.
• 연속 함수 공간에서 국소 다항 추정기의 점근적 정규성을 증명하여 동시에 신뢰구간과 가설검정을 가능하게 한다.

실험 결과

연구 질문

• RQ1 의존성 또는 비 stationary 오차를 가진 기능적 자료에서 국소 다항 추정기의 점근적 편향과 분산은 어떻게 행동하는가?
• RQ2 국소 다항 추정기의 점근적 분산을 최소화하는 최적의 샘플링 밀도 f*(x)는 무엇인가?
• RQ3 다양한 오차 공분산 구조 하에서 m와 그 도함수의 국소 다항 피팅에 대한 최적의 대역폭은 무엇인가?
• RQ4 추정기의 점근적 정규성은 동시에 신뢰구간이나 가설검정과 같은 추론을 어떻게 지원하는가?
• RQ5 정확한 최적, 점근적 최적, 교차검증된 대역폭은 도함수 추정에서 유한표본 성능에서 어떻게 비교되는가?

주요 결과

• 표준 정규성 조건 하에서 점근적 편향 표현이 도출되었으며, 분산 표현은 오차 과정 공분산과 그 도함수에 의존한다.
• 최적의 샘플링 밀도 f*(x)는 오차 공분산 함수의 이阶도 도함수의 절댓값 합의 제곱근에 비례하는 것으로 도출되었다.
• 점근적 평균제곱오차를 최소화하는 최적의 대역폭은 국소 상수, 선형, 이차, 삼차 피팅에 대해 해석적으로 도출되었으며, m와 m′에 대해 적용된다.
• 연속 함수 공간에서 국소 다항 추정기의 점근적 정규성이 확립되어 동시에 신뢰구간을 가능하게 한다.
• 시뮬레이션 결과 정확한 최적 대역폭이 평균제곱오차 측면에서 가장 우수한 성능을 보였으며, 그 다음으로 점근적 최적, 교차검증된 대역폭이 이어졌다.
• 분산 확장 결과에서 오차 상관관계의 영향은 공분산 함수의 ρ^{(0,2)}, ρ^{(1,1)}, 및 ρ^{(0,4)} 항에 포함된 이阶도 항을 통해 포착된다.