[논문 리뷰] Valid Post-Detection Inference for Change Points Identified Using Trend Filtering

Reza Valiollahi Mehrizi, Shojaeddin Chenouri|arXiv (Cornell University)|2021. 04. 24.

Statistical Methods and Inference참고 문헌 50인용 수 4

한 줄 요약

이 논문은 추세 필터링을 사용하여 조각별 다항식 신호를 추정하는 데 사용되는 PRUTF 알고리즘을 통해 식별된 변화점에 대해 유효한 검출 후 추론을 개발한다. 전역 및 국소 검출 후 추론 전략을 도입하여 정확한 신뢰구간과 p값을 생성하며, 기존의 검출 후 구간보다 길이를 크게 줄이고, 알려진 및 알려지지 않은 오차 분산에 대해 유효한 커버리지 유지한다.

ABSTRACT

There are many research works and methods about change point detection in the literature. However, there are only a few that provide inference for such change points after being estimated. This work mainly focuses on a statistical analysis of change points estimated by the PRUTF algorithm, which incorporates trend filtering to determine change points in piecewise polynomial signals. This paper develops a methodology to perform statistical inference, such as computing p-values and constructing confidence intervals in the newly developed post-selection inference framework. Our work concerns both cases of known and unknown error variance. As pointed out in the post-selection inference literature, the length of such confidence intervals are undesirably long. To resolve this shortcoming, we also provide two novel strategies, global post-detection, and local post-detection which are based on the intrinsic properties of change points. We run our proposed methods on real as well as simulated data to evaluate their performances.

연구 동기 및 목표

• 데이터 기반 절차를 통해 식별된 변화점에 대한 통계적 추론 방법의 부족을 해결하기 위해.
• 변화점 탐지의 데이터 의존적 성격을 고려한 검출 후 추론 프레임워크를 개발하여, 검출된 점을 고정된 것으로 간주하는 잘못된 추론을 방지하기 위해.
• 선택 편향으로 인해 일반적으로 너무 넓어지는 표준 검출 후 신뢰구간의 보수성(과도한 보수성)을 줄이기 위해.
• 전역 및 국소 검출 후 추론 전략이라는 두 가지 새로운 전략을 제안하여 변화점의 내재적 성질을 활용해 구간 정밀도를 향상시키기 위해.
• 제안된 방법의 성능을 시뮬레이션 및 실세계 데이터에서 평가하여 알려진 및 알려지지 않은 오차 분산 조건 하에서도 강건성과 정확성을 입증하기 위해.

제안 방법

• 조각별 다항식 신호를 PRUTF 알고리즘을 통해 추정하는 데 사용되는 추세 필터링을 기반으로 한 변화점 탐지에 대해 검출 후 추론 프레임워크를 적응시킨다.
• 선택된 변화점 조건 하에서 검정 통계량의 정확한 샘플링 분포를 유도하여 유효한 p값과 신뢰구간을 가능하게 한다.
• 절단 t분포와 정규근사법을 사용하여 신뢰구간을 구성하며, 선택 분포의 분위수로부터 경계를 도출한다.
• 다중 변화점 간의 정보를 통합하여 구간 효율성을 향상시키는 전역 검출 후 추론을 도입한다.
• 개별 변화점을 중심으로 국소화된 검정 통계량과 선택 이벤트를 활용하는 국소 검출 후 추론을 제안한다.
• 모델 선택 하에서 유효한 추론을 보장하기 위해 관측된 검정 통계량을 바탕으로 한 절단 집합을 활용한다.

실험 결과

연구 질문

• RQ1 데이터 기반 선택 과정을 고려하여 추세 필터링을 사용해 식별된 변화점에 대해 유효한 통계적 추론를 수행하는 방법은 무엇인가?
• RQ2 변화점에 대한 신뢰구간을 구성할 때 선택 편향을 忽시할 경우 어떤 결과가 초래되는가?
• RQ3 전역 및 국소 검출 후 추론 전략은 검출 후 신뢰구간의 길이를 줄일 수 있는가? 동시에 커버리지 유지가 가능한가?
• RQ4 오차 분산이 알려지지 않은 조건에서 제안된 신뢰구간이 유효한 커버리지를 유지하는 조건은 무엇인가?
• RQ5 오차 분산이 알려진 경우와 알려지지 않은 경우에 대해 제안된 방법이 표준 검출 후 추론에 비해 구간 폭과 실측 커버리지 측면에서 어떻게 성능을 발휘하는가?

주요 결과

• 제안된 전역 및 국소 검출 후 추론 전략은 특히 고차원적 또는 복잡한 신호 설정에서 기존의 표준 검출 후 방법에 비해 신뢰구간 길이를 크게 줄인다.
• 신뢰구간 길이에 대한 이론적 경계를 도출하였으며, 상한선이 절단 t분포의 분위수와 임계값 간의 차이에 비례함을 보여준다.
• 자유도가 큰 경우 절단 t분포는 정규분포와 유사하게 행동하며, 제안된 경계는 다양한 오차 분포에 대해 유효하여 강건성을 확보한다.
• 구간 경계의 유효성을 보장하는 함수 $ h(x) $ 는 $ x \in (0, x_0] $ 에서 양수이므로, 신호 대 잡음 비율에 합리적인 조건이 있을 경우 경계가 유효함을 시사한다.
• 시뮬레이션 및 실세계 데이터 실험을 통해 제안된 방법이 전통적인 검출 후 추론보다 짧은 구간을 생성하면서도 정확한 커버리지 수준을 유지함을 확인하였다.
• 오차 분산이 알려지지 않은 경우에도, 검정 통계량 및 신뢰구간 구성에 추정된 표준오차를 사용함으로써 유효한 추론을 달성한다.