[논문 리뷰] Practical Realization of Bessel's Correction for a Bias-Free Estimation of the Auto-Covariance and the Cross-Covariance Functions

Holger Nobach|arXiv (Cornell University)|2023. 03. 20.

Fault Detection and Control Systems인용 수 4

한 줄 요약

이 논문은 평균을 동일한 데이터에서 추정할 때 자동공분산 및 교차공분산 추정기의 편향을 보정하기 위한 실용적인 방법을 제시한다. 이는 표본 기반 평균 빼기로 인한 편향을 보정하기 위해 베셀의 보정을 적용한다. 접근법은 가중치가 부여되고 겹치는 데이터 세그먼트를 사용하며, 역정규화 행렬을 통해 편향 보정된 추정기를 유도한다. 이로써 상관관계가 있는 데이터에 대해서도 정확한 분산 및 공분산 추정이 가능해지며, 폐쇄형 해와 함께 오픈소스 코드가 제공된다.

ABSTRACT

To derive the auto-covariance function from a sampled and time-limited signal or the cross-covariance function from two such signals, the mean values must be estimated and removed from the signals. If no a priori information about the correct mean values is available and the mean values must be derived from the time series themselves, the estimates will be biased. For the estimation of the variance from independent data the appropriate correction is widely known as Bessel's correction. Similar corrections for the auto-covariance and for the cross-covariance functions are shown here, including individual weighting of the samples. The corrected estimates then can be used to correct also the variance estimate in the case of correlated data. The programs used here are available online at http://sigproc.nambis.de/programs.

연구 동기 및 목표

• 같은 유한한 데이터 세트에서 평균을 추정할 때 발생하는 자동공분산 및 교차공분산 추정기의 편향을 해결하기 위해.
• 일반적으로 분산 추정에 사용되는 베셀의 보정을 상관관계가 있는 데이터 조건 하에서 공분산 함수 추정으로 확장하기 위해.
• 가중치가 부여된 데이터와 겹치는 세그먼트를 사용하여 편향 없는 공분산 추정이 가능한 실용적이고 계산적으로 실현 가능한 방법을 제공하기 위해.
• 공분산 추정기를 보정하여 상관관계가 있는 데이터가 존재하는 상황에서도 정확한 분산 추정을 가능하게 하기 위해.
• 실세계 데이터 분석을 위한 완전하고 오픈소스 구현을 제공하기 위해.

제안 방법

• 가중치가 부여된 자동공분산 및 교차공분산의 합으로 모델링된 평균 추정기의 분산을 통해 표본 기반 공분산 추정의 편향을 유도한다.
• 겹치는 데이터 세그먼트와 가변 가중치를 기반으로 진짜 공분산 함수와 추정된 공분산 함수의 기대값을 연결하는 정규화 행렬을 도입한다.
• 이 정규화 행렬의 역행렬을 사용하여 원시 공분산 추정치를 보정함으로써 편향 없는 추정기를 도출한다.
• 양방향 대칭 공식을 사용하여 푸리에 변환(FFT) 가속화를 가능하게 하는 자동공분산 및 교차공분산 함수에 모두 적용한다.
• 가중치가 부여되고 상관관계가 있는 데이터에 대한 일반화된 베셀 보정을 포함한 편향 보정 추정기의 폐쇄형 표현식을 도출한다.
• 개별 표본 가중치와 가변 길이 신호 쌍을 지원하는 코드 기반 완전한 구현을 제공한다.

실험 결과

연구 질문

• RQ1 평균을 동일한 데이터에서 추정할 때, 분산에서의 베셀의 보정을 자동공분산 및 교차공분산 추정으로 어떻게 확장할 수 있는가?
• RQ2 상관관계가 있는 데이터 하에서 표본 기반 평균 빼기로 인한 공분산 추정기의 분석적 형태의 편향은 무엇인가?
• RQ3 비균일 샘플링 또는 유효하지 않은 점을 포함한 가중치가 부여된 데이터는 편향 보정 공분산 추정 프레임워크에서 어떻게 다룰 수 있는가?
• RQ4 대칭적이고 이원적인 공분산 함수를 통해 FFT 기반 방법을 효율적으로 적용할 수 있는가?
• RQ5 자료 상관관계가 존재하는 상황에서 보정된 공분산 추정기와 편향 없는 분산 추정치 사이의 관계는 무엇인가?

주요 결과

• 평균 추정으로 인한 표본 분산 추정의 편향은 정확히 평균 추정기의 분산과 정확히 일치하며, 이는 진짜 자동공분산 함수와 표본 가중치로부터 유도된다.
• 편향 보정된 분산 추정기 $ \hat{s}^2 = s^2 + \sigma_{\bar{x}}^2 $로 유도되며, 여기서 $ \sigma_{\bar{x}}^2 $는 평균의 추정 분산으로, 진짜 분산이 알려지지 않은 경우 폐쇄형 보정을 이끈다.
• 상관관계가 없고 균일하게 가중치가 부여된 데이터의 경우, 이 방법은 고전적인 베셀의 보정으로 축소된다: $ \hat{s}^2 = \frac{1}{N-1}\sum \tilde{x}_i^2 $, 이는 기존 실천과의 일致성을 확인한다.
• 정규화 행렬 접근법을 사용하여 편향 보정된 자동공분산 및 교차공분산 추정기를 도출하였으며, 이 행렬의 역행렬을 사용해 원시 추정치를 보정한다.
• 이 방법은 개별 표본 가중치를 지원하며, 겹치는 세그먼트 정규화를 통해 가변 길이 신호 쌍을 처리하여 실세계 데이터의 비정상성 상황에서도 강력한 추정이 가능하게 한다.
• 저자들은 http://sigproc.nambis.de/programs 에서 작동하는 구현을 제공하며, 2020년과 2021년 기준으로 업데이트되어 실용적 사용성을 보장한다.