[논문 리뷰] The geometry of second-order statistics - biases in common estimators

M. Kerscher|arXiv (Cornell University)|1998. 11. 19.

Point processes and geometric inequalities참고 문헌 6인용 수 7

한 줄 요약

이 논문은 두 번째 순서 통계의 일반적인 추정기들, 특히 두 점 상관 함수에 대한 기하적 편향을 분석하며, 근사적으로 편향이 없는 기하학적 추정기들과 비교한다. 널리 사용되는 Davis & Peebles, Landy & Szalay, Hamilton 추정기들이 유한한 크기 효과를 잘못 다루면서 특히 큰 스케일에서 체계적인 편향을 보임을 입증하고, IRAS 은하 데이터를 사례로 하여 개선된 수치적 구현 방법을 제안한다.

ABSTRACT

Second-order measures, such as the two-point correlation function, are geometrical quantities describing the clustering properties of a point distribution. In this article well-known estimators for the correlation integral are reviewed and their relation to geometrical estimators for the two-point correlation function is put forward. Simulations illustrate the range of applicability of these estimators. The interpretation of the two-point correlation function as the excess of clustering with respect to Poisson distributed points has led to biases in common estimators. Comparing with the approximately unbiased geometrical estimators, we show how biases enter the estimators introduced by Davis and Peebles, Landy and Szalay, and Hamilton. We give recommendations for the application of the estimators, including details of the numerical implementation. The properties of the estimators of the correlation integral are illustrated in an application to a sample of IRAS galaxies. It is found that, due to the limitations of current galaxy catalogues in number and depth, no reliable determination of the correlation integral on large scales is possible. In the sample of IRAS galaxies considered, several estimators using different finite-size corrections yield different results on scales larger than 20 Mpc/h, while all of them agree on smaller scales.

연구 동기 및 목표

• 천문학적 점 과정에서 널리 사용되는 두 점 상관 함수 추정기의 기하학적 편향을 특정하고 정량화하는 것.
• 특히 기하학적 해석 측면에서 상관 적분과 두 점 상관 함수 사이의 개념적 차이를 명확히 하는 것.
• 유한한 표본 크기에서 표준 추정기(Davis & Peebles, Landy & Szalay, Hamilton)가 근사적으로 편향이 없는 기하학적 추정기와 비교하여 성능을 평가하는 것.
• 유한한 크기 보정 기법을 포함하여 이러한 추정기를 정확히 구현하기 위한 실용적 권고 사항을 제공하는 것.
• 특히 큰 스케일에서의 상관 함수 측정의 신뢰성을 현재의 은하 목록에서 평가하는 것.

제안 방법

• 상관 적분에서 유도된 기하학적 추정기와 두 점 상관 함수의 표준 추정기를 검토하고 비교하는 것.
• 다양한 표본 조건 하에서 각 추정기의 적용 범위와 편향 특성을 평가하기 위해 몬테카를로 시뮬레이션을 사용하는 것.
• 작은 스케일에서 큰 스케일(최대 20 Mpc/h 이상)에 이르기까지 다양한 스케일에서 IRAS 은하의 실제 표본에 추정기를 적용하여 그 행동을 테스트하는 것.
• 특히 큰 스케일에서의 군집화에 대해 체계적인 편향을 줄이기 위해 유한한 크기 보정을 도입하고 적용하는 것.
• 상관 적분을 포아송 과정을 초과하는 초과 군집화로 기하학적으로 해석하여 근사적으로 편향이 없는 기준 추정기를 정의하는 것.
• 다양한 보정 기법을 가진 여러 추정기의 결과를 비교하여 다양한 스케일에서의 일관성과 신뢰성을 평가하는 것.

실험 결과

연구 질문

• RQ1 유한한 표본 크기로 인해 표준 두 점 상관 함수 추정기가 기하학적으로 편향이 없는 추정기에서 얼마나 벗어나는가?
• RQ2 실제 은하 목록에 적용했을 때 Davis & Peebles, Landy & Szalay, Hamilton 추정기에서 체계적인 편향의 근본 원인은 무엇인가?
• RQ3 다양한 유한한 크기 보정 기법이 큰 스케일에서 추정된 상관 함수에 얼마나 큰 영향을 미치는가?
• RQ4 20 Mpc/h 이상의 스케일에서 현재의 은하 목록으로부터 상관 적분을 신뢰할 만하게 측정할 수 있는가?
• RQ5 IRAS 은하 표본에 적용했을 때 다양한 추정기의 결과는 실제로 어떻게 비교되는가?

주요 결과

• Davis & Peebles, Landy & Szalay, Hamilton 추정기들은 유한한 크기 효과를 잘못 다루면서 큰 스케일에서 심각한 편향을 보인다.
• 상관 적분의 기하학적 추정기는 거의 편향이 없는 기준을 제공하며, 표준 추정기들의 체계적 이탈을 드러낸다.
• 20 Mpc/h 이상의 스케일에서 IRAS 은하 표본에서 다양한 보정 기법을 가진 추정기들이 일관되지 않은 결과를 산출한다.
• 20 Mpc/h 이하의 스케일에서는 모든 추정기가 일치하므로, 작은 스케일에서는 군집 측정이 일관되게 이루어진다.
• 현재의 은하 목록은 수의와 깊이의 제한으로 인해 큰 스케일에서 상관 적분을 신뢰할 수 있게 결정할 수 없다.
• 이 연구는 유한한 크기 보정을 신중히 구현할 것을 권고하며, 기존 데이터에서 큰 스케일 군집 결과를 과도하게 해석하지 말 것을 경고한다.