[논문 리뷰] Domain of Inverse Double Arcsine Transformation

Jong‐Hyeon Jeong|arXiv (Cornell University)|2018. 11. 19.

Molecular spectroscopy and chirality인용 수 4

한 줄 요약

이 논문은 표본 크기가 작은 경우 0과 1 근처에서 비정상적인 행동을 보이는 역 이중 arcsine 변환의 정의역과 치역을 분석한다. 작은 표본 크기에 따라 변하는 근사 방법을 제안하고, 정확도를 정량화하기 위해 최대 백분율 오차(MPE) 지표를 도입하여 메타분석에서 비율을 역변환할 때 원하는 정밀도를 확보하기 위한 표본 크기 결정을 가능하게 한다.

ABSTRACT

To combine the proportions from different studies for meta-analysis, Freeman and Tukey double arcsine tranformation can be useful for normalization and variance stabilization. The inverse function of the double arcsine transformation has been also derived in the literature to recover the original scale of the proportion after aggregation. In this brief note, we present the domain and range of the inverse double arcsine transformation both analytically and graphically. We notice an erratic behavior in the mathematical formula for the inverse double arcsine tranformation at both limits of its domain, and propose approximation methods for both small and large samples. We also propose a simple accuracy measure, the maximum percent error (MPE), of the large sample approximation, which can be used to determine the sample size that would provide a certain accuracy level, and conversely to determine the accuracy level of the approximation given a sample size.

연구 동기 및 목표

• 유한 표본 크기에서 역 이중 arcsine 변환의 정의역과 치역을 명확히 하기 위해, 특히 0과 1 근처에서의 행동을 분석한다.
• 정의역 경계에서 역 변환 공식의 수치적 불안정성 문제를 다룬다.
• 작은 표본과 큰 표본 모두에 적합한, 표본 크기에 따라 변하는 융통성 있는 근사 방법을 제안한다.
• 큰 표본 근사의 정확도를 평가하기 위한 최대 백분율 오차(MPE) 지표를 도입한다.
• 메타분석에서 목표 정밀도 수준을 달성하기 위해 필요한 표본 크기를 결정하는 실용적인 도구를 제공한다.

제안 방법

• 원래의 이중 arcsine 변환에 기반하여 역 이중 arcsine 변환의 정의역과 치역을 해석적으로 유도한다.
• 특히 작은 n일 경우 0과 1 근처에서 역 공식의 비정상적인 행동을 식별하고, 경계 클리핑을 제안한다: 하한 이하일 땐 p(θ) = 0, 상한 초과일 땐 p(θ) = 1으로 설정한다.
• 이중 arcsine와 그 한계 형태인 arcsine 간의 편차를 정량화하기 위해 표본 크기 n에 대한 함수로 최대 백분율 오차(MPE)를 제안한다.
• 원하는 MPE 수준 ε을 달성하기 위한 필수 표본 크기 n을 담은 닫힌 형태의 수식을 유도한다: n = tan²(π(1/2 − ε)).
• 큰 표본에서는 한계 역 함수 sin²(θ)를 사용한다. 이는 n → ∞ 일 때 유효하다.
• 특정 n 값에 대해 MPE를 계산하여 MPE 측정법을 검증한다 (예: n = 200 → MPE = 2.2%, n = 500 → MPE = 1.4%).

실험 결과

연구 질문

• RQ1 유한 표본 크기에서 역 이중 arcsine 변환의 정확한 정의역과 치역은 무엇인가?
• RQ2 왜 역 변환 공식이 0과 1 근처에서 비정상적인 행동을 보이며, 이를 어떻게 수정할 수 있는가?
• RQ3 다양한 표본 크기에서 큰 표본 근사(sin²(θ))의 정확도를 어떻게 정량적으로 측정할 수 있는가?
• RQ4 역 변환 근사에서 사전에 설정된 정밀도 수준을 달성하기 위해 필요한 표본 크기는 얼마인가?
• RQ5 MPE 지표를 사용하여 주어진 표본 크기에 대한 근사의 정확도 수준을 어떻게 결정할 수 있는가?

주요 결과

• 역 이중 arcsine 변환은 정의역의 양 끝부분(0과 1 근처)에서 비정상적인 행동을 보이며, 특히 작은 n일 경우 경계 조정이 필요하다.
• 작은 표본에서는 원래 비율을 일대일로 복원하기 위해, 하한 이하일 경우 역 함수의 값을 0으로 제한하고 상한 초과일 경우 1로 제한해야 한다.
• 이중 arcsine와 그 한계 형태인 arcsine 간의 최대 백분율 오차(MPE)는 p = 1에서 가장 크며, δ(1) = 1/2 − (1/π)sin⁻¹(√(n/(n+1))) 로 주어진다.
• 목표 MPE 수준 ε을 달성하기 위한 필수 표본 크기는 n = tan²(π(1/2 − ε)) 이며, ε → 0 일 때 n는 무한대에 수렴한다.
• n = 200일 경우 MPE는 2.2%; n = 500일 경우 1.4%이며, 이는 표본 크기가 증가할수록 오차가 감소함을 보여준다.
• MPE 지표를 통해 원하는 정밀도를 확보하기 위한 표본 크기 계획(앞서 계획)과 주어진 표본 크기에 대한 정확도 평가(뒤에서 평가)를 모두 수행할 수 있어, 메타분석에 실용적인 도구가 된다.