[논문 리뷰] Fast computation of Tukey trimmed regions and median in dimension $p>2$

Xiaohui Liu, Karl Mosler외 1명|arXiv (Cornell University)|2014. 12. 16.

Advanced Statistical Methods and Models참고 문헌 35인용 수 5

한 줄 요약

이 논문은 다변량 비모수 통계에서 오랫동안 지속된 계산적 한계를 극복하기 위해 차원 $p > 2$에서 Tukey $\kappa$-자르기 영역과 Tukey 중앙값을 빠르게 계산하기 위한 두 가지 새로운 알고리즘을 제안한다. 더 빠른 알고리즘은 메모리 사용량과 계산 시간을 크게 줄이는 너비 우선의 릿지별 검색 전략을 사용한다. 두 번째 알고리즘은 $p > 2$에서 처음으로 내부 Tukey 영역과 그 기하학적 중심(즉, Tukey 중앙값)을 계산한다. 실험적 검증을 통해 기존 방법 대비 뚜렷한 속도 향상을 입증하였다.

ABSTRACT

Given data in $\mathbb{R}^{p}$, a Tukey $κ$-trimmed region is the set of all points that have at least Tukey depth $κ$ w.r.t. the data. As they are visual, affine equivariant and robust, Tukey regions are useful tools in nonparametric multivariate analysis. While these regions are easily defined and interpreted, their practical use in applications has been impeded so far by the lack of efficient computational procedures in dimension $p > 2$. We construct two novel algorithms to compute a Tukey $κ$-trimmed region, a naïve one and a more sophisticated one that is much faster than known algorithms. Further, a strict bound on the number of facets of a Tukey region is derived. In a large simulation study the novel fast algorithm is compared with the naïve one, which is slower and by construction exact, yielding in every case the same correct results. Finally, the approach is extended to an algorithm that calculates the innermost Tukey region and its barycenter, the Tukey median.

연구 동기 및 목표

• 다변량 비모수 분석에서 Tukey 깊이 기반 영역의 계산 효율성이 떨어지는 문제를 해결하기 위해 $p > 2$ 차원에서의 효율적인 계산 방법 부족 문제를 해결한다.
• 큰 기하학적 구조를 저장하지 않고도 빠르고 메모리 효율적인 Tukey $\kappa$-자르기 영역을 계산하기 위한 알고리즘을 개발한다.
• $p > 2$에서 내부 Tukey 영역과 그 기하학적 중심(즉, Tukey 중앙값)을 계산할 수 있는 첫 번째 알고리즘을 구축한다.
• 외곽선 탐지, 신뢰 영역, 리스크 분석과 같은 분야에서 Tukey 깊이의 실용적 적용을 가능하게 하는 계산 프레임워크를 제공한다.
• R 패키지 TukeyRegion에 알고리즘을 구현하고, 보편적인 접근성과 재현 가능성을 확보한다.

제안 방법

• Algorithm 1을 제안하며, 방향 원뿔이나 초평면 배열을 저장하지 않는 너비 우선의 릿지별 검색 전략을 사용하여 릿지당 메모리 사용량을 $\lceil\frac{p-1}{8}\log_2 n\rceil$ 바이트로 줄인다.
• Tukey 영역의 면 수에 엄격한 상한을 두어 계산 복잡도를 제한하고 검색을 안내한다.
• Algorithm 2에서 Tukey 중앙값을 찾기 위해 후보 점에서 Tukey 깊이를 반복적으로 평가하는 수정된 이분법 절차를 사용한다.
• 선형 프로그래밍과 후처리 기법을 통합하여 Tukey 깊이 계산을 효율화하고 수렴 속도를 높인다.
• 일반 위치를 확보하기 위해 데이터를 약간 변형시키는 강건성 검증을 수행하였으며, 이는 영역 형태에 거의 영향을 주지 않았다.
• 정확도를 검증하기 위해 간단한 정확한 알고리즘과 비교하고, HPS 방법과의 벤치마크를 실시하였다.

실험 결과

연구 질문

• RQ1 큰 기하학적 구조를 저장하지 않고도 $p > 2$ 차원에서 Tukey $\kappa$-자르기 영역을 계산할 수 있는 계산 효율적인 알고리즘을 개발할 수 있는가?
• RQ2 정확도를 유지하면서 Tukey 영역 계산의 메모리 및 시간 복잡도를 어떻게 줄일 수 있는가?
• RQ3 새로운 이분법 기반 접근법을 통해 $p > 2$에서 내부 Tukey 영역과 그 기하학적 중심(즉, Tukey 중앙값)을 계산하는 것이 가능한가?
• RQ4 제안된 알고리즘의 성능은 HPS 및 간단한 순차 탐색과 같은 기존 방법과 비교해 볼 때 속도와 메모리 사용 측면에서 어떻게 다른가?
• RQ5 Tukey 영역의 면 수가 데이터 크기와 차원에 따라 어떻게 증가하는가? 이는 최적화에 활용될 수 있는가?

주요 결과

• Algorithm 1은 이전 방법 대비 최대 100배의 속도 향상과 최대 1000배의 메모리 감소를 달성하였으며, 특히 $p \geq 5$에서 두드러진 성능 향상을 보였다.
• Tukey 영역 면을 포함하는 초평면의 수는 초기 알고리즘 단계에서 검토된 초평면 수보다 크게 적어, 효율적인 가지치기 가능성을 보였다.
• 모든 테스트 케이스에서 알고리즘이 정확하게 Tukey $\kappa$-자르기 영역을 계산하였으며, 정확한 간단한 알고리즘과 결과가 일치하였다.
• Algorithm 2를 통해 $p > 2$ 차원에서 처음으로 내부 Tukey 영역과 그 기하학적 중심(즉, Tukey 중앙값)을 계산하였다.
• 시뮬레이션 연구를 통해 Algorithm 1이 HPS 방법보다 빠르고 메모리 효율성이 뛰어나며, 표본 크기와 차원이 클수록 더욱 두드러진 성능 향상을 보였다.
• R 패키지 TukeyRegion은 모든 알고리즘을 구현하였으며, 3차원에서 깊이 등고선과 영역을 시각화할 수 있는 도구를 포함하고 있다.