[논문 리뷰] REPPlab: An R package for detecting clusters and outliers using exploratory projection pursuit

Daniel Fischer, Alain Berro외 2명|Toulouse Capitole Publications (University Toulouse 1 Capitole)|2016. 12. 20.

Advanced Statistical Methods and Models참고 문헌 24인용 수 4

한 줄 요약

REPPlab는 다변량 데이터에서 군집과 이방성 관측치를 탐지하기 위해 네 가지 투영 지수와 세 가지 생물학적 영감을 받은 최적화 알고리즘(유전자 알고리즘, 입자 군집 최적화, Tribe)을 사용하는 탐색적 투영 투여(EPP) 도구에 액세스할 수 있는 R 패키지입니다. 이 패키지는 저차원 투영에 대한 철저한 시각화와 분석을 가능하게 하며, 여러 지수와 알고리즘의 결과를 통합하는 새로운 이방성 관측치 탐지 도구를 제공하여 실제 데이터셋에서 탐지 신뢰도와 해석 가능성의 향상을 크게 개선합니다.

ABSTRACT

The R-package REPPlab is designed to explore multivariate data sets using one-dimensional unsupervised projection pursuit. It is useful in practice as a preprocessing step to find clusters or as an outlier detection tool for multivariate numerical data. Except from the package tourr that implements smooth sequences of projection matrices and rggobi that provides an interface to a dynamic graphics package called GGobi, there is no implementation of exploratory projection pursuit tools available in R especially in the context of outlier detection. REPPlab is an R interface for the Java program EPPlab that implements four projection indices and three biologically inspired optimization algorithms. The implemented indices are either adapted to cluster or to outlier detection and the optimization algorithms have at most one parameter to tune. Following the original software EPPlab, the exploration strategy in REPPlab is divided into two steps. Many potentially interesting projections are calculated at the first step and examined at the second step. For this second step, different tools for plotting and combining the results are proposed with specific tools for outlier detection. Compared to EPPlab, some of these tools are new and their performance is illustrated through some simulations and using some real data sets in a clustering context. The functionalities of the package are also illustrated for outlier detection on a new data set that is provided with the package.

연구 동기 및 목표

• R에서 비지도 데이터 분석을 위한 접근성 있고 정적 탐색적 투영 투여(EPP) 도구의 부족을 해결하기 위해.
• 단독으로 사용 가능한 자바 기반 도구인 EPP-lab과 R 사용자 간 격차를 메우기 위해 종합적인 R 인터페이스를 제공하기 위해.
• 여러 투영 지수와 최적화 알고리즘의 결과를 통합하여 이방성 관측치 탐지의 신뢰도를 향상시키기 위해.
• EPP 결과를 해석하기 위한 고급 시각화 및 요약 도구를 제공하여, 특히 극단적 관측치를 식별하는 데 기여하기 위해.
• 실제 데이터셋과 시뮬레이션을 통해 REPPlab의 효과성을 입증하여 더 높은 내구성과 탐지 정확도를 보여주기 위해.

제안 방법

• 패키지는 네 가지 투영 지수(Friedman-Tukey, Friedman, 판별, 첨도(최대/최소화))를 제공하는 자바 기반 EPP-lab 소프트웨어와 연동하여 사용합니다.
• 최소한의 튜닝이 필요한 세 가지 최적화 알고리즘(유전자 알고리즘, 입자 군집 최적화(PSO), Tribe)를 구현합니다.
• 탐색 전략은 두 단계로 구성됩니다: 첫째, 다양한 지수와 알고리즘을 사용하여 다수의 투영을 계산합니다. 둘째, R 기반 도구를 활용해 결과를 시각화하고 분석합니다.
• 이방성 관측치 탐지는 여러 투영에서 일관되게 극단적인 관측치를 식별함으로써 수행되며, 고전적(평균, 표준편차) 및 강건한(중앙값, 중앙값 평균편차) 위치 및 척도 측도를 모두 사용합니다.
• 패키지는 투영 지수 값, 방향 간余弦 행렬, 여러 실행에 걸친 이방성 빈도를 계산하고 시각화하는 기능을 제공합니다.
• 다양한 지수와 알고리즘의 결과를 결합할 수 있으며, `apply(outlier_matrix, 1, sum)`와 같은 도구를 통해 여러 방향에서 탐지된 관측치를 식별할 수 있습니다.

실험 결과

연구 질문

• RQ1 탐색적 투영 투여가 비지도 다변량 데이터 분석에 효과적으로 R에 통합될 수 있는가?
• RQ2 여러 투영 지수와 최적화 알고리즘의 조합이 이방성 관측치 탐지의 신뢰도를 어느 정도 향상시킬 수 있는가?
• RQ3 EPP를 사용할 때 고전적 측도(평균, 표준편차)와 비교해 강건한 측도(중앙값, 중앙값 평균편차)는 이방성 관측치 식별에 어떻게 다른가?
• RQ4 REPPlab의 시각화 및 요약 도구는 실제 데이터셋에서 군집과 극단적 관측치를 탐지하는 데 어떤 성능을 보이는가?
• RQ5 특수화된 PSO 변종인 Tribe 알고리즘이 다변량 데이터의 비정규 구조(예: 군집, 이방성 관측치)를 식별하는 데 기존 최적화 방법보다 뛰어난 성능을 보일 수 있는가?

주요 결과

• 고전적 측도(평균, 표준편차) 대비 강건한 측도(중앙값, 중앙값 평균편차)를 사용할 경우, 이방성 관측치가 11개에서 32개로 증가했습니다.
• 강건한 측도를 사용했을 때 관측치 512는 100개의 투영 중 81개에서 이방성으로 탐지되어 여러 방향에서 극단적인 이탈을 보였습니다.
• 관측치 414는 강건한 측도를 사용했을 때 74개의 투영에서 탐지되어 극단적인 이방성 관측치로 확인되었습니다.
• 여러 지수와 알고리즘의 조합은 4개의 주요 이방성 후보(57, 367, 414, 512)를 식별하였으며, 이들의 극단적인 위치는 첫 번째 두 투영의 산점도에서 확인되었습니다.
• Tribe 알고리즘이 局부 최적해를 효과적으로 식별하여 비정규 구조(예: 군집, 이방성 관측치) 탐지에 기여했습니다.
• 시각화 도구(예: 여측 행렬, 다중 방향 이방성 빈도도)를 통해 가장 극단적인 관측치와 그들이 여러 투영에 걸쳐 일관성 있는지 명확히 식별할 수 있었습니다.