[논문 리뷰] Towards a power analysis for PLS-based methods

Angela Andreella, Livio Fino외 2명|arXiv (Cornell University)|2024. 03. 15.

Fault Detection and Control Systems인용 수 4

한 줄 요약

이 논문은 파ilot 데이터로부터 잠재 구조와 상관 구조를 명시적으로 유지하면서, 부분 최소 제곱법(PLS) 기반 방법을 위한 몬테카를로 시뮬레이션 기반의 통계 검정력 분석 프레임워크를 제안한다. 이 방법은 PLS 유도된 가중치와 점수를 사용하여 대안 가설 하에서 다변량 데이터를 시뮬레이션함으로써, 옹모 연구에서의 분류 작업에 대한 정확한 검정력 추정을 가능하게 한다.

ABSTRACT

In recent years, power analysis has become widely used in applied sciences, with the increasing importance of the replicability issue. When distribution-free methods, such as Partial Least Squares (PLS)-based approaches, are considered, formulating power analysis turns out to be challenging. In this study, we introduce the methodological framework of a new procedure for performing power analysis when PLS-based methods are used. Data are simulated by the Monte Carlo method, assuming the null hypothesis of no effect is false and exploiting the latent structure estimated by PLS in the pilot data. In this way, the complex correlation data structure is explicitly considered in power analysis and sample size estimation. The paper offers insights into selecting statistical tests for the power analysis procedure, comparing accuracy-based tests and those based on continuous parameters estimated by PLS. Simulated and real datasets are investigated to show how the method works in practice.

연구 동기 및 목표

• 다변량 데이터 분석에서 분포 자유, 우도 자유인 PLS 기반 접근법에 대한 신뢰할 수 있는 검정력 분석 방법의 부족을 해결한다.
• 옹모 연구에서 흔히 발생하는 고차원, 상관관계가 높고 표본 크기가 작은 환경에서 전통적 검정력 분석의 한계를 극복한다.
• PLS 모델에서 유도된 진짜 데이터 상관 구조와 잠재 변수 구조를 존중하는 시뮬레이션 기반 프레임워크를 개발한다.
• PLS 프레임워크 하에서 사용 가능한 다양한 통계 검정—정확도 기반 검정과 연속형 파ameter 기반 검정—을 비교한다.
• 재현성과 적용 연구에서의 수용을 지원하기 위해 투명하고 접근하기 쉬운 R 패키지 구현을 제공한다.

제안 방법

• 파ilot 데이터에서 PLS로 추정한 잠재 구조(가중치 및 점수)를 유지하면서 몬테카를로 방법을 사용해 인위적 데이터셋을 시뮬레이션한다.
• 파ilot 데이터와 동일한 공분산 구조를 가지되, 다양한 표본 크기를 가진 새로운 데이터셋을 생성하여 다양한 설계에서 검정력을 평가한다.
• 시뮬레이션된 데이터셋에 PLS를 적용하여 모델 파ameter를 추정하고 대안 가설 하에서 검정 통계량을 평가한다.
• 정확도 기반 검정(예: 분류 오차율)과 연속형 파ameter 기반 검정(예: 잠재 변수 적재량)을 모두 검정력 분석 절차에 통합한다.
• 순열 검정을 사용하여 유의성 수준을 평가하고 시뮬레이션 프레임워크 내에서 I종 오류율을 통제한다.
• 연구자들이 쉽게 접근하고 재현 가능하게 사용할 수 있도록 투명한 R 패키지로 이 방법을 구현한다.

실험 결과

연구 질문

• RQ1 기존의 파ametric 가정이 성립하지 않는 상황에서 PLS 기반 방법에 대한 신뢰할 수 있는 검정력 분석은 어떻게 수행할 수 있는가?
• RQ2 파ilot 데이터로부터 유도된 잠재 구조와 상관 구조를 유지할 경우, PLS 모델에서 검정력 추정의 정확도에 어떤 영향을 미치는가?
• RQ3 PLS 기반 분류에서 정확도 기반 검정과 연속형 파ameter 기반 검정은 통계적 검정력과 I종 오류 통제 측면에서 어떻게 비교되는가?
• RQ4 실제 데이터 상관 구조를 반영한 경우, 사례 대조 PLS-DA 연구에서 80%의 통계적 검정력을 확보하기 위해 필요한 표본 크기는 얼마인가?
• RQ5 PLS 유도된 구성요소를 사용하는 시뮬레이션 기반 접근법은 고차원 옹모 데이터의 표본 크기 추정에서 기존 방법보다 뛰어난 성능을 보일 수 있는가?

주요 결과

• 제안된 방법은 시뮬레이션 데이터셋에서 파ilot 데이터의 복잡한 상관 구조와 잠재 변수 관계를 성공적으로 유지하여 현실적인 검정력 추정을 가능하게 한다.
• PLS 기반 시뮬레이션 프레임워크를 통한 검정력 추정 결과, 표본 크기 요구량은 잠재 성분 수(A)와 데이터의 효과 크기에 매우 민감한 것으로 나타났다.
• 100회의 몬테카를로 시뮬레이션과 200회의 순열을 사용할 경우 안정적인 검정력 추정이 가능했으며, 95% 신뢰구간이 신뢰할 수 있는 정밀도를 제공했다.
• 정확도 기반 검정은 특히 표본 크기가 작은 상황에서 연속형 파ameter 기반 검정보다 낮은 통계적 검정력을 보였다.
• 시뮬레이션 프레임워크는 A=3개 성분을 가진 사례 대조 PLS-DA 설정에서 80% 검정력을 확보하기 위한 최적의 표본 크기를 정확히 식별했다.
• R 패키지 구현을 통해 연구자들이 실제 옹모 데이터셋에 대해 이 방법을 신뢰하고 재현 가능하게 적용할 수 있게 되었다.