[논문 리뷰] Measures of dependence between random vectors and tests of independence. Literature review

Julie Josse, Susan Holmes|arXiv (Cornell University)|2013. 07. 28.

Sensory Analysis and Statistical Methods참고 문헌 62인용 수 16

한 줄 요약

이 논문은 랜덤 벡터 간의 종속성 측도를 종합하고 통합하며, RV 계수, 거리 공분산(dCov), 그리고 커널 기반 방법을 중심으로 다룬다. 이들 간의 연관성과 다양한 분야에서의 재발견 현상을 밝히며, 이질적인 다중표본 데이터에서 선형 및 비선형 상관관계를 탐지하고 해석하기 위해 RV 및 dCov 계수—그리고 편향 보정 버전과 시각화 기반 후속 분석을 함께 사용할 것을 제안한다.

ABSTRACT

Simple correlation coefficients between two variables have been generalized to measure association between two matrices in many ways. Coefficients such as the RV coefficient, the distance covariance (dCov) coefficient and kernel based coefficients have been adopted by different research communities. Scientists use these coefficients to test whether two random vectors are linked. If they are, it is important to uncover what patterns exist in these associations. We discuss the topic of measures of dependence between random vectors and tests of independence and show links between different approaches. We document some of the interesting rediscoveries and lack of interconnection between bodies of literature. After providing definitions of the coefficients and associated tests, we present the recent improvements that enhance their statistical properties and ease of interpretation. We summarize multi-table approaches and provide scenarii where the indices can provide useful summaries of heterogeneous multi-block data. We illustrate these different strategies on several examples of real data and suggest directions for future research.

연구 동기 및 목표

• 랜덤 벡터 간 종속성 측도를 종합하고 비교하는 것, 특히 RV 계수, dCov, 커널 기반 방법을 중심으로 한다.
• 생태학, 유전체학, 기계학습 등 서로 다른 과학 공동체 간에 유사한 방법이 독립적으로 개발되고 재발견되며, 상호 연결성이 부족한 문제를 해결하는 것.
• 편향 보정과 순열 검정을 통해 종속성 계수의 해석 가능성과 통계적 성질을 향상시키는 것.
• 복잡한 이질적인 다블록 데이터 탐색을 위해 계수 분석과 그래픽 방법을 조합하는 유용성을 입증하는 것.
• 선형 다블록 방법(예: STATIS, MFA)을 확장하여 dCov와 같은 비선형 종속성 측도를 통합할 수 있는 미래 연구 방향 제안

제안 방법

• 종속성 계수의 세 가지 주요 유형을 검토하고 정의한다: RV 계수(그룹 간 및 그룹 내 분산 기반), 거리 공분산(dCov, 특성 커널과 에너지 통계 기반), 그리고 HSIC와 같은 커널 기반 측도.
• 특히 dCov와 RV에 대해 유의미성 검정을 위해 순열 검정을 적용하여 정규성 가정이 없어도 신뢰할 수 있는 결과를 확보한다.
• 작은 표본에서의 양의 편향을 보정하기 위해 RV(RV*)와 dCov(dCor*)의 편향 보정 버전을 도입한다.
• 실제 데이터셋—종양 유전자 발현 및 CGH 데이터, 다중 스펙트로스코픽 빈 데이터—을 활용하여 계수의 성능과 해석 가능성을 시각화한다.
• 의미 있는 종속성 탐지 후에 연관성의 성격을 탐색하기 위해 그래픽 시각화 기법을 활용한다.
• 연속형, 범주형, 혼합형 데이터 유형과 스케일링, 거리/커널 선택 등의 전처리 선택 사항에 따라 계수 성능을 비교한다.

실험 결과

연구 질문

• RQ1 RV, dCov, 커널 기반 방법과 같은 다양한 종속성 측도는 랜덤 벡터 간의 상관관계 탐지에서 어떻게 비교되는가?
• RQ2 다른 과학 공동체가 독립적으로 비슷한 종속성 측도를 개발하고 채택하는 이유는 무엇이며, 이는 왜 상호 소통이 부족하고 재발견 현상이 반복되는가?
• RQ3 RV와 dCov의 편향 보정 버전이 작은 표본에서 종속성 검정의 신뢰성과 해석 가능성에 얼마나 기여하는가?
• RQ4 그래픽 방법과 후속 분석은 p-값을 넘어서 의미 있는 종속성 결과를 해석하는 데 어떻게 기여하는가?
• RQ5 다양한 거리 또는 커널 함수 선택이 선형 대비 비선형 상관관계 탐지에 미치는 영향은 무엇이며, 어떤 의미를 갖는가?

주요 결과

• dCov 계수는 모든 종속성 대안에 대해 일致성 있는 성질을 지녀, 독립성에 대한 강력한 보편적 검정 도구로 기능한다.
• RV 계수는 선형 관계 탐지에 최적이나, 변수 변환을 통해 일부 비선형 패턴을 포괄할 수 있다.
• 비어의 스펙트로스코픽 데이터셋에서 라만 스펙트로스코피는 높은 재현성(= 0.977)을 보였고, NIR과 MIR은 덜 안정적이었음(RV* = 0.297 및 0.595).
• 스펙트로스코픽 방법 간 유사도는 낮았으며, 예를 들어 NIR과 MIR 간의 유사도는 매우 낮게 나타남(RV* = 0.03)으로, 서로 보완적인 정보를 제공함을 시사한다.
• 편향 보정 버전(RV* 및 dCor*)은 표본 추정치에서의 양의 편향을 감소시켜, 작은 표본 설정에서의 신뢰도를 향상시킨다.
• 연속형과 범주형 변수 간 RV 계수는 상관비율의 제곱합(η²)과 관련이 있으며, 두 범주형 집합 간에는 Φ² 통계량의 합과 연결되며, 이는 대응분석 프레임워크와 연관된다.