[논문 리뷰] Discovering Association with Copula Entropy

Jian Ma|arXiv (Cornell University)|2019. 07. 29.

Complex Systems and Time Series Analysis참고 문헌 20인용 수 11

한 줄 요약

이 논문은 비모수적 측도인 코풀라 엔트로피(Copula Entropy, CE)를 사용하여 선형 및 비선형 상관관계를 모두 포착하는 새로운 연관성 탐지 방법을 제안한다. 기존의 상관계수보다 더 넓은 범위의 상관관계를 포착할 수 있으며, NHANES 생물의학 데이터에 적용한 결과, 당뇨병, 환경 노출 및 플라스티사이저 대사산물과 관련된 더 많은 생물학적으로 의미 있는 연관성들이 드러났다.

ABSTRACT

Discovering associations is of central importance in scientific practices. Currently, most researches consider only linear association measured by correlation coefficient, which has its theoretical limitations. In this paper, we propose a new method for discovering association with copula entropy -- a universal applicable association measure for not only linear cases, but nonlinear cases. The advantage of the method based on copula entropy over traditional method is demonstrated on the NHANES data by discovering more biomedical meaningful associations.

연구 동기 및 목표

• 기존 상관계수는 선형 상관관계만 포착할 수 있어 과학 데이터에서 비선형 의존성을 놓치는 한계를 해결하기 위해.
• 두 번째 차수 이상의 의존성으로 확장 가능한 이론적으로 탄탄하고 보편적으로 적용 가능한 연관성 측도를 개발하기 위해.
• 실제 데이터셋에서 생물의학적으로 의미 있는 연관성을 탐지하는 데서 코풀라 엔트로피의 실용적 우수성을 입증하기 위해.
• 다변량 및 비선형 시스템에서 일관되게 작동하는 비모수적 정보이론적 프레임워크를 제공하기 위해.

제안 방법

• 통계적 의존성 측도로 코풀라 엔트로피(CE)를 사용하며, 정의는 코풀라 밀도의 로그에 가중치를 둔 적분의 음수이다: $ H_c(\mathbf{X}) = -\int c(\mathbf{u}) \log c(\mathbf{u}) d\mathbf{u} $.
• 상호정보량(MI)과 음수 코풀라 엔트로피의 이론적 등가성인 $ I(\mathbf{X}) = -H_c(\mathbf{X}) $ 를 활용하여, CE를 통해 MI를 추정한다.
• 두 단계로 구성된 비모수적 추정 절차를 적용한다: 먼저 경험적 누적분포함수를 사용해 경험적 코풀라 밀도(EMD)를 추정하고, 이후 k-최근접 이웃(kNN)을 이용해 엔트로피 추정을 수행한다.
• NHANES와 같은 실제 생물의학 데이터에 이 방법을 적용하여 CE, 피어슨 상관계수, 스피어만 순위 상관계수 간의 연관성 패턴을 비교한다.
• 행렬 시각화를 통해 연관성 구조를 비교하고, 기존 방법이 놓치는 비대칭적 연관성(비대각선 요소)을 강조한다.
• 기존 생물학적 지식과의 대조를 통해 탐지된 연관성의 생물학적 타당성을 평가한다.

실험 결과

연구 질문

• RQ1 코풀라 엔트로피는 기존 상관계수보다 생물의학 데이터에서 더 포괄적이고 생물학적으로 관련성이 높은 연관성을 탐지할 수 있는가?
• RQ2 코풀라 엔트로피는 피어슨 상관계수와 스피어만 순위 상관계수와 비교해 비선형성 및 고차원 의존성을 얼마나 잘 포착하는가?
• RQ3 코풀라 엔트로피는 선형 상관계수로는 놓치는 생물학적으로 의미 있는 연관성의 유형은 무엇인가?
• RQ4 코풀라 엔트로피는 다변량 시스템에서 통계적 의존성의 더 명확하고 해석 가능한 표현을 제공하는가?
• RQ5 코풀라 엔트로피는 질병 위험, 환경 노출 및 대사 지표와 관련된 연관성 탐지에 어느 정도 향상되는가?

주요 결과

• 코풀라 엔트로피는 NHANES 데이터에서 총 5개의 생물학적으로 일관된 연관성 군집을 드러내었으며, 이는 제2형 당뇨병 위험, 환경 화학 물질 노출 및 플라스티사이저 대사산물과 관련된 것들이 포함되어 있다.
• CE 기반 연관성 행렬은 피어슨 상관계수 행렬보다 훨씬 더 많은 비대각선 요소를 보이며, 이는 비선형성 및 고차원 의존성의 탐지 능력을 시사한다.
• 피어슨의 $ r $ 과 비교해 CE는 인슐린 저항성, 트리글리세리드 및 리포단백질과 관련된 변수들에서 더 많은 연관성을 탐지했으며, 이는 대사 증후군에서 상호 관련성이 높은 것으로 알려져 있다.
• 정규분포가 아니거나 비선형적으로 의존하는 변수들에서, CE 행렬은 피어슨 및 스피어만 상관계수보다 더 강하고 일관된 의존성 패턴을 포착했다.
• 그룹 3 연관성(예: 구강 포도당, 인슐린, 콜레스테롤)은 제2형 당뇨병의 기전에 기반한 기존의 병리생리학적 메커니즘과 일치하여, CE로 탐지된 연결의 생물학적 타당성을 입증한다.
• CE는 요로 내 프탈레이트 대사산물과 금속 간의 의미 있는 연관성을 탐지했으며(그룹 5 및 그룹 1), 이는 환경의학 연구에서 알려진 공노출 패턴을 지지한다.