[논문 리뷰] Sparse Canonical Correlation Analysis via Concave Minimization

Omid Shams Solari, James B. Brown외 1명|arXiv (Cornell University)|2019. 09. 17.

Bioinformatics and Genomic Networks참고 문헌 67인용 수 6

한 줄 요약

이 논문은 고차원적 다오미크스 데이터에서 해석 가능성과 계산 효율성을 향상시키기 위해 볼록 최소화를 이용한 새로운 희소 공분산 분석(sCCA) 방법을 제안한다. 비볼록 sCCA 문제를 컴act 집합 위에서의 볼록 최대화 문제로 재구성함으로써, 저자들은 첫 번째 단계에서 빠른 경사 하강법을 사용해 희소성 패턴을 식별하고, 두 번째 단계에서 축소된 데이터에서 공분산 방향을 계산하는 이중단계 알고리즘을 개발하였다. 이는 기존 방법들과 비교해 뛰어난 수렴성, 지원 복구 정확도, 그리고 공분산 상관계수 추정 성능을 달성한다.

ABSTRACT

A new approach to the sparse Canonical Correlation Analysis (sCCA)is proposed with the aim of discovering interpretable associations in very high-dimensional multi-view, i.e.observations of multiple sets of variables on the same subjects, problems. Inspired by the sparse PCA approach of Journee et al. (2010), we also show that the sparse CCA formulation, while non-convex, is equivalent to a maximization program of a convex objective over a compact set for which we propose a first-order gradient method. This result helps us reduce the search space drastically to the boundaries of the set. Consequently, we propose a two-step algorithm, where we first infer the sparsity pattern of the canonical directions using our fast algorithm, then we shrink each view, i.e. observations of a set of covariates, to contain observations on the sets of covariates selected in the previous step, and compute their canonical directions via any CCA algorithm. We also introduceDirected Sparse CCA, which is able to find associations which are aligned with a specified experiment design, andMulti-View sCCA which is used to discover associations between multiple sets of covariates. Our simulations establish the superior convergence properties and computational efficiency of our algorithm as well as accuracy in terms of the canonical correlation and its ability to recover the supports of the canonical directions. We study the associations between metabolomics, trasncriptomics and microbiomics in a multi-omic study usingMuLe, which is an R-package that implements our approach, in order to form hypotheses on mechanisms of adaptations of Drosophila Melanogaster to high doses of environmental toxicants, specifically Atrazine, which is a commonly used chemical fertilizer.

연구 동기 및 목표

• 고차원적 다뷰 데이터에서 이해하기 쉬운 저차원의 연관성을 발견하는 데 도전하는 것, 특히 게놈학 및 다오미크스 연구에서의 적용을 목표로 한다.
• 기존의 희소 CCA 방법들이 공분산 방향의 진짜 희소성 패턴을 정확히 복구하는 데에 한계를 보이고 있는 문제를 해결하는 것.
• 공분산 상관계수 추정 정확도를 유지하면서도 계산 효율성이 높은 알고리즘을 개발하여 다뷰 및 유도된 변형 버전을 지원하는 것.
• 다양한 생물학적 시스템, 예를 들어 아트라진과 같은 환경 독성 물질에 노출된 Drosophila melanogaster의 반응에서 가설 생성을 가능하게 하는 것.
• 실제 데이터 분석에 적용 가능한 확장성 있고 오픈소스인 R 패키지(MuLe)를 제공하는 것.

제안 방법

• 비볼록 희소 CCA 문제를 컴 pact 집합 위에서의 볼록 최대화 문제로 재구성함으로써, 일阶 경사 하강법을 이용한 효율적 최적화를 가능하게 한다.
• 이중단계 알고리즘 제안: 첫째, 재구성된 문제에서 빠른 경사 하강법을 사용해 공분산 방향의 희소성 패턴을 추론하고, 둘째, 각 데이터 뷰를 선택된 공변량들로만 축소한 후 표준 CCA를 통해 공분산 방향을 계산한다.
• 희소 CCA 문제와 컴 pact 집합 위에서의 볼록 최대화 문제 사이의 등가성을 활용하여 타당 영역의 경계로 탐색 공간을 극적으로 줄인다.
• 실험 설계에 따라 연관성을 정렬할 수 있도록 유도된 희소 CCA를 도입하여 인과 기반 연관성 탐색을 가능하게 한다.
• 두 개 이상의 데이터 세트 간의 연관성을 발견하기 위해 다뷰 sCCA를 개발하여 프레임워크를 다오미크스 통합에 확장한다.
• CCA 바이플롯과 인터폴라티브 플롯과 같은 시각화 도구를 구현하여 결과를 해석하고, 각 데이터세트 간에 프로젝션된 변수 로딩과 샘플 위치의 보간을 가능하게 한다.

실험 결과

연구 질문

• RQ1 고차원 설정에서 기존 방법들과 비교해 볼록 최소화 접근법이 희소성 패턴 복구 정확도를 향상시킬 수 있는가?
• RQ2 제안된 이중단계 알고리즘은 최신 sCCA 방법들과 비교해 계산 효율성과 수렴 속도 측면에서 어떻게 성능을 발휘하는가?
• RQ3 모의 및 실제 다오미크스 데이터에서 이 방법이 진짜 공분산 상관계수와 지원 구조를 어느 정도 정확히 복구할 수 있는가?
• RQ4 유도된 희소 CCA 변형이 사전에 정의된 실험 설계에 따라 연관성을 효과적으로 식별할 수 있는가?
• RQ5 실제 다오미크스 데이터 분석에서, 예를 들어 아트라진에 노출된 Drosophila melanogaster에서 이 방법이 생물학적으로 의미 있는 연관성을 얼마나 잘 식별하는가?

주요 결과

• 제안된 알고리즘은 특히 고차원 설정에서 기존 sCCA 방법들과 비교해 뛰어난 수렴 성질과 계산 효율성을 보였다.
• MuLe는 RGCCA와 PMA보다 지원 복구 측면에서 진짜 공분산 방향의 희소성 패턴을 높은 정확도로 복구하였다.
• 모의 실험에서 진짜 기저 모델과 밀접하게 일치하는 결과를 보이며 공분산 상관계수 추정 성능을 유지하였다.
• 실제 다오미크스 분석에서 아트라진에 노출된 Drosophila melanogaster의 대사체학, 전사체학, 미생물학적 데이터 간에 생물학적으로 타당한 연관성을 성공적으로 식별하였다.
• CCA 바이플롯과 인터폴라티브 플롯과 같은 시각화 도구는 복잡한 연관성을 효과적으로 해석하고, 샘플 매칭이 맞지 않는 데이터세트 간에 샘플 위치 보간을 가능하게 하여 유용한 도구로 입증되었다.
• 오픈소스 R 패키지 MuLe-R가 성공적으로 개발되어 공개되었으며, 이는 게놈 연구에서의 방법 적용을 재현 가능하고 접근 가능하게 하였다.