[논문 리뷰] L0-norm Sparse Graph-regularized SVD for Biclustering

Wenwen Min, Juan Liu외 1명|arXiv (Cornell University)|2016. 03. 19.

Gene expression and cancer classification인용 수 5

한 줄 요약

이 논문은 L0-노름 구조적 희소성과 유전자 상호작용 네트워크를 통합하여 고차원 데이터의 이클러스터링을 향상시키기 위해 L0-노름 희소 그래프 정규화 SVD(sgSVD*)를 제안한다. 이는 L0-노름과 새로운 절대값 기반 그래프 정규화 페널티를 통해 구조적 희소성을 강제함으로써 생물학적 해석 가능성과 모듈 풍부도를 향상시킨다. 기존 방법들인 L0SVD와 sgSVD에 비해 더 높은 간선 및 기능 풍부도를 보이는 생물학적으로 관련성이 높은 유전자 모듈을 포착함으로써 성능 향상을 이룬다.

ABSTRACT

Learning the "blocking" structure is a central challenge for high dimensional data (e.g., gene expression data). Recently, a sparse singular value decomposition (SVD) has been used as a biclustering tool to achieve this goal. However, this model ignores the structural information between variables (e.g., gene interaction graph). Although typical graph-regularized norm can incorporate such prior graph information to get accurate discovery and better interpretability, it fails to consider the opposite effect of variables with different signs. Motivated by the development of sparse coding and graph-regularized norm, we propose a novel sparse graph-regularized SVD as a powerful biclustering tool for analyzing high-dimensional data. The key of this method is to impose two penalties including a novel graph-regularized norm ($|\pmb{u}|\pmb{L}|\pmb{u}|$) and $L_0$-norm ($\|\pmb{u}\|_0$) on singular vectors to induce structural sparsity and enhance interpretability. We design an efficient Alternating Iterative Sparse Projection (AISP) algorithm to solve it. Finally, we apply our method and related ones to simulated and real data to show its efficiency in capturing natural blocking structures.

연구 동기 및 목표

• 유전자 발현 행렬과 같은 고차원 데이터에서 생물학적으로 의미 있는 블로킹 구조를 포착하는 데에 기존 희소 SVD 방법의 한계를 해결하기 위해.
• 기존의 그래프 정규화 페널티를 통해 유전자 상호작용 네트워크를 희소 SVD에 통합하여 생물학적 해석 가능성과 일반화 능력을 향상시키기 위해.
• 기존 그래프 정규화 페널티의 부호 의존성 편향을 제거하기 위해 절대값 기반 정규화 항을 도입하기 위해.
• 비볼록이고 비연속인 L0-노름 및 절대값 기반 그래프 정규화 희소 SVD 문제를 해결하기 위한 효율적인 최적화 알고리즘 개발하기 위해.
• 시뮬레이션 및 실제 유전자 발현 데이터셋을 통해 제안된 방법이 생물학적으로 풍부한 유전자 모듈을 더 잘 식별함을 검증하기 위해.

제안 방법

• 절대값을 사용하여 단일 벡터의 크기를 반영하는 새로운 그래프 정규화 페널티 항 |u|L|u|를 제안하여 변수 간 관계의 반대 부호에 대한 강건성을 향상시킨다.
• 단일 벡터에 L0-노름 정규화를 적용하여 구조적 희소성을 강제함으로써 이해하기 쉬우며 컴팩트한 유전자 모듈을 촉진한다.
• 비볼록 최적화 문제를 반복적으로 단일 벡터를 갱신하고 절대값 페널티를 현명한 재구성 방식을 통해 처리함으로써 비볼록, 비연속 문제를 해결하는 Alternating Iterative Sparse Projection(AISP) 알고리즘을 개발한다.
• 단일 랭크 SVD 프레임워크를 적용하여 반복적으로 단일 벡터 쌍을 추출하고 데이터를 정규화함으로써 다중 이클러스터를 식별한다.
• 유전자 상호작용 네트워크(예: Pathway-Commons에서 제공)를 그래프 라플라시안 L로 사용하여 정규화 과정을 안내한다.
• 간선 풍부도 평가에 Fold Change(FC)와 초기하학적 검정을, 식별된 모듈의 생물학적 관련성 평가에 GO 풍부도 분석을 활용한다.

실험 결과

연구 질문

• RQ1 L0-노름 정규화는 이클러스터링을 위한 희소 SVD에서 단일 벡터의 희소성과 해석 가능성 향상에 기여하는가?
• RQ2 그래프 정규화를 통해 유전자 상호작용 네트워크를 통합함으로써 식별된 이클러스터의 생물학적 관련성 향상이 가능한가?
• RQ3 기존 그래프 정규화 페널티보다 절대값 기반 정규화 항이 반대 부호를 가진 변수를 다룰 때 더 우수한 성능을 보이는가?
• RQ4 제안된 AISP 알고리즘이 L0-노름 희소 그래프 정규화 SVD의 비볼록, 비연속 최적화 문제를 효율적이고 효과적으로 해결하는가?
• RQ5 실제 유전자 발현 데이터에서 sgSVD*가 L0SVD 및 sgSVD에 비해 유의미하게 더 높은 간선 및 기능 풍부도를 보이는가?

주요 결과

• sgSVD*는 CGP 및 BRCA 데이터셋에서 sgSVD 및 L0SVD보다 유의미하게 높은 Fold Change(FC) 점수를 기록하여 더 생물학적으로 관련성이 높은 유전자 모듈을 포착함을 시사한다.
• 유의수준 0.05에서 CGP 데이터에서 sgSVD*가 식별한 모듈 중 67.5%가 간선 풍부도를 보였고, sgSVD는 62.5%, L0SVD는 57.5%였다.
• BRCA 데이터에서는 유의수준 0.10에서 sgSVD* 모듈의 70.0%가 간선 풍부도를 보였으며, sgSVD(60.0%) 및 L0SVD(57.5%)를 모두 초월했다.
• sgSVD*는 sgSVD 및 L0SVD보다 유의미하게 더 많은 유전자 온톨로지(GO) 생물학적 과정 어조를 풍부하게 식별했으며, 특히 엄격한 유의수준(예: 0.001)에서 두드러졌다.
• 40개의 무작위로 섞인 모듈에서는 유의미한 GO 어조가 발견되지 않아 sgSVD* 결과의 풍부도가 우연이 아닌 것으로 확인되었다.
• σv 값이 0.4일 때에도 일관된 결과를 보이며 성능의 안정성을 입증했고, 다양한 σv 값에서도 강인함을 유지했다.