[논문 리뷰] Deep Learning in Spatially Resolved Transcriptomics: A Comprehensive Technical View

Roxana Zahedi Nasab, Mohammad Reza Eftekhariyan Ghamsari외 7명|arXiv (Cornell University)|2022. 10. 10.

Single-cell and spatial transcriptomics인용 수 9

한 줄 요약

이 논문은 공간적으로 해상도가 높은 전사체학(SRT) 분야에서의 딥러닝 방법에 대한 종합적인 기술적 리뷰를 제공하며, 21개의 최신 모델을 여섯 가지 분석 과제—공간 클러스터링, 공간적으로 변동성이 있는 유전자 식별, 세포 유형 탈구성, 유전자 발현 보간, 세포 간 상호작용 탐지, 공간 영역 맵핑—으로系별로 체계적으로 분류한다. 이는 SRT 데이터셋을 기반으로 한 모델 아키텍처, 강점, 한계 및 성능을 평가하며 통합된 벤치마크를 제공하고, 정규화, 배치 효과 보정, 다중모달 통합과 같은 열린 과제들을 부각시킨다.

ABSTRACT

Spatially resolved transcriptomics (SRT) has evolved rapidly through various technologies, enabling scientists to investigate both morphological contexts and gene expression profiling at single-cell resolution in parallel. SRT data are complex and multi-modal, comprising gene expression matrices, spatial information, and often high-resolution histology images. Because of this complexity and multi-modality, sophisticated computational algorithms are required to accurately analyze SRT data. Most efforts in this domain have been made to utilize conventional machine learning and statistical approaches, exhibiting sub-optimal results due to the complicated nature of SRT datasets. To address these shortcomings, researchers have recently employed deep learning algorithms including various state-of-the-art methods mainly in spatial clustering, spatially variable gene identification, and alignment. While great progress has been made in developing deep learning-based models for SRT data analysis, further improvement is still needed to create more biologically aware models that consider aspects such as phylogeny-aware clustering or the analysis of small histology image patches. Additionally, strategies for batch effect removal, normalization, and handling overdispersion and zero inflation patterns of gene expression are still needed in the analysis of SRT data using deep learning methods. In this paper, we provide a comprehensive overview of these deep learning methods, including their strengths and limitations. We also highlight new frontiers, current challenges, limitations, and open questions in this field. Also, we provide a comprehensive list of all available SRT databases that can be used as an extensive resource for future studies.

연구 동기 및 목표

• 공간적으로 해상도가 높은 전사체학(SRT) 데이터에 적용된 딥러닝 방법에 대한 체계적인 기술적 개요를 제공하기 위해.
• 공간 클러스터링, 유전자 발현 보간, 세포 유형 탈구성 등 분석 과제를 기반으로 21개의 딥러닝 모델을 분류하고 비교하기 위해.
• 기존의 머신러닝 및 통계적 접근 방식과 비교하여 딥러닝 모델의 강점과 한계를 SRT 분석에서 평가하기 위해.
• SRT 데이터 분석에서의 열린 과제, 특히 배치 효과 보정, 정규화, 과도산산화 및 제로 과잉 처리와 같은 문제들을 특정하기 위해.
• 미래의 연구 및 모델 벤치마킹을 지원하기 위해 공개된 SRT 데이터베이스를 종합적으로 정리하기 위해.

제안 방법

• SRT 관련 연구에서 발표된 21개의 딥러닝 모델에 대한 체계적인 문헌 리뷰 및 분류.
• 모델들을 여섯 가지 주요 분석 과제로 분류: 공간 클러스터링, 공간적으로 변동성이 있는 유전자(SVG) 식별, 세포 유형 탈구성, 유전자 발현 보간, 세포 간 상호작용 탐지, 공간 영역 맵핑.
• 모델 아키텍처 분석, 특히 CNN, GCN, VAE, DNN를 포함한 구조를 분석하며, 공간적, 조직학적, 유전자 발현 데이터의 활용에 중점을 둔다.
• ARI, F1-score, AUC, 복원 오차 등의 표준화된 지표를 사용하여 모델 성능 평가(해당 시 보고된 경우).
• 주요 모델의 수학적 수식(예: CNNTL의 트리플릿 손실, conST의 대비 학습)을 보조 자료에 통합.
• 주의 메커니즘, 오토에인코드어, 그래프 기반 학습을 통한 다중모달 데이터(유전자 발현, 조직학적 영상, 공간 좌표) 통합.

실험 결과

연구 질문

• RQ1 딥러닝 모델은 복잡한 다중모달 SRT 데이터 분석에서 기존의 머신러닝 및 통계적 방법에 비해 어떻게 향상되는가?
• RQ2 공간 전사체학 과제에 사용된 딥러닝 모델들 간의 주요 아키텍처 및 방법론적 차이점은 무엇인가?
• RQ3 현재의 딥러닝 모델들은 계통 발생, 조직 형태학, 공간적 이웃 관계와 같은 생물학적 사전 지식을 어느 정도 반영하고 있는가?
• RQ4 기존의 딥러닝 접근 방식에서 SRT에 있어 주요한 한계는 무엇인가, 특히 데이터 정규화, 배치 효과 보정, 제로 과잉 유전자 발현 처리 측면에서?
• RQ5 딥러닝 프레임워크에서 조직학적 영상, 공간 좌표, 유전자 발현 데이터의 다중모달 통합을 어떻게 최적화할 수 있는가?

주요 결과

• 딥러닝 모델은 공간 클러스터링, SVG 탐지, 세포 유형 탈구성 등의 과제에서 공간적 맥락과 조직학적 영상의 활용을 통해 기존의 머신러닝 및 통계적 방법보다 뚜렷이 뛰어난 성능을 보인다.
• conST와 XFuse와 같은 모델들은 대비 학습과 변동성 오토에인코드어를 각각 활용하여 공간 영역 탐지 및 유전자 발현 보간에서 최신 기술 수준의 성능을 보여준다.
• 진전이 있었음에도 불구하고, 많은 모델들이 사전 학습된 ImageNet 가중치에 의존하거나 도메인 전용 사전 학습이 부족하여 SRT 데이터에 대한 일반화 능력이 떨어진다.
• Tangram과 JSTA와 같은 모델의 성능은 CCF 등의 표준 해부학적 템플릿의 존재 여부에 크게 의존하여, 비마우스 뇌 조직에 대한 적용 가능성이 제한된다.
• 유전자 발현 데이터의 기술적 오류인 과도산산화 및 제로 과잉 처리 문제를 다루는 데 있어 큰 격차가 존재하며, 이에 대해 손실 함수에 이러한 특성을 명시적으로 통합한 딥러닝 모델은 소수에 불과하다.
• 이 논문은 21개의 SRT 데이터베이스 및 데이터셋을 종합적으로 정리하였으며, 10x Visium, MERFISH, seqFISH, Stereo-seq, Slide-seq 등을 포함하여 향후 모델 훈련 및 벤치마킹을 위한 핵심 자원이 된다.