[논문 리뷰] Spatial Transcriptomics as Images for Large-Scale Pretraining

Yishun Zhu, Jiaxin Qi외 3명|arXiv (Cornell University)|2026. 03. 13.

Single-cell and spatial transcriptomics인용 수 0

한 줄 요약

본 논문은 spatial transcriptomics 데이터를 croppable 멀티-채널 이미지로 취급하여 로컬 공간 맥락을 보존하고 대규모 ST 표현을 지원하는 확장 가능한 이미지 유사 프리트레이닝을 가능하게 한다.

ABSTRACT

Spatial Transcriptomics (ST) profiles thousands of gene expression values at discrete spots with precise coordinates on tissue sections, preserving spatial context essential for clinical and pathological studies. With rising sequencing throughput and advancing platforms, the expanding data volumes motivate large-scale ST pretraining. However, the fundamental unit for pretraining, i.e., what constitutes a single training sample, remains ill-posed. Existing choices fall into two camps: (1) treating each spot as an independent sample, which discards spatial dependencies and collapses ST into single-cell transcriptomics; and (2) treating an entire slide as a single sample, which produces prohibitively large inputs and drastically fewer training examples, undermining effective pretraining. To address this gap, we propose treating spatial transcriptomics as croppable images. Specifically, we define a multi-channel image representation with fixed spatial size by cropping patches from raw slides, thereby preserving spatial context while substantially increasing the number of training samples. Along the channel dimension, we define gene subset selection rules to control input dimensionality and improve pretraining stability. Extensive experiments show that the proposed image-like dataset construction for ST pretraining consistently improves downstream performance, outperforming conventional pretraining schemes. Ablation studies verify that both spatial patching and channel design are necessary, establishing a unified, practical paradigm for organizing ST data and enabling large-scale pretraining.

연구 동기 및 목표

• 현존하는 spot 기반 및 slice 기반 ST 프리트레이닝 체계가 공간 맥락 보존과 샘플 규모 간의 트레이드오프를 어떻게 다루는지 명확히 이해한다.
• 고정 크기의 크롭을 갖는 패치 기반 다채널 이미지 표현으로 ST 데이터를 표현하고 프리트레이닝의 규모를 확장한다.
• 입력 차원을 제어하고 학습 안정성을 높이기 위해 중요도 기반의 유전자 서브셋(채널) 선택을 개발한다.
• 패치 기반 ST 프리트레이닝이 다수 데이터셋에서 다운스트림 공간 도메인 탐지 및 재구성 작업을 향상시킨다는 것을 입증한다.

제안 방법

• 각 ST 슬라이스를 각 스팟의 유전자 발현이 다채널 벡터를 형성하는 크롭 가능한 2D 격자로 표현한다.
• ST 격자에서 고정 크기의 h x w 패치를 잘라 이미지와 같은 학습 단위를 생성한다.
• 공간 좌표를 밀집 격자로 정규화하고 패치를 무작위로 샘플링하여 학습 샘플 수를 증가시킨다.
• 패치당 고정 수 m의 유전자를 분산 가중 채널 선택으로 선택하여 채널 차원을 제어한다.
• 마스킹 목표를 사용하여 마스킹된 유전자 채널을 재구성하는 ViT 백본의 마스킹 오브젝트로 이들 패치를 대상으로 마스킹 자동인코더를 학습한다.
• 다운스트림 작업(공간 도메인 탐지, k-NN, MLP 분류기)과 마스킹 영역 재구성 작업으로 평가한다.

실험 결과

연구 질문

• RQ1 ST 데이터를 공간 맥락과 프리트레이닝의 샘플 생성 확장성 사이에서 균형 있게 표현하려면 어떻게 해야 하는가?
• RQ2 패치 기반 다채널 이미지 유사 프리트레이닝이 스팟- 또는 슬라이스 기반 체계보다 다운스트림 ST 작업을 향상시키는가?
• RQ3 채널(유전자) 선택이 프리트레이닝의 안정성 및 다운스트림 성능에 어떤 영향을 미치는가?
• RQ4 패치 크기와 채널 수가 다운스트림 공간 도메인 탐지 및 재구성 작업에 어떤 영향을 주는가?

주요 결과

• 패치 기반 ST 프리트레이닝은 다수의 데이터셋에서 공간 도메인 탐지 작업에 대해 일관되게 스팟 기반 및 슬라이스 기반 체계보다 우수하다.
• 스팟 기반 프리트레이닝(scGPT)과 비교했을 때, 제안된 방법은 보고된 작업에서 정확도와 ARI의 평균 증가를 크게 얻는다(예: 평균 Acc 0.287, ARI 0.347의 증가).
• 공간적으로 증가된 baselines인 scGPT-spatial과 비교하면, 평균적으로 Acc 및 ARI에서 추가 이득을 제공한다(예: Acc 약 0.059, ARI 약 0.086의 이득).
• 마스킹 영역 재구성에서, 제안된 방법은 마스크 크기 전반에 걸쳐 scGPT-spatial보다 더 낮은 MSE/MAE를 달성하여 공간적 및 전사적 표현 학습이 더 잘 이루어짐을 보여준다.
• Ablaion 및 유사한 분석은 공간 패칭과 채널 설계가 최상의 성능에 필요하다는 것을 시사한다.