[논문 리뷰] Unbalanced Optimal Transport Dictionary Learning for Unsupervised Hyperspectral Image Clustering

Joshua Lentz, Nicholas Karris외 2명|arXiv (Cornell University)|2026. 03. 10.

Remote-Sensing Image Classification인용 수 0

한 줄 요약

본 논문은 Unbalanced Optimal Transport Dictionary Learning (UBOT-DL)을 도입하여 비지도 초분광 이미지 클러스터링을 위해 비균형 Wasserstein 바센트를 사용해 바리센트릭 표현을 학습하고, 학습된 가중치에 대해 스펙트럴 클러스터링을 적용한다.

ABSTRACT

Hyperspectral images capture vast amounts of high-dimensional spectral information about a scene, making labeling an intensive task that is resistant to out-of-the-box statistical methods. Unsupervised learning of clusters allows for automated segmentation of the scene, enabling a more rapid understanding of the image. Partitioning the spectral information contained within the data via dictionary learning in Wasserstein space has proven an effective method for unsupervised clustering. However, this approach requires balancing the spectral profiles of the data, blurring the classes, and sacrificing robustness to outliers and noise. In this paper, we suggest improving this approach by utilizing unbalanced Wasserstein barycenters to learn a lower-dimensional representation of the underlying data. The deployment of spectral clustering on the learned representation results in an effective approach for the unsupervised learning of labels.

연구 동기 및 목표

• 고차원 초분광 데이터의 표본 레이블이 제한적이거나 전혀 없는 상황에서 비지도 표기학습을 동기화한다.
• 각 픽셀을 스펙트럴 밴드에 대한 분포로 표현하고 픽셀 재구성용 바리센트릭 딕셔너리를 학습한다.
• 정규화된(균형된) 분포 대신 비균형 Wasserstein 바센터를 사용하여 이상치와 노이즈에 대한 강인성을 향상시킨다.
• 학습된 바리센트릭 가중치에 대해 다운스트림 스펙트럴 클러스터링을 가능하게 하여 픽셀 레이블을 얻는다.

제안 방법

• 픽셀을 스펙트럴 밴드에 대한 분포로 모델링하고 D 딕셔너리와 Λ 가중치 행렬을 찾아 P(D,Λ)가 비균형 Wasserstein 바센터를 통해 픽셀을 근사하도록 한다.
• 엣놉 시 규제(entropic regularization)를 사용해 마진 및 엔트로피 항(τ, ε)을 갖는 비균형 OT(UOT)의 Sinkhorn 유사 알고리즘의 효율적 계산을 가능하게 한다.
• P(D,Λ)와 원본 데이터 X 사이의 손실 L(실험에서 2차 손실 사용)을 최소화한다.
• D와 Λ를 반복적으로 그래디언트 기반 최적화로 업데이트하고 D에 비음수/하한, Λ에 소프트맥스 정규화를 강제한다.
• 두 단계 클러스터링을 수행한다: UBOT-DL을 통해 Λ를 학습하고, 그런 다음 Λ에 대해 스펙트럴 클러스터링(k-최근방 이웃 그래프와 라플라시안 특이값 맵을 통해)과 라벨 매칭을 행하고, Hungarian 알고리즘으로 실제 라벨과 매칭한다.

Fig. 1 : Pictured here is the balanced (left) and unbalanced (right) barycentric interpolation between two Gaussian distributions with the same variance using $\tau=0.5$ and $\epsilon=0.001$ . Notice that the unbalanced barycenters do not obey strict mass conservation, but still take the general sha

실험 결과

연구 질문

• RQ1 비균형 최적 수송을 활용해 얼마나 충분히 정규화가 과도하지 않은 상태에서 하이퍼스펙트럼 데이터의 컴팩트하고 강인한 표현을 학습할 수 있는가?
• RQ2 학습된 바리센트릭 가중치를 이용한 스펙트럴 클러스터링이 표준 데이터셋에서 비지도 라벨링의 정확성을 제공하는가?
• RQ3 하이퍼파라미터(τ, ε, 원자 수 k, NN)가 데이터셋 간 클러스터링 정확도와 순도에 어떤 영향을 미치는가?
• RQ4 UBOT-DL은 균형 Wasserstein 딕셔너리 학습과 비교했을 때 정확도와 이상치에 대한 강인성 측면에서 어떤 차이가 있는가?

주요 결과

Data set	Accuracy	τ	ε	Atoms	NN
Salinas A	0.89	1000	0.1	24	25
Salinas A	0.86	10000	0.05	30	20
Pavia Centre	0.84	1000	0.07	27	15
Pavia Centre	0.82	100	0.07	27	5
Pavia U	0.63	10000	0.07	18	5
Pavia U	0.58	100000	0.1	36	5
Indian Pines	0.34	1000	0.06	32	5
Indian Pines	0.34	100000	0.06	48	5

• UBOT-DL은 다양한 하이퍼파라미터 설정 아래에서 표준 하이퍼스펙트럴 데이터 세트(Salinas A, Pavia Centre, Pavia University, Indian Pines)에서 경쟁력 있는 정확도를 보인다.
• 최적 사례 정확도는 Salinas A의 경우 τ=1000, ε=0.1, k=24, NN=25에서 약 0.89, Pavia Centre의 경우 τ=1000, ε=0.07, k=27, NN=15에서 약 0.84, Indian Pines의 경우 τ=1000, ε=0.06, k=32, NN=5에서 약 0.34로 보고되었다.
• ground-truth 개수보다 몇 개의 군집을 더 추가해 클러스터링할 때 순도가 향상된다(예: Salinas A 순도 0.92, c=7, τ=1000, ε=0.1, k=60, NN=45).
• UBOT-DL은 동일한 하이퍼파라미터에서 일반적으로 균형 Wasserstein 딕셔너리 학습(BCSC)보다 우수한 성능을 보였다(예: Salinas A: 0.89 대 0.86).
• 비균형 OT 계산으로 인해 BCSC보다 느리며, 최고의 설정(k=24, τ=1000, ε=0.1, 500 iterations)에서 Salinas A의 런타임은 예: 226초였다.
• 방법은 학습 가중치 Λ를 통해 데이터 차원을 감소시켜 다운스트림 스펙트럴 클러스터링의 효과를 높인다.

Fig. 2 : This image shows the in-painting process of a trial run of the Salinas A data set with $24$ atoms, $\tau=1000$ , and $\epsilon=0.1$ achieving an accuracy before in-painting of $89\%$ . We note that the bottom right corner of the image accounts for the majority of the mislabeling, and that t