[논문 리뷰] Bayesian nonparametric image segmentation using a generalized Swendsen-Wang algorithm

Richard Yi Da Xu, François Caron외 1명|arXiv (Cornell University)|2016. 02. 09.

Bayesian Methods and Mixture Models참고 문헌 21인용 수 6

한 줄 요약

이 논문은 클러스터 수를 사전에 지정하지 않고도 자동 추론이 가능한, Potts 유사 공간적 평탄성 사전과 탄력적인 분할 사전을 조합한 베이지안 비모수적 이미지 분할 모델을 제안한다. 이 모델은 클러스터 분할과 융합을 가능하게 하는 효율적인 MCMC 샘플링을 위한 일반화된 스웨덴센-왕(GSW) 알고리즘을 도입하여 혼합 성능을 향상시켰으며, 표준 벤치마크에서 최신 기준인 Rand 지수 점수를 확보했다.

ABSTRACT

Unsupervised image segmentation aims at clustering the set of pixels of an image into spatially homogeneous regions. We introduce here a class of Bayesian nonparametric models to address this problem. These models are based on a combination of a Potts-like spatial smoothness component and a prior on partitions which is used to control both the number and size of clusters. This class of models is flexible enough to include the standard Potts model and the more recent Potts-Dirichlet Process model \cite{Orbanz2008}. More importantly, any prior on partitions can be introduced to control the global clustering structure so that it is possible to penalize small or large clusters if necessary. Bayesian computation is carried out using an original generalized Swendsen-Wang algorithm. Experiments demonstrate that our method is competitive in terms of RAND\ index compared to popular image segmentation methods, such as mean-shift, and recent alternative Bayesian nonparametric models.

연구 동기 및 목표

• 클러스터 수를 사전에 지정하지 않고도 비지도 이미지 분할 문제를 해결하기 위해.
• 분할에 대한 사전을 통해 작은 또는 큰 클러스터를 제어할 수 있는 탄력적인 모델을 개발하기 위해.
• 단일 사이트 기반 게비스 샘플링을 대체하여 더 효율적인 일반화된 스웨덴센-왕 알고리즘을 도입해 베이지안 이미지 분할의 MCMC 혼합 성능을 향상시키기 위해.
• 제안된 방법이 평균 이동법 및 기타 베이지안 비모수적 모델과 비교해 경쟁적인 분할 정확도를 달성하는지 확인하기 위해.
• 분할 공간 내 고우도수 확률 영역을 더 잘 탐색하기 위해 분할-융합 이동을 통해 성능 향상 가능성을 확보하기 위해.

제안 방법

• 모델은 초픽셀을 지점으로 사용하며, 픽셀 관측치는 은닉 클러스터 레이블에 조건부 독립이다.
• Potts 유사 공간 사전은 이웃 초픽셀이 동일한 레이블을 공유하도록 유도하여 공간적 균일성을 증진시킨다.
• 전반적인 클러스터링 구조, 즉 클러스터 크기와 수를 제어하기 위해 분할 사전을 도입하였으며, 이는 Potts-디리클레 과정 모델을 일반화한 것이다.
• 클러스터 분할과 융합을 가능하게 하여 효율적인 MCMC 샘플링을 수행하는 일반화된 스웨덴센-왕(GSW) 알고리즘을 개발하였다. 이는 단일 사이트 게비스 샘플링 대비 혼합 성능을 향상시킨다.
• 특정 매개변수 설정 하에서 GSW 샘플러가 디리클레 과정 혼합에 대한 분할-융합 샘플러와 동치임을 보였다.
• 공액 사전을 통해 해석적 마진 가능도를 사용하였으며, $ p(\mathbf{y}_{A_j}) $ 는 공액 조건 하에서 닫힌 형태로 계산되었다.

실험 결과

연구 질문

• RQ1 탄력적인 분할 사전을 갖춘 베이지안 비모수적 모델이 클러스터 수를 사전에 지정하지 않고도 클러스터 크기와 수를 제어함으로써 이미지 분할 성능을 향상시킬 수 있는가?
• RQ2 일반화된 스웨덴센-왕 샘플러의 성능은 이미지 분할에서 혼합 및 수렴 측면에서 단일 사이트 게비스 샘플링보다 어떻게 비교되는가?
• RQ3 작은 클러스터를 허용하지 않는 Potts-디리클레 과정 모델의 절단 설정이 시각적 및 정량적 측면에서 더 나은 분할 결과를 도출하는가?
• RQ4 제안된 방법은 표준 데이터셋에서 평균 이동법 및 rdd-CRP와 같은 기존 방법들과 비교해 Rand 지수 측면에서 경쟁 가능한가?
• RQ5 GSW 알고리즘이 공간적 의존성이 있는 이미지 분할의 복잡한 사후 분포를 효과적으로 탐색할 수 있는가?

주요 결과

• LabelMe 데이터셋에서 $ T_{\text{min}} = 3 $ 인 절단된 Potts-디리클레 과정 모델이 중앙값 Rand 지수 0.7759를 기록하여 rdd-CRP와 동일한 성능을 보였으며, 일부 경우에서 평균 이동법을 능가했다.
• Berkeley 데이터셋에서 $ T_{\text{min}} = 3 $ 인 절단된 Potts-DP 모델은 중앙값 Rand 지수 0.7882를 기록했으며, 평균 이동법(0.7988)과 rdd-CRP(0.7748)와 유사한 성능을 보였다.
• GSW 샘플러는 단일 사이트 게비스 샘플링보다 고우도수 확률 영역을 더 잘 탐색하여 혼합 성능과 수렴 속도를 향상시켰다.
• 높은 $ T_{\text{min}} $ 설정으로 인한 시각적 향상에도 불구하고 Rand 지수는 유의미하게 향상되지 않았으며, 이는 진정한 레이블링이 주관적일 수 있고 평가에 제한을 줄 수 있음을 시사한다.
• 와일콕슨 부호순위 검정 결과, LabelMe 데이터셋에서 rdd-CRP, Potts-DP, 절단된 Potts-DP 간 유의미한 차이가 없었으며(p < 0.01), 이는 경쟁 가능한 성능임을 시사한다.
• 중앙값 클러스터 수는 $ T_{\text{min}} $ 가 증가함에 따라 감소하였으며, 비절단 상태(9개)에서 $ T_{\text{min}} = 9 $ 인 경우(3개)로 감소하여 효과적인 클러스터 크기 제어가 이루어졌음을 반영한다.