[論文レビュー] Bayesian nonparametric image segmentation using a generalized Swendsen-Wang algorithm

Richard Yi Da Xu, François Caron+1 more|arXiv (Cornell University)|Feb 9, 2016

Bayesian Methods and Mixture Models参考文献 21被引用数 6

ひとこと要約

本稿では、クラスタ数を事前に指定せずに自動推論が可能な、Potts型の空間的滑らかさ事前分布と柔軟なパーティション事前分布を組み合わせたベイジアン非パラメトリック画像セグメンテーションモデルを提案する。このモデルは、クラスタサイズと数を制御するパーティション事前分布を用いる。また、効率的なMCMCサンプリングを実現する一般化されたスウェンセン＝ワング（GSW）アルゴリズムを導入し、クラスタの分割と統合を可能にすることで混合性能を向上させ、標準ベンチマークにおいて最先端のランダムインデックススコアを達成した。

ABSTRACT

Unsupervised image segmentation aims at clustering the set of pixels of an image into spatially homogeneous regions. We introduce here a class of Bayesian nonparametric models to address this problem. These models are based on a combination of a Potts-like spatial smoothness component and a prior on partitions which is used to control both the number and size of clusters. This class of models is flexible enough to include the standard Potts model and the more recent Potts-Dirichlet Process model \cite{Orbanz2008}. More importantly, any prior on partitions can be introduced to control the global clustering structure so that it is possible to penalize small or large clusters if necessary. Bayesian computation is carried out using an original generalized Swendsen-Wang algorithm. Experiments demonstrate that our method is competitive in terms of RAND\ index compared to popular image segmentation methods, such as mean-shift, and recent alternative Bayesian nonparametric models.

研究の動機と目的

• クラスタ数を事前に指定せずに、教師なし画像セグメンテーションの課題に取り組むこと。
• クラスタサイズや数を制御できる柔軟なモデルを構築し、パーティションに対する事前分布を用いて小規模または大規模なクラスタをペナルティ化すること。
• 単一サイトのギブスサンプリングに代えて、より効率的な一般化されたスウェンセン＝ワング（GSW）アルゴリズムを導入することで、ベイジアン画像セグメンテーションにおけるMCMCの混合性能を向上させること。
• 提案手法が、ミーンシフトや他のベイジアン非パラメトリックモデルと比較して、競争力あるセグメンテーション精度を達成することを示すこと。
• 分割・統合の動きにより、クラスタリング空間における高事後確率領域をより効果的に探索できることを可能にすること。

提案手法

• モデルはスーパーピクセルをノードとして用い、ピクセル観測値が潜在的なクラスタラベルによって条件付き独立に与えられる。
• Potts型の空間的事前分布により、隣接するスーパーピクセルが同じラベルを持つことを促進し、空間的均質性を実現する。
• パーティション事前分布を導入し、クラスタのグローバルな構造（クラスタサイズと数）を制御する。これはPotts-ディリクレ過程モデルを一般化したものである。
• 一般化されたスウェンセン＝ワング（GSW）アルゴリズムを開発し、クラスタの分割と統合を可能にすることで、単一サイトのギブスサンプリングよりも効率的なMCMCサンプリングを実現する。
• 特定のパrameter設定下で、GSWサンプラーがディリクレ過程混合モデルにおける分割・統合サンプラーと等価であることが示された。
• 共役事前分布を用いて解析的マージナル尤度を計算し、$ p(\mathbf{y}_{A_j}) $ は共役性のもとで閉形式で計算可能である。

実験結果

リサーチクエスチョン

• RQ1 柔軟なパーティション事前分布を用いたベイジアン非パラメトリックモデルは、クラスタ数を事前に指定せずに、クラスタサイズと数を制御することで画像セグメンテーションを改善できるか？
• RQ2 一般化されたスウェンセン＝ワング（GSW）サンプラーは、単一サイトのギブスサンプリングと比較して、画像セグメンテーションにおける混合性能と収束性において優れているか？
• RQ3 Potts-ディリクレ過程モデルを小クラスタをペナルティ化するように切り詰めることで、視覚的および定量的に優れたセグメンテーション結果が得られるか？
• RQ4 提案手法は、ミーンシフトやrdd-CRPといった既存手法と比較して、標準データセットにおけるランダムインデックススコアで競争力を持つか？
• RQ5 GSWアルゴリズムは、空間的依存性を持つ画像セグメンテーションの複雑な事後分布を効果的に探索できるか？

主な発見

• LabelMeデータセットにおいて、$ T_{\text{min}} = 3 $ で切り詰めたPotts-ディリクレ過程モデルは中央値としてランダムインデックス0.7759を達成し、rdd-CRPと同等の性能を示し、一部のケースでミーンシフトを上回った。
• Berkeleyデータセットでは、$ T_{\text{min}} = 3 $ で切り詰めたPotts-DPモデルが中央値としてランダムインデックス0.7882を達成し、ミーンシフト（0.7988）とrdd-CRP（0.7748）と同等の性能を示した。
• GSWサンプラーは、単一サイトのギブスサンプリングよりも高事後確率領域の探索を効果的に行い、混合性能と収束性が向上した。
• より高い $ T_{\text{min}} $ で視覚的改善が見られたが、ランダムインデックスに顕著な向上は見られず、これは正解ラベル付けの主観性が評価を制限している可能性を示唆している。
• ウィルコクソン符号順位検定の結果、LabelMeデータセットにおいてrdd-CRP、Potts-DP、切り詰めPotts-DPの間で有意差（p < 0.01）は認められず、性能が同等であることが示された。
• 中央値としてのクラスタ数は $ T_{\text{min}} $ の増加に伴い減少し、未切り詰め時（9）から $ T_{\text{min}} = 9 $ 時（3）にまで低下した。これはクラスタサイズの効果的な制御を示している。