[論文レビュー] Bayesian Separation of Document Images with Hidden Markov Model

Feng Su, Ali Mohammad‐Djafari|arXiv (Cornell University)|May 17, 2007

Blind Source Separation Techniques参考文献 15被引用数 3

ひとこと要約

本稿では、隠れマルコフモデル（HMM）とクラスラベルにPotts-マルコフ事前分布を組み合わせたベイジアン階層モデルを提案する。このモデルは、空間的整合性を保証するようにクラスラベルに制約を加え、複数の色チャネルにわたるテキストと背景の混合画像を同時に分離・セグメンテーションする。MCMCサンプリングを用いて、ソース、混合行列、ラベルフィールドを同時に推定し、ICAベースの手法に比べて分離精度が向上した。

ABSTRACT

this paper we consider the problem of separating noisy instantaneous linear mixtures of document images in the Bayesian framework. The source image is modeled hierarchically by a latent labeling process representing the common classifications of document objects among different color channels and the intensity process of pixels given the class labels. A Potts Markov random field is used to model regional regularity of the classification labels inside object regions. Local dependency between neighboring pixels can also be accounted by smoothness constraint on their intensities. Within the Bayesian approach, all unknowns including the source, the classification, the mixing coefficients and the distribution parameters of these variables are estimated from their posterior laws. The corresponding Bayesian computations are done by MCMC sampling algorithm. Results from experiments on synthetic and real image mixtures are presented to illustrate the performance of the proposed method.

研究の動機と目的

• ドキュメント画像におけるブラインドソース分離の不適切な問題を解決すること、特に透過（show-through）や漏れ（bleed-through）による劣化を想定する。
• 局所的な滑らかさやエッジの一貫性といった空間的・構造的事前知識を、階層ベイジアンモデルを用いて分離プロセスに統合すること。
• 複数の色チャネルにわたって、ソース画像、混合行列、クラスラベル（例：テキスト対背景）を同時に推定すること。
• ピクセル強度を隠れクラスラベルを伴うガウス分布の混合（MoG）としてモデル化し、Potts-マルコフ事前分布を用いて空間的整合性を強制することで、分離性能を向上させること。
• 合成および実世界のドキュメント混合画像を用いて、同時分離とセグメンテーションの可能性を実証すること。

提案手法

• 未知の混合行列Aと加法的白色ガウスノイズを伴う線形瞬時混合モデルを用いて、ドキュメント画像混合物をモデル化する。
• 各ピクセルのソース強度を、クラス（例：テキストまたは背景）に対応するガウス分布の混合（MoG）として表現し、ピクセルrにおけるクラスラベルz(r)を定義する。
• クラスラベルフィールドzにPotts-マルコフ確率場事前分布を適用し、空間的整合性とエッジ保存を促進する。これにより、滑らかな領域と明確な境界が得られる。
• ハイパーパrameter（平均、分散、混合行列）に共役事前分布を適用し、マルコフ連鎖モンテカルロ（MCMC）フレームワーク内でギブスサンプリングを用いて、同時事後分布からサンプリングする。
• すべての未知数（ソース、ラベル、混合行列、ノイズ分散）の事後分布を、条件付き事後分布を繰り返し推定することで、階層ベイジアン定式化により逐次推定する。
• 混合行列とソースパラメータの同時共分散行列を効率的に計算するために、クリロネッカー積とベクトル化を用いる。

実験結果

リサーチクエスチョン

• RQ1 空間的事前分布を備えたベイジアン階層モデルは、従来のICA手法に比べ、重ね合わせたドキュメント画像の分離を改善できるか？
• RQ2 隠れクラスラベルにPotts-マルコフ事前分布を適用することで、画像分離中にテキスト境界などの構造的特徴をどれほど効果的に保持できるか？
• RQ3 マルチチャネル画像混合物を同時にモデル化することで、単一チャネル処理に比べて分離性能がどの程度向上するか？
• RQ4 MCMCサンプリングによるソース画像、混合行列、クラスラベルの同時推定は、ノイズや複雑な混合状態下でも、より正確で頑健な結果をもたらすか？
• RQ5 本手法は、両面印刷または古文書における実世界の劣化要因（透過・漏れ）をどのように処理するか？

主な発見

• 提案されたベイジアンHMM手法は、合成および実際のドキュメント画像混合物を、明確に分離されたソース成分に分解でき、テキスト領域と背景領域のセグメンテーションが明確に実現された。
• クラスラベルにPotts-マルコフ事前分布を適用することで、非空間的モデルに比べ、分離されたソースにおける空間的整合性とエッジ保存が顕著に向上した。
• 合成データでは、図2に示すように、ソース画像と対応するクラスラベルフィールドが正確に回復され、最小限のアーティファクトが生じた。
• 実際の透過ケース（図3）では、アルゴリズムが前面と背面のテキストを効果的に分離し、視覚的に整合性があり解釈可能なソース画像を生成した。
• FastICAに比べ、本手法は順序の入れ替え問題（permutability issue）を回避し、よりクリアで意味のある成分を生成した。ICAの出力には4つのノイズに似た成分が含まれており、再構成用途での有用性が低下していた。
• 計算コストが高いため（300×240の画像で数時間）、本手法は高い計算負荷を伴うが、変分推論や平均場近似による高速化が可能であることを踏まえ、同時分離とセグメンテーションの実現可能性と有効性を示した。