[论文解读] Bayesian Separation of Document Images with Hidden Markov Model

Feng Su, Ali Mohammad‐Djafari|arXiv (Cornell University)|May 17, 2007

Blind Source Separation Techniques参考文献 15被引用 3

一句话总结

该论文提出了一种贝叶斯分层模型，通过在类别标签上使用Potts-马尔可夫先验以实现空间一致性，结合隐马尔可夫模型（HMM）对线性混合的文档图像进行联合分离与分割。该方法采用MCMC采样联合估计源图像、混合矩阵和标签场，在多通道图像中实现了对文本与背景的有效分离，分割精度优于基于ICA的方法。

ABSTRACT

this paper we consider the problem of separating noisy instantaneous linear mixtures of document images in the Bayesian framework. The source image is modeled hierarchically by a latent labeling process representing the common classifications of document objects among different color channels and the intensity process of pixels given the class labels. A Potts Markov random field is used to model regional regularity of the classification labels inside object regions. Local dependency between neighboring pixels can also be accounted by smoothness constraint on their intensities. Within the Bayesian approach, all unknowns including the source, the classification, the mixing coefficients and the distribution parameters of these variables are estimated from their posterior laws. The corresponding Bayesian computations are done by MCMC sampling algorithm. Results from experiments on synthetic and real image mixtures are presented to illustrate the performance of the proposed method.

研究动机与目标

• 解决文档图像中盲源分离的病态问题，特别是针对透视透写和油墨渗透退化的情况。
• 通过分层贝叶斯模型将空间和结构先验知识（如局部平滑性和边缘一致性）融入分离过程。
• 在多个颜色通道中联合估计源图像、混合矩阵和类别标签（如文本与背景）。
• 通过将像素强度建模为高斯混合（MoG）并引入隐藏类别标签，结合Potts-马尔可夫先验以实现空间一致性，从而提升分离性能。
• 通过合成与真实文档混合图像验证联合分离与分割的可行性。

提出的方法

• 使用未知混合矩阵A和加性白高斯噪声的线性瞬时混合模型来建模文档图像混合。
• 将源图像像素强度表示为高斯混合（MoG），其中每个分量对应一个类别（如文本或背景），类别标签z(r)表示像素r处的类别。
• 在类别标签场z上施加Potts-马尔可夫随机场先验，以实现空间一致性与边缘保持，促进平滑区域与清晰边界。
• 对超参数（均值、方差、混合矩阵）采用共轭先验，并在马尔可夫链蒙特卡洛（MCMC）框架内使用吉布斯采样从后验联合分布中采样。
• 采用分层贝叶斯框架，通过条件后验分布迭代估计所有未知量的后验分布（源图像、标签、混合矩阵、噪声方差）。
• 利用克罗内克积和向量化技术，高效计算后验采样步骤中混合矩阵与源参数的联合协方差矩阵。

实验结果

研究问题

• RQ1 与传统ICA方法相比，带有空间先验的贝叶斯分层模型是否能提升重叠文档图像的分离效果？
• RQ2 在图像分离过程中，对隐藏类别标签施加Potts-马尔可夫先验在保持文本边界等结构特征方面有多有效？
• RQ3 与单通道处理相比，联合建模多通道图像混合在多大程度上提升了分离性能？
• RQ4 通过MCMC采样联合估计源图像、混合矩阵和类别标签，是否能在噪声和复杂混合条件下产生更准确、更鲁棒的结果？
• RQ5 所提方法在处理双面打印或古籍文档中的真实退化（如透视透写和油墨渗透）方面表现如何？

主要发现

• 所提出的贝叶斯HMM方法成功地将合成与真实文档图像混合分离为清晰的源成分，实现了文本与背景区域的明确分割。
• 在类别标签上使用Potts-马尔可夫先验显著提升了分离源图像的空间一致性和边缘保持能力，优于非空间模型。
• 在合成数据上，该方法准确恢复了源图像及其对应的类别标签场，如图2所示，仅产生极少伪影。
• 在真实透视透写情况下（图3），该算法成功分离出正面和背面的文本，生成了视觉上连贯且可解释的源图像。
• 与FastICA相比，所提方法避免了排列不可靠性问题，输出更清晰、更有意义的分量；而ICA结果包含四个类似噪声的分量，降低了重建可用性。
• 尽管计算成本较高（300×240图像需数小时），该方法仍证明了在联合分离与分割中的可行性与有效性，未来可通过变分推理或平均场近似实现加速。