[论文解读] Complexity of Representation and Inference in Compositional Models with Part Sharing

Alan Yuille, Roozbeh Mottaghi|arXiv (Cornell University)|Jan 16, 2013

Neural Networks and Applications参考文献 30被引用 3

一句话总结

本文分析了具有部件共享的组合模型的计算复杂度，表明当词典大小随层次级别呈指数增长时，部件共享可在串行计算机上实现线性时间推理；当词典大小随层次级别呈指数减少时，可在并行计算机上实现线性时间推理，且节点数量呈指数增长。该模型利用分层词典和摘要执行原则，降低了表示和推理成本。

ABSTRACT

This paper describes serial and parallel compositional models of multiple objects with part sharing. Objects are built by part-subpart compositions and expressed in terms of a hierarchical dictionary of object parts. These parts are represented on lattices of decreasing sizes which yield an executive summary description. We describe inference and learning algorithms for these models. We analyze the complexity of this model in terms of computation time (for serial computers) and numbers of nodes (e.g., "neurons") for parallel computers. In particular, we compute the complexity gains by part sharing and its dependence on how the dictionary scales with the level of the hierarchy. We explore three regimes of scaling behavior where the dictionary size (i) increases exponentially with the level, (ii) is determined by an unsupervised compositional learning algorithm applied to real data, (iii) decreases exponentially with scale. This analysis shows that in some regimes the use of shared parts enables algorithms which can perform inference in time linear in the number of levels for an exponential number of objects. In other regimes part sharing has little advantage for serial computers but can give linear processing on parallel computers.

研究动机与目标

• 分析在串行和并行计算环境下，具有部件共享的组合模型的计算复杂度。
• 研究词典大小在分层级别上的缩放方式对推理效率和表示成本的影响。
• 评估部件共享和摘要执行原则在降低物体识别计算负担方面的优势。
• 探讨这些复杂度结果对生物视觉系统和人工视觉系统的影响，特别是与皮层结构的关系。

提出的方法

• 使用分层图模型概率模型，通过 H 个层级的递归部件-子部件组合来构建组合模型。
• 在每一层级 h 使用词典 M_h 表示部件，其中高层级对象由低层级部件通过共享组件构建。
• 应用摘要执行原则，基于子部件状态粗略表示部件状态，从而降低计算负载。
• 将模型重新表述为规则格点，以支持与深度置信网络的比较，并促进并行实现。
• 通过词典大小缩放的数学分析，从计算时间（串行）和节点数量（并行）两个方面分析复杂度。
• 考虑三种缩放模式：词典大小随层级呈指数增长、基于无监督学习的缩放，以及词典大小随层级呈指数减少。

实验结果

研究问题

• RQ1 部件共享在串行与并行计算架构中如何影响推理时间？
• RQ2 词典大小在分层级别上的缩放对计算复杂度有何影响？
• RQ3 在何种条件下，部件共享能为推理带来显著的复杂度优势？
• RQ4 摘要执行原则如何在组合模型中降低表示和推理成本？
• RQ5 这些复杂度结果对建模视觉皮层结构（特别是V1/V2与IT区域）有何启示？

主要发现

• 当词典大小随层级呈指数增长时（|M_h| = a/q^h），部件共享可使推理时间与层级数 H 呈线性关系，即使对象数量呈指数增长。
• 在基于真实数据无监督学习确定词典大小的模式下，部件共享显著提升了串行推理的复杂度优势。
• 当词典大小随层级呈指数减少时（|M_h| = r^{H-h}），部件共享对串行计算机无优势，但可在使用指数级节点数的并行计算机上实现线性时间推理。
• 摘要执行原则允许基于子部件状态粗略表示部件状态，从而在推理过程中减少对高分辨率细节的需求。
• 结果表明，V1 和 V2 等大视觉区域可能作为低级特征的高容量词典，解释了其在皮层中占比较大面积的原因。
• 并行推理算法类似于自下而上的处理过程，随后进行自上而下的上下文解析，与视觉感知的神经生物学模型一致。