[论文解读] OpenGM: A C++ Library for Discrete Graphical Models

Bjoern Andres, Thorsten Beier+1 more|arXiv (Cornell University)|Jun 1, 2012

Bayesian Modeling and Causal Inference参考文献 15被引用 79

一句话总结

OpenGM 是一个用于离散图模型的 C++ 模板库，支持任意因子图、高阶因子以及多种函数编码方式，能够通过最先进的算法实现高效推理。它提供了模块化、可扩展的半环支持、自定义函数以及重复函数的高效存储，适用于大规模优化与推理任务，具备出色的性能特征。

ABSTRACT

OpenGM is a C++ template library for defining discrete graphical models and performing inference on these models, using a wide range of state-of-the-art algorithms. No restrictions are imposed on the factor graph to allow for higher-order factors and arbitrary neighborhood structures. Large models with repetitive structure are handled efficiently because (i) functions that occur repeatedly need to be stored only once, and (ii) distinct functions can be implemented differently, using different encodings alongside each other in the same model. Several parametric functions (e.g. metrics), sparse and dense value tables are provided and so is an interface for custom C++ code. Algorithms are separated by design from the representation of graphical models and are easily exchangeable. OpenGM, its algorithms, HDF5 file format and command line tools are modular and extendible.

研究动机与目标

• 开发一个灵活、可扩展的 C++ 库，用于离散图模型，支持任意因子图结构和高阶因子。
• 通过仅存储一次重复函数并在同一模型中支持多种函数编码方式，实现在大规模模型上的高效推理。
• 提供模块化架构，将推理算法与模型表示分离，支持算法的轻松替换与扩展。
• 支持广泛的半环（例如，最小和、求和-乘积、最大约束），用于优化、边缘化和约束满足。
• 通过标准化的 HDF5 文件格式和命令行工具，促进模型与算法的交换与复现。

提出的方法

• 该库基于形式化的数学基础构建，其中图模型由语法（带函数标识符的因子图）和语义（定义域、运算和函数映射）定义。
• 使用 C++ 模板在编译时选择数据类型、运算（例如，最小值、求和）和函数编码（例如，密集表、参数化 Potts 函数），以提升性能。
• 每个函数仅按标识符存储一次，并在多个因子间复用，从而在具有重复结构的模型中实现高效的内存使用。
• 推理算法以独立类的形式实现，通过明确定义的接口与模型交互，支持即插即用的可扩展性。
• 可通过开发人员部分的详细文档化扩展接口，添加自定义算法、参数化函数和离散空间。
• 该库支持广泛的推理方法，包括消息传递（Loopy BP、TRW-S）、图割（α-扩张、αβ-交换）、QPBO 以及精确方法（ILP、分支定界）。

实验结果

研究问题

• RQ1 如何设计一个 C++ 库，以支持任意因子图和高阶因子，同时不限制模型的表达能力？
• RQ2 哪些架构模式能够实现对大规模图模型中重复函数和混合函数编码的高效处理？
• RQ3 如何将推理算法与模型表示解耦，以实现模块化、可扩展且可互换的算法实现？
• RQ4 通用的、基于模板的 C++ 库在多大程度上能实现与高度优化的专用库（如 MRF-lib）相当的性能？
• RQ5 一个模块化、可扩展的库，配合标准化文件格式（HDF5）和命令行工具，能否促进模型与算法的可复现性与交换性？

主要发现

• OpenGM 支持任意因子图和半环，包括最小和（优化）、求和-乘积（边缘化）和最大约束（满足），从而统一处理多种推理任务。
• 通过仅存储一次重复函数，并允许在同一模型中共存不同编码方式（例如，参数化与表格化），该库实现了高效性能。
• 在网格图上的 Loopy BP 任务中，OpenGM 仅比 MRF-lib 略慢，而在一般二阶因子上，其速度约为 MRF-lib 的两倍。
• 在标准指标下，OpenGM 的性能约为 MRF-lib 的 1/20，但考虑到其更广泛的通用性和可扩展性，这一性能差距是可以接受的。
• 该库的模块化设计支持无缝集成自定义算法、函数和数据类型，并完全支持访问者（visitors）对推理过程进行监控与控制。
• OpenGM 的 HDF5 文件格式和命令行工具支持模型持久化和互操作性，促进了模型与算法的重用与交换。