[论文解读] Blang: Bayesian declarative modelling of arbitrary data structures

Alexandre Bouchard‐Côté, Kevin Chern+6 more|arXiv (Cornell University)|Dec 22, 2019

Bayesian Methods and Mixture Models被引用 5

一句话总结

Blang 是一种领域特定语言和库，通过类似 BUGS 的声明式语法，支持在任意数据结构（如图、树和序列）上进行贝叶斯推断。它支持用户自定义数据类型，并利用可扩展、可并行化、非可逆的 MCMC 方法，在复杂、非欧几里得状态空间上实现高效推断。

ABSTRACT

Consider a Bayesian inference problem where a variable of interest does not take values in a Euclidean space. These non-standard data structures are in reality fairly common. They are frequently used in problems involving latent discrete factor models, networks, and domain specific problems such as sequence alignments and reconstructions, pedigrees, and phylogenies. In principle, Bayesian inference should be particularly well-suited in such scenarios, as the Bayesian paradigm provides a principled way to obtain confidence assessment for random variables of any type. However, much of the recent work on making Bayesian analysis more accessible and computationally efficient has focused on inference in Euclidean spaces. In this paper, we introduce Blang, a domain specific language (DSL) and library aimed at bridging this gap. Blang allows users to perform Bayesian analysis on arbitrary data types while using a declarative syntax similar to BUGS. Blang is augmented with intuitive language additions to invent data types of the user's choosing. To perform inference at scale on such arbitrary state spaces, Blang leverages recent advances in parallelizable, non-reversible Markov chain Monte Carlo methods.

研究动机与目标

• 解决对非欧几里得、任意数据结构（如网络、序列和谱系）缺乏贝叶斯推断支持的问题。
• 弥合原则性贝叶斯建模与在不适用于标准欧几里得空间方法的复杂数据类型上实际推断之间的差距。
• 提供类似 BUGS 的用户友好、声明式接口，用于指定任意数据结构上的概率模型。
• 通过集成先进的 MCMC 技术，实现在高维、非标准状态空间上的可扩展推断。

提出的方法

• 引入一种名为 Blang 的领域特定语言（DSL），采用受 BUGS 启发的声明式语法，用于在任意数据类型上建模概率关系。
• 通过直观的语言扩展，允许用户定义自定义数据类型，从而表示树、比对和图等复杂结构。
• 利用非可逆、可并行化的马尔可夫链蒙特卡洛（MCMC）算法，实现对大规模、非欧几里得状态空间的可扩展推断。
• 支持潜在离散因子模型、网络结构以及领域特定问题（如系统发育重建和序列比对）的推断。
• 将模型定义与推断实现解耦，支持多样化数据类型的模块化和可扩展设计。

实验结果

研究问题

• RQ1 如何有效将贝叶斯建模扩展到图和序列等任意非欧几里得数据结构？
• RQ2 声明式建模语言在保持计算可扩展性的前提下，能在多大程度上支持复杂、用户自定义的数据类型？
• RQ3 非可逆、可并行化的 MCMC 方法在实践中是否能实现对高维、非标准状态空间的高效推断？
• RQ4 Blang 的方法在建模和推断复杂数据结构（如谱系和系统发育树）方面，与现有工具相比有何差异？

主要发现

• Blang 有效实现了对任意数据类型的贝叶斯推断，包括系统发育树、序列和网络等复杂结构。
• Blang 的声明式语法使用户能够以极少样板代码指定非欧几里得数据上的模型，显著提升了模型的表达力和可读性。
• 非可逆 MCMC 方法的集成使得在复杂、高维状态空间上实现可扩展且高效的采样成为可能。
• 该语言支持可扩展的数据类型定义，使用户能够建模领域特定结构，如序列比对和谱系关系。