[论文解读] Learning Graph-Structured Sum-Product Networks for Probabilistic Semantic Maps

Kaiyu Zheng, Andrzej Pronobis+1 more|arXiv (Cornell University)|Sep 24, 2017

Advanced Graph Neural Networks被引用 12

一句话总结

本文提出图结构求和-乘积网络（GraphSPNs），一种概率深度学习框架，能够对具有不同大小和噪声依赖关系的复杂动态图结构数据进行建模。通过在子图上学习模板SPN分布并构建混合模型以实现推理，GraphSPNs在大规模机器人语义地图中对噪声拓扑关系中的语义位置属性进行消歧时，优于传统马尔可夫随机场（MRFs），在高噪声水平下准确率最高达到67.58%。

ABSTRACT

We introduce Graph-Structured Sum-Product Networks (GraphSPNs), a probabilistic approach to structured prediction for problems where dependencies between latent variables are expressed in terms of arbitrary, dynamic graphs. While many approaches to structured prediction place strict constraints on the interactions between inferred variables, many real-world problems can be only characterized using complex graph structures of varying size, often contaminated with noise when obtained from real data. Here, we focus on one such problem in the domain of robotics. We demonstrate how GraphSPNs can be used to bolster inference about semantic, conceptual place descriptions using noisy topological relations discovered by a robot exploring large-scale office spaces. Through experiments, we show that GraphSPNs consistently outperform the traditional approach based on undirected graphical models, successfully disambiguating information in global semantic maps built from uncertain, noisy local evidence. We further exploit the probabilistic nature of the model to infer marginal distributions over semantic descriptions of as yet unexplored places and detect spatial environment configurations that are novel and incongruent with the known evidence.

研究动机与目标

• 解决机器人领域中由于位置之间的拓扑关系具有噪声且动态变化，图结构各异所带来的结构化预测挑战。
• 开发一种可扩展、可 tractable 的概率模型，能够处理任意图大小和复杂依赖关系，且无需固定结构约束。
• 利用来自不确定局部证据的边缘分布，实现对未探索位置语义属性的鲁棒推理。
• 通过概率模型的似然分数检测语义地图中的新颖或不一致的空间配置。
• 为未来图结构建模研究提供一个具有不同不确定性和噪声水平的拓扑图基准数据集。

提出的方法

• GraphSPNs 学习模板SPN模型，表示任意复杂度子图属性的分布。
• 对于给定输入图，GraphSPNs 通过将图分解为多个子图，每个子图均使用相应的模板SPN实例化，从而构建混合模型。
• 该框架通过利用求和-乘积网络（SPNs）的理论特性，实现在高树宽图上的可 tractable 精确推理。
• 模型在局部语义属性证据上进行端到端训练，从高维数据中学习上下文相关的条件独立性。
• 通过标准化每个变量的似然并设定阈值，实现基于似然的新颖或不一致配置检测。
• 该方法兼容任意局部证据分布，并可自然集成到其他基于SPN的模型中，以实现分层空间推理。

实验结果

研究问题

• RQ1 GraphSPNs 是否能有效建模并从动态真实机器人数据构建的大规模噪声语义地图中推理语义属性？
• RQ2 当两者均在相同不确定、噪声的证据上进行训练时，GraphSPN 与传统MRFs的性能相比如何？
• RQ3 在存在冲突或错误局部证据的情况下，GraphSPNs 是否能生成可靠的置信度信号（通过边缘分布）？
• RQ4 GraphSPNs 在多大程度上能通过似然分数检测新颖或不一致的空间配置？
• RQ5 GraphSPN框架在具有不同图结构和噪声水平的不同环境中的泛化能力如何？

主要发现

• 在噪声水平为4的弗莱堡数据集上，GraphSPN在语义类别推理中达到67.58%的准确率，显著优于MRF-2（28.32%）和MRF-3（28.71%）在相同条件下的表现。
• 在无局部证据的未探索位置上，GraphSPN在噪声水平为2的斯德哥尔摩数据集上达到67.57%的准确率，证明其具备强大的泛化能力和边缘推理能力。
• 当局部证据错误时，GraphSPN生成了近乎均匀的边缘分布，表明其在噪声环境下的置信度估计具有可靠性。
• GraphSPN在ROC曲线上以高AUC检测到新颖空间配置，尽管在理想无噪声条件下MRFs略优，但其表现仍与之相当。
• 该模型仅使用不确定、噪声的拓扑关系即成功消除了语义属性的歧义，证明其在真实机器人探索场景中的鲁棒性。
• 作者发布了包含不同不确定性和噪声水平的拓扑图的新基准数据集，为未来图结构建模方法的评估提供了支持。