[论文解读] Latent Bayesian melding for integrating individual and population models

Mingjun Zhong, Nigel Goddard+1 more|arXiv (Cornell University)|Oct 30, 2015

Blind Source Separation Techniques参考文献 23被引用 24

一句话总结

本文提出潜在贝叶斯融合（LBM），一种通过对数意见池化整合个体层面与总体层面模型的后验分布，从而融合含潜变量的个体与总体模型的方法。在电能分解任务中，LBM 显著优于后验正则化方法，将持续时间误差和周期误差分别降低高达 70% 和 68%，表明在受限建模条件下，其在盲源分离任务中的准确性得到提升。

ABSTRACT

In many statistical problems, a more coarse-grained model may be suitable for population-level behaviour, whereas a more detailed model is appropriate for accurate modelling of individual behaviour. This raises the question of how to integrate both types of models. Methods such as posterior regularization follow the idea of generalized moment matching, in that they allow matching expectations between two models, but sometimes both models are most conveniently expressed as latent variable models. We propose latent Bayesian melding, which is motivated by averaging the distributions over populations statistics of both the individual-level and the population-level models under a logarithmic opinion pool framework. In a case study on electricity disaggregation, which is a type of single-channel blind source separation problem, we show that latent Bayesian melding leads to significantly more accurate predictions than an approach based solely on generalized moment matching.

研究动机与目标

• 解决在单通道盲源分离问题中，将含潜变量的个体层面模型与总体层面统计约束进行整合的挑战。
• 克服当两个模型均涉及潜变量时，如后验正则化等矩匹配方法的局限性。
• 开发一种基于统一概率框架的系统性方法，用于融合来自个体与总体模型的先验信息。
• 在真实世界电能分解数据上评估该方法，其中可辨识性问题阻碍了对电器级别能耗的准确估计。
• 证明潜在贝叶斯融合可提升预测准确性，特别是在持续时间与周期计数等聚合统计量方面。

提出的方法

• 提出潜在贝叶斯融合（LBM）作为贝叶斯融合的扩展，用于处理含潜变量的模型，利用对数意见池化融合来自个体与总体模型的先验。
• 为个体层面模型参数使用融合先验分布，该分布源自通过模拟函数生成的诱导先验与外部总体先验的结合。
• 当模拟函数不可逆时，使用变量变换技术或启发式公式（式 2）推导融合先验。
• 采用对数意见池化：epτ(τ) ∝ p∗τ(τ)^α pτ(τ)^(1−α)，其中 α 控制各先验的权重，本研究中 α 固定。
• 将融合先验整合进完整贝叶斯模型，利用标准推理方法更新潜变量与参数的后验分布。
• 将该方法应用于基于自适应因子化隐马尔可夫模型（AFHMM）的能效分解，对汇总统计量（如总能耗、持续时间、周期计数）施加约束。

实验结果

研究问题

• RQ1 潜在贝叶斯融合能否以统计上合理的方式，有效整合含潜变量的个体层面模型与总体层面约束？
• RQ2 在电能分解任务中，LBM 与后验正则化相比，其预测准确性如何？
• RQ3 将总体层面汇总统计量纳入模型，是否能改善单通道盲源分离中个体电器信号的可辨识性？
• RQ4 与矩匹配基线方法相比，LBM 在减少持续时间与周期计数等聚合统计量误差方面，改善程度如何？
• RQ5 LBM 是否具备跨数据集的泛化能力？在 HES 与 UK-DALE 数据集上的跨数据集评估已验证此点。

主要发现

• 在合成数据上，AFHMM+LBM 相较于 AFHMM+PR，将持续时间聚合误差（DAE）降低 8%，周期聚合误差（CAE）降低 50%。
• 在 6 栋房屋的真实主电路数据上，AFHMM+LBM 相较于 AFHMM+PR，将 NDE 降低 15%，DAE 降低 10%，CAE 降低 40%。
• 在 UK-DALE 数据集上，AFHMM+LBM 相较于 AFHMM+PR，将 DAE 降低 70%，CAE 降低 68%，同时在 NDE 与 SAE 上保持相近性能。
• LBM 在预测聚合统计量方面始终优于后验正则化，尤其在持续时间与周期计数方面表现突出，而这两项对能效监控应用至关重要。
• 该方法展现出强大的泛化能力，在不同采样率与数据特征的多个真实世界数据集（HES 与 UK-DALE）上均实现一致的性能提升。
• 结果证实，通过潜在贝叶斯融合引入总体层面约束，可有效缓解单通道盲源分离中电能分解的可辨识性问题。