[论文解读] A New Method for Multinomial Inference using Dempster-Shafer Theory

Earl Lawrence, Murph, Alexander C.+2 more|arXiv (Cornell University)|Oct 7, 2024

Distributed Sensor Networks and Detection Algorithms参考文献 11被引用 7

一句话总结

本文提出 Dirichlet-DSM，一种基于 Dempster-Shafer 的多项式推断方法，产生 Dirichlet 后验分布，处理未知的类别顺序排列，且具有对称性和学习方面的优势。

ABSTRACT

A new method for multinomial inference is proposed by representing the cell probabilities as unordered segments on the unit interval and following Dempster-Shafer (DS) theory. The resulting DS posterior is then strengthened to improve symmetry and learning properties with the final posterior model being characterized by a Dirichlet distribution. In addition to computational simplicity, the new model has desirable invariance properties related to category permutations, refinements, and coarsenings. Furthermore, posterior inference on relative probabilities amongst certain cells depends only on data for the cells in question. Finally, the model is quite flexible with regard to parameterization and the range of testable assertions. Comparisons are made to existing methods and illustrated with two examples.

研究动机与目标

• 激发对多项式推断的动机，并解决现有 DS 方法和 IDM 的局限性。
• 开发一个 Dirichlet-DSM，产生 Dirichlet 后验并保持不变性属性。
• 在辅助方程中引入未知排列以避免顺序依赖并改善对称性。
• 展示计算优势以及对受约束与通用多项式模型的适用性。

提出的方法

• 将单元概率表示为单位区间上的段，并构建用于多项式推断的 Dirichlet-DSM。
• 引入段顺序的未知排列，以消除对类别标签的依赖。
• 通过带有未知排列的辅助方程和一个随机集合来定义 Dirichlet-DSM，从而产生 Dirichlet 分布的后验（Z 来自 Dirichlet(1, N1, ..., NK)）。
• 证明后验随机集由 Dirichlet 分布表征，并讨论对称性与中立性等性质。
• 通过将独立的后验集合组合并投影到参数空间，将模型从 n=1 扩展到一般 n。

Figure 3.1: Partition of ${\mathbb{U}}=[0,1)$ into ${\mathbb{U}}_{1},\ldots,{\mathbb{U}}_{K}$ .

实验结果

研究问题

• RQ1 如何利用 Dempster-Shafer 理论在具有可取不变量性质的前提下执行多项式推断？
• RQ2 辅助结构中的未知排列是否能产生对称、可处理的多项式参数后验分布？
• RQ3 与 Simplex-DSM 和不精确 Dirichlet 模型相比，Dirichlet-DSM 的计算与推断优势是什么？
• RQ4 Dirichlet-DSM 在参数约束或受限模型下的表现如何？

主要发现

• Dirichlet-DSM 后验由对 (Z0, Z) 的 Dirichlet 分布表征，其中 Z 的分布为 Dirichlet(1, N1, ..., NK)。
• 后验随机集位于标准参数单纯形内，随着样本量增大而集中，减少 r（不确定度）质量。
• 该模型实现对称性、嵌入性和表示不变性，与 Walley 的原理及中立性概念保持一致。
• Dirichlet-DSM 提供与经典方法相当的计算简便性，同时支持基于集合的概率陈述并处理受约束的模型。

Figure 4.1: Partition of ${\mathbb{U}}=[0,1)$ into ${\mathbb{U}}_{1},\ldots,{\mathbb{U}}_{K}$ ordered by a permutation $\pi$ .