[论文解读] Utilities as Random Variables: Density Estimation and Structure Discovery

Urszula Chajewska, Daphne Koller|arXiv (Cornell University)|Jan 16, 2013

Bayesian Modeling and Causal Inference参考文献 18被引用 63

一句话总结

本论文提出将效用函数视为具有可学习概率密度函数的随机变量，利用贝叶斯高斯混合模型从部分获取的效用数据中估计效用分布。该研究提出一种结构发现方法，识别效用函数中的广义可加性，从而在更少的效用询问次数下实现稳健的效用估计——在合成数据和产前诊断数据上进行了验证，显著减少了所需的询问次数。

ABSTRACT

Decision theory does not traditionally include uncertainty over utility functions. We argue that the a person's utility value for a given outcome can be treated as we treat other domain attributes: as a random variable with a density function over its possible values. We show that we can apply statistical density estimation techniques to learn such a density function from a database of partially elicited utility functions. In particular, we define a Bayesian learning framework for this problem, assuming the distribution over utilities is a mixture of Gaussians, where the mixture components represent statistically coherent subpopulations. We can also extend our techniques to the problem of discovering generalized additivity structure in the utility functions in the population. We define a Bayesian model selection criterion for utility function structure and a search procedure over structures. The factorization of the utilities in the learned model, and the generalization obtained from density estimation, allows us to provide robust estimates of utilities using a significantly smaller number of utility elicitation questions. We experiment with our technique on synthetic utility data and on a real database of utility functions in the domain of prenatal diagnosis.

研究动机与目标

• 通过将效用值视为具有概率分布的随机变量，解决传统决策理论中缺乏不确定性建模的问题。
• 从部分获取的效用数据中学习效用密度函数的统计框架。
• 在人群范围的效用函数中发现结构模式（例如广义可加性）。
• 减少实现稳健决策所需效用询问的次数。
• 通过群体层面的统计建模实现效用估计的泛化与鲁棒性。

提出的方法

• 将效用函数建模为具有高斯混合分布的随机变量，以表示具有一致效用偏好的子群体。
• 应用贝叶斯学习方法，从未完全获取的效用数据中估计混合模型的参数。
• 使用贝叶斯模型选择准则，识别效用函数的最优结构，如可加或可分解形式。
• 设计一种在可能的效用函数结构中搜索的程序，以发现广义可加性模式。
• 利用学习到的密度函数和结构模式，推广效用估计，减少对完整询问的依赖。
• 将密度估计与结构发现整合为统一框架，实现稳健的效用推断。

实验结果

研究问题

• RQ1 效用函数能否被有效建模为具有可学习概率密度函数的随机变量？
• RQ2 统计密度估计技术如何应用于部分获取的效用数据？
• RQ3 在效用函数群体中可发现哪些结构模式（例如可加性）？
• RQ4 所学习的效用模型在多大程度上能减少准确决策所需的询问次数？
• RQ5 高斯混合模型如何捕捉具有一致效用偏好的子群体？

主要发现

• 高斯混合模型在合成数据和真实世界数据中均成功捕捉到了具有一致效用偏好的子群体。
• 贝叶斯结构发现方法识别出效用函数中的广义可加性模式，提升了模型的可解释性。
• 密度估计使得在远少于传统方法所需的询问次数下，仍能实现稳健的效用预测。
• 该框架在保持产前诊断数据高估计精度的同时，显著减少了所需效用询问的问题数量。
• 真实数据的实证结果表明，该模型能够从有限的询问中有效泛化。
• 密度估计与结构发现的整合，使得在决策理论应用中实现更可靠、可扩展的效用推断。