[论文解读] I Don't Want to Think About it Now:Decision Theory With Costly Computation

Joseph Y. Halpern, Rafael Pass|arXiv (Cornell University)|Jun 14, 2011

Bayesian Modeling and Causal Inference参考文献 26被引用 15

一句话总结

本文提出了一种决策理论框架，通过将计算成本建模为代理选择图灵机（其复杂度，如运行时间、空间或算法难度）影响效用，从而纳入计算成本。该框架通过计算约束形式化了信念极化与现状偏见等现象，并定义了新概念，如计算信息的价值与对话的计算价值，表明零知识证明的价值受限于计算加速的价值。

ABSTRACT

Computation plays a major role in decision making. Even if an agent is willing to ascribe a probability to all states and a utility to all outcomes, and maximize expected utility, doing so might present serious computational problems. Moreover, computing the outcome of a given act might be difficult. In a companion paper we develop a framework for game theory with costly computation, where the objects of choice are Turing machines. Here we apply that framework to decision theory. We show how well-known phenomena like first-impression-matters biases (i.e., people tend to put more weight on evidence they hear early on), belief polarization (two people with different prior beliefs, hearing the same evidence, can end up with diametrically opposed conclusions), and the status quo bias (people are much more likely to stick with what they already have) can be easily captured in that framework. Finally, we use the framework to define some new notions: value of computational information (a computational variant of value of information) and and computational value of conversation.

研究动机与目标

• 通过将代理建模为选择具有相关复杂度的图灵机，正式化在计算成本下的决策制定。
• 通过计算约束解释已知的行为偏见（如第一印象效应、信念极化与现状偏见）。
• 引入并形式化新的决策理论概念：计算信息的价值与对话的计算价值。
• 表明参与零知识证明的价值受限于计算加速的价值。
• 将规范性决策理论扩展至考虑对算法输出与运行时间的不确定性，包括‘不可能’的可能世界——即由于计算限制导致数学真理不确定的情形。

提出的方法

• 将决策建模为选择图灵机（TMs），每个图灵机具有相关的复杂度与输出质量。
• 将效用定义为收益与计算复杂度的函数，使代理能够权衡准确性与成本。
• 引入状态依赖的效用与复杂度函数，以建模对图灵机行为与运行时间的不确定性，即使这些是数学上固定的。
• 使用复杂度的单调性：更高的复杂度降低效用，反映对计算的厌恶。
• 形式化计算信息的价值为获取更优计算工具所带来的期望效用增益，类似于信息价值，但处于计算语境中。
• 将该框架应用于零知识证明系统，表明其价值受限于计算加速的价值。

实验结果

研究问题

• RQ1 如何正式地将计算成本整合进决策理论，以解释行为偏见？
• RQ2 人们为何表现出第一印象效应，这种现象如何通过计算约束加以解释？
• RQ3 在计算受限的框架中，如何对信念极化（即两个具有不同先验的代理在听取相同证据后得出相反结论）进行建模？
• RQ4 ‘信息价值’的计算类比是什么，它与经典的信息价值有何不同？
• RQ5 状态偏见能否被正式解释为计算成本在决策中的结果？

主要发现

• 当代理因计算成本约束而对早期处理的信息赋予更高权重时，第一印象效应自然产生。
• 当具有不同先验的代理通过计算受限的推理处理相同证据时，信念极化现象被捕捉到，导致结论分歧。
• 现状偏见源于从现有计算切换到新计算的成本，使不作为更具吸引力。
• 计算信息的价值被定义为通过改进计算工具带来的期望效用增益，其值受限于实际计算加速的价值。
• 在零知识证明系统中，参与证明的价值永远不会超过相应计算加速的价值，如定理3.6所形式化。
• 该框架允许对‘不可能’的可能世界进行建模——例如，尽管一个数在数学上是素数，但代理仍可能相信它不是素数——通过将计算不确定性作为决策模型的一部分。