[论文解读] Anthropic decision theory

Stuart Armstrong|arXiv (Cornell University)|Oct 28, 2011

Space Science and Extraterrestrial Life参考文献 21被引用 5

一句话总结

本文提出了安提柯决策理论（ADT），一种通过聚焦于最优决策而非人择概率来解决人择困境（如睡眠者美人问题）的框架。通过建模代理人的效用一致性（自私与利他），ADT 利用自我确认关联推导出一致的决策，从而在不依赖有争议的概率假设的情况下，解决了诸如自大哲学家悖论和世界末日论等悖论。

ABSTRACT

This paper sets out to resolve how agents ought to act in the Sleeping Beauty problem and various related anthropic (self-locating belief) problems, not through the calculation of anthropic probabilities, but through finding the correct decision to make. It creates an anthropic decision theory (ADT) that decides these problems from a small set of principles. By doing so, it demonstrates that the attitude of agents with regards to each other (selfish or altruistic) changes the decisions they reach, and that it is very important to take this into account. To illustrate ADT, it is then applied to two major anthropic problems and paradoxes, the Presumptuous Philosopher and Doomsday problems, thus resolving some issues about the probability of human extinction.

研究动机与目标

• 通过聚焦于决策而非人择概率分配，解决长期存在的人择悖论（如睡眠者美人问题）。
• 证明代理人在对待他人时的态度（自私与利他）会从根本上改变人择情境下的最优决策。
• 提供一种原则性、最小化的决策理论扩展，以处理自指信念问题中的相同与非相同代理。
• 表明当通过 ADT 而非概率分析时，诸如自大哲学家悖论和世界末日论等悖论的反直觉力量会消失。
• 通过将决策建立在自我确认的效用关联和决策一致性原则之上，确立 ADT 作为现有安提柯框架的实用替代方案。

提出的方法

• 提出一种决策理论框架（ADT），通过聚焦于自指信念下的效用最大化选择，绕过人择概率计算。
• 定义“自我确认关联”——关于代理间决策相关性的信念，若被相信则为真，构成 ADT 一致性的基础。
• 应用时间一致性、外部细节无关性及内部细节无关性原则，推导对称人择问题中的决策。
• 使用基于效用的决策模型：自私、利他、总效用主义和平均效用主义代理被视为具有不同结果估值的独立决策类型。
• 将 ADT 应用于睡眠者美人问题的孵化器变体，表明决策取决于代理是否重视其副本的福祉。
• 通过在不同效用结构下建模下注与生存决策，将 ADT 扩展至自大哲学家与世界末日问题。

实验结果

研究问题

• RQ1 如何在不依赖 SIA 或 SSA 等有争议的人择概率假设的情况下，推导出人择问题中的最优决策？
• RQ2 为何在相同问题（如睡眠者美人问题）中，代理的自私或利他态度会导致不同的决策结果？
• RQ3 通过聚焦于决策而非概率分配，能否解决自大哲学家悖论？
• RQ4 当通过决策理论而非人择概率分析时，世界末日论是否仍具有其原有力量？
• RQ5 在涉及人口规模与灭绝风险的人择情境中，效用结构（总效用主义 vs. 平均效用主义）在多大程度上改变决策？

主要发现

• ADT 通过表明正确决策取决于代理是自私还是利他，解决了睡眠者美人问题，其中利他代理会赋予影响多个副本的决策更高价值。
• 在自大哲学家问题中，利他代理会理性地接受个体概率极低的下注，因为总期望效用随副本数量而扩大，从而消除了悖论。
• 在 ADT 框架下，世界末日论的反直觉结论——即灭绝更可能发生——不复存在，因为平均效用主义代理更倾向于与独立事件相关的下注，而非与生存相关的下注，即使概率相等。
• ADT 表明，SIA 类似行为与 SSA 类似行为并非源于概率差异，而是源于效用关联的差异：利他导致 SIA 类似决策，而自私导致 SSA 类似结果。
• 该框架表明，人择问题中的决策并非仅由概率决定，而是取决于代理对其对应体福祉的重视程度，使效用一致性成为核心因素。
• ADT 提供了一致的决策框架，避免了基于概率的人择推理的陷阱，尤其在涉及大规模群体或自我复制代理的情境中。