[論文レビュー] Anthropic decision theory

Stuart Armstrong|arXiv (Cornell University)|Oct 28, 2011

Space Science and Extraterrestrial Life参考文献 21被引用数 5

ひとこと要約

この論文は、自己位置特定信念の問題における意思決定の最適性に注目することで、アンソロピックなパラドックス（例：スリーピング・ベアの問題）を解消する枠組み「アントロピック意思決定理論（ADT）」を提唱する。利害の一致（自己中心的対利他的）をモデル化することで、自己確認的リンクを介して一貫性のある意思決定を導出し、SIA や SSA といった議論の多い確率仮定に依存せずに、予期しないパラドックス（予言的哲学者や終末論的論拠）を解消する。

ABSTRACT

This paper sets out to resolve how agents ought to act in the Sleeping Beauty problem and various related anthropic (self-locating belief) problems, not through the calculation of anthropic probabilities, but through finding the correct decision to make. It creates an anthropic decision theory (ADT) that decides these problems from a small set of principles. By doing so, it demonstrates that the attitude of agents with regards to each other (selfish or altruistic) changes the decisions they reach, and that it is very important to take this into account. To illustrate ADT, it is then applied to two major anthropic problems and paradoxes, the Presumptuous Philosopher and Doomsday problems, thus resolving some issues about the probability of human extinction.

研究の動機と目的

• アンソロピックな確率の割り当てに依存せず、意思決定に注目することで、長年のアンソロピックなパラドックス（例：スリーピング・ベアの問題）を解消すること。
• 利他的態度（自己中心的対利他的）が、アンソロピックな状況における最適な意思決定に根本的に影響することを示すこと。
• 同一および非同一のエージェントを扱える、自己位置特定信念の問題における最小限の、原理的かつ整合的な意思決定理論の拡張を提供すること。
• 予言的哲学者や終末論的論拠といったパラドックスが、確率に依存するのではなく意思決定に注目することで、その直感に反する力が失われるかどうかを示すこと。
• 自己確認的利害リンクと意思決定の一貫性原理に根ざした意思決定に基づいて、ADT を既存のアンソロピック枠組みの実用的代替手段として確立すること。

提案手法

• 自己位置特定信念下での利害最大化の選択に注目することで、アンソロピック確率の計算を回避する意思決定理論枠組み（ADT）を提唱する。
• 「自己確認的リンク」を定義する——信念として正しいとされる、エージェント間の意思決定の相関関係であり、ADT の一貫性の基盤をなす。
• 時間的整合性、外部要因の無関係性、内部要因の無関係性の原則を用いて、対称的なアンソロピック問題における意思決定を導出する。
• 利害に基づく意思決定モデルを用いる：自己中心的、利他的、全利害主義的、平均利害主義的エージェントは、それぞれ異なる結果評価を持つ別々の意思決定タイプとして扱われる。
• スリーピング・ベア問題のインキュベーター版にADTを適用し、意思決定がエージェントが自分のコピーの福祉をどれほど重視するかに依存することを示す。
• 予言的哲学者と終末論的問題にADTを拡張し、異なる利害構造下での賭けや生存意思決定をモデル化する。

実験結果

リサーチクエスチョン

• RQ1 SIA や SSA といった議論の多いアンソロピック確率仮定に依存せず、最適な意思決定をどのように導出できるか？
• RQ2 同じ問題（例：スリーピング・ベア）において、エージェントが自己中心的か利他的かによって異なる意思決定結果が生じる理由は何か？
• RQ3 意思決定に注目することで、予言的哲学者のパラドックスを解消できるか？
• RQ4 アンソロピック確率ではなく意思決定理論で分析した場合、終末論的論拠が依然としてその力を保つのか？
• RQ5 全利害主義と平均利害主義の利害構造が、人口規模と絶滅リスクを含むアンソロピック状況における意思決定に、どの程度影響を与えるか？

主な発見

• ADT は、エージェントが自己中心的か利他的かに応じて意思決定が異なることから、スリーピング・ベアの問題を解消する。利他的エージェントは、複数のコピーに影響を与える意思決定に高い価値を付与する。
• 予言的哲学者の問題において、利他的エージェントは、個々の確率が極めて低い賭けを合理的に受ける。なぜなら、期待利害はコピー数に比例して増大するからであり、これによりパラドックスが解消される。
• 終末論的論拠の直感に反する結論（絶滅がより起こりやすい）は、ADT では消える。平均利害主義的エージェントは、確率が等しくても、生存関連の賭けよりも独立事象に結びつく賭けを好む。
• ADT は、SIA に類似した行動と SSA に類似した行動が、異なる確率によるものではなく、異なる利害リンクによるものであることを示している。利他的態度は SIA 的意思決定をもたらし、自己中心的態度は SSA 的な結果をもたらす。
• このフレームワークは、アンソロピック問題における意思決定が確率に依存するのではなく、エージェントがその類似体の福祉をどの程度重視するかに依存することを示しており、利害の一致が中心的要因であることを明らかにする。
• ADT は、特に大規模な人口や自己複製可能なエージェントを含む状況において、確率に基づくアンソロピック推論の落とし穴を避ける一貫性のある意思決定フレームワークを提供する。