[論文レビュー] Functional Decision Theory: A New Theory of Instrumental Rationality

Eliezer Yudkowsky, Nate Soares|arXiv (Cornell University)|Oct 13, 2017

Epistemology, Ethics, and Metaphysics参考文献 20被引用数 25

ひとこと要約

本稿は、意思決定を固定された数学的関数の出力として扱い、その関数の最良の結果を最適化する、新たな規範的意思決定理論である機能的意思決定理論（FDT）を紹介する。FDTは、因果的意思決定理論（CDT）および証拠的意思決定理論（EDT）よりも、ニューカムの問題、喫煙症候群問題、パラフのハイカー問題において優れている。FDTは因果関係や相関関係ではなく、論理的および仮想的依存関係に着目することで、より高い効用を達成する。

ABSTRACT

This paper describes and motivates a new decision theory known as functional decision theory (FDT), as distinct from causal decision theory and evidential decision theory. Functional decision theorists hold that the normative principle for action is to treat one's decision as the output of a fixed mathematical function that answers the question, "Which output of this very function would yield the best outcome?" Adhering to this principle delivers a number of benefits, including the ability to maximize wealth in an array of traditional decision-theoretic and game-theoretic problems where CDT and EDT perform poorly. Using one simple and coherent decision rule, functional decision theorists (for example) achieve more utility than CDT on Newcomb's problem, more utility than EDT on the smoking lesion problem, and more utility than both in Parfit's hitchhiker problem. In this paper, we define FDT, explore its prescriptions in a number of different decision problems, compare it to CDT and EDT, and give philosophical justifications for FDT as a normative theory of decision-making.

研究の動機と目的

• 単一エージェントおよびマルチエージェントの状況において、意思決定理論における長年の矛盾を解消する新しい規範的フレームワークを提唱することで、道具的合理性を統一すること。
• ニューカムの問題や喫煙症候群問題といった重要な意思決定問題において、効用を最大化できないという限界を示す因果的意思決定理論（CDT）および証拠的意思決定理論（EDT）の課題に対処すること。
• 論理的出力の関数に焦点を当てることで、恣意的な調整や事前約束のメカニズムに依存せず、一貫性のある意思決定ルールを提供すること。
• FDTが論理的および心理的類似性に基づく仮想的依存関係をモデル化することで、ニューカムに類似した問題において、CDT や EDT よりも一貫して高い期待効用を達成できることを示すこと。
• FDTを、因果的または証拠的相関関係ではなく、機能的および論理的依存関係に基づく、より優れた規範的意思決定理論としての哲学的基盤を確立すること。

提案手法

• FDTは、物理的行動の選択ではなく、入力（例：世界モデル）を行動に写像する固定された数学的関数の出力を選択することで意思決定を定式化する。
• エージェントを論理的または機能的双子としてモデル化し、意思決定を共有される意思決定関数の出力として扱うことで、推論における仮想的依存関係を生じさせる。
• 理論は論理的および仮想的依存関係に基づく反事後的推論を使用する：「この関数が異なる行動を出力した場合、何が起こるだろうか？」
• FDTは、エージェントが物理的行動ではなく、各可能な関数出力の効用を評価することで、関数ベースの表現を用いて意思決定問題を形式化する。
• 因果的、証拠的、機能的依存関係を区別し、心理的双子における論理的相関（例：）を意思決定最適化の根拠として使用する。
• 理論は、因果グラフや干渉的反事後的推論（CDT で用いられるもの）に依存せず、関数的同等性に基づく論理的反事後的推論を使用する。

実験結果

リサーチクエスチョン

• RQ1 どのようにして意思決定理論がニューカムに類似した問題において、CDT や EDT よりも一貫して優れているのか？
• RQ2 単一エージェントおよびマルチエージェントの意思決定状況において、合理的行動を統一する規範的原則は何か？
• RQ3 論理的依存関係に着目することで、事前約束や拘束メカニズムなしに、どのようにしてエージェントがより高い効用を達成できるのか？
• RQ4 仮想的依存関係は合理的意思決定において果たす役割は何か？また、因果的または証拠的依存関係とはどのように異なるのか？
• RQ5 論理的に整合的でありながら、標準的なジレンマにおいて CDT や EDT よりも実用的に優れた意思決定理論を構築できるか？

主な発見

• ニューカムの問題において、FDTは1箱選択を提唱し、1,000,000ドルの報酬をもたらす。一方、CDTは2箱選択を提唱し、1,000ドルの報酬にとどまる。FDTは期待効用においてCDTを1,000倍上回る。
• 喫煙症候群問題において、FDTは喫煙を避ける（合理的な行動）し、EDTが喫煙を良い兆候とみなすため、EDTはより低い効用をもたらす。
• パラフのハイカー問題において、FDTは協力（運賃を支払い）し、1,000,000ドルの報酬を達成する。一方、CDTは裏切りて死亡し、EDTは証拠的懸念により協力しない。
• 心理的双子の囚人のジレンマにおいて、FDTは協力することで、相互に協力し、両者とも1,000,000ドルの報酬を得る。CDT や EDT よりも高い効用を達成する。
• FDTは強制的交渉のジレンマにおいて、強制を回避し、安定した投票連合を形成する。EDTとは異なり、情報に非負の価値を割り当てる。
• FDTは、承認手続や事前約束を必要としない。関数的推論を通じて、最適な傾向を直接計算するからである。