[論文レビュー] I Don't Want to Think About it Now:Decision Theory With Costly Computation

Joseph Y. Halpern, Rafael Pass|arXiv (Cornell University)|Jun 14, 2011

Bayesian Modeling and Causal Inference参考文献 26被引用数 15

ひとこと要約

この論文は、計算コストを組み込む意思決定理論的枠組みを提示する。エージェントを、実行時間、記憶領域、またはアルゴリズム的難易度といった複雑さが効用に影響するチューリングマシンの選択者としてモデル化する。計算制約を用いて信念の極端化やステータス・クォ・バイアスといった現象を形式化し、計算情報の価値や会話の計算的価値といった新しい概念を定義する。ゼロ知識証明の価値は、計算の高速化の価値によって上限づけられることを示す。

ABSTRACT

Computation plays a major role in decision making. Even if an agent is willing to ascribe a probability to all states and a utility to all outcomes, and maximize expected utility, doing so might present serious computational problems. Moreover, computing the outcome of a given act might be difficult. In a companion paper we develop a framework for game theory with costly computation, where the objects of choice are Turing machines. Here we apply that framework to decision theory. We show how well-known phenomena like first-impression-matters biases (i.e., people tend to put more weight on evidence they hear early on), belief polarization (two people with different prior beliefs, hearing the same evidence, can end up with diametrically opposed conclusions), and the status quo bias (people are much more likely to stick with what they already have) can be easily captured in that framework. Finally, we use the framework to define some new notions: value of computational information (a computational variant of value of information) and and computational value of conversation.

研究の動機と目的

• エージェントを、関連する複雑さ（実行時間、記憶領域、アルゴリズム的難易度など）を持つチューリングマシン（TMs）として選択するものとしてモデル化することで、計算コストを形式的に統合した意思決定の形式化。
• 計算制約を用いて、最初の印象が重要になる、信念の極端化、ステータス・クォ・バイアスといったよく知られた行動バイアスを説明すること。
• 新しい意思決定理論的概念、すなわち計算情報の価値および会話の計算的価値を導入し、形式化すること。
• ゼロ知識証明に参加する価値が、計算の高速化の価値によって上限づけられることを示すこと。
• アルゴリズム的出力や実行時間に関する不確実性を考慮するように、規範的意思決定理論を拡張すること。これは、計算制限によって数学的真実が不確実になる「不可能なあり得る世界」を含む。

提案手法

• 意思決定を、各々に関連する複雑さと出力品質を持つチューリングマシン（TMs）の選択としてモデル化する。
• 報酬と計算複雑さの両方の関数として効用を定義し、正確さとコストのトレードオフを可能にする。
• 状態に依存する効用関数および複雑さ関数を導入し、数学的に固定されているにもかかわらず、TMsの挙動や実行時間についての不確実性をモデル化する。
• 複雑さにおける単調性を用いる：高い複雑さは効用を低下させ、計算回避の傾向を反映する。
• 計算情報の価値を、より優れた計算ツールを入手したときの期待効用の増加として形式化する。これは、計算的文脈における情報の価値と類似しているが、古典的価値情報とは異なる。
• ゼロ知識証明システムにこの枠組みを適用し、その価値が計算の高速化の価値によって上限づけられることを示す。

実験結果

リサーチクエスチョン

• RQ1 計算コストを意思決定理論に形式的に統合するには、どのようにすればよいのか。行動バイアスを説明できるか。
• RQ2 人々が最初の印象が重要になるバイアスを示すのはなぜか。計算制約によってどのように説明できるか。
• RQ3 異なる事前確率を持つ2人のエージェントが、同じ証拠を聞いた後、逆の結論に至る信念の極端化は、計算に制限を受ける枠組みでどのようにモデル化できるか。
• RQ4 『情報の価値』の計算的アナロジーとは何か。古典的価値情報とはどのように異なるか。
• RQ5 ステータス・クォ・バイアスは、意思決定における計算コストの結果として形式的に説明可能か。

主な発見

• 計算コストの制約がある場合、エージェントが早期に処理された情報に高い重みを割り当てることで、最初の印象が重要になるバイアスが自然に生じる。
• 異なる事前確率を持つエージェントが、計算に制限を受ける推論を用いて同じ証拠を処理すると、信念の極端化が生じ、結論が分かれることをモデル化できる。
• ステータス・クォ・バイアスは、既存の計算から新しい計算に切り替える際にコストが発生するため生じる。その結果、行動を取らないことがより魅力的になる。
• 計算情報の価値は、改善された計算ツールを入手したときの期待効用の増加として定義され、実際の計算の高速化の価値によって上限づけられる。
• ゼロ知識証明システムにおいて、証明に参加する価値は、定理3.6で形式化されているように、対応する計算の高速化の価値を超えない。
• この枠組みにより、「不可能なあり得る世界」をモデル化できる。たとえば、数学的に素数であるにもかかわらず、数が素数でないと信じるような状況は、計算の不確実性を意思決定モデルの一部として扱うことで可能になる。