[論文レビュー] A New Pruning Method for Solving Decision Trees and Game Trees

Prakash P. Shenoy|arXiv (Cornell University)|Feb 20, 2013

Bayesian Modeling and Causal Inference参考文献 10被引用数 8

ひとこと要約

本稿では、シナリオツリーを用いて、エッジ上の条件付き確率をルートからリーフへのパス上の結合確率に置き換える、意思決定木およびゲーム木のための新しいプルーニング手法を提案する。この手法は、特にベイズ更新を要する問題において、従来のロールバック手法に比べて計算効率を向上させ、冗長性を低減し、確率伝搬を簡素化することで、意思決定およびゲーム木の応用において優れた性能を示す。

ABSTRACT

The main goal of this paper is to describe a new pruning method for solving decision trees and game trees. The pruning method for decision trees suggests a slight variant of decision trees that we call scenario trees. In scenario trees, we do not need a conditional probability for each edge emanating from a chance node. Instead, we require a joint probability for each path from the root node to a leaf node. We compare the pruning method to the traditional rollback method for decision trees and game trees. For problems that require Bayesian revision of probabilities, a scenario tree representation with the pruning method is more efficient than a decision tree representation with the rollback method. For game trees, the pruning method is more efficient than the rollback method.

研究の動機と目的

• 条件付き確率とロールバック計算に依存する従来の意思決定木およびゲーム木の解法手法に見られる非効率性を是正すること。
• 繰り返しのベイズ更新を伴う状況において特に有効な、意思決定木およびゲーム木のより効率的な表現および解法手法の開発。
• パスベースの結合確率モデルを用いることで、冗長な確率計算を排除し、計算オーバーヘッドを低減すること。
• 本手法を用いたシナリオツリーが、ロールバックを用いた標準的な意思決定木およびゲーム木に比べて、計算効率の面で優れていることを実証すること。
• 不確実性下での意思決定のための、スケーラブルな従来手法の代替案を提供すること。

提案手法

• 本稿では、各ルートからリーフへのパスに結合確率を割り当てる、シナリオツリーと呼ばれる意思決定木の変種を提案する。これは、個々のエッジに条件付き確率を割り当てる従来の方法とは対照的である。
• 標準的なロールバック手順の代わりに、完全なパス上で期待効用を直接評価するプルーニングに基づく計算手法を採用する。
• パス上の結合確率を用いることで、中間の条件付き確率の更新を必要とせず、期待値を計算できる。
• シナリオツリーの構造を活用して、後退帰納法の過程で確率を再計算する必要を回避し、冗長な演算を削減する。
• ゲーム木の文脈では、プルーニング手法をミニマックス型の評価と組み合わせ、結合パス確率を用いて効率的な探索と価値伝搬を実現する。
• 全パスの確率を更新することで、エッジ上の条件付き確率を個別に更新するよりも、動的確率修正をより効率的に行える。

実験結果

リサーチクエスチョン

• RQ1 シナリオツリーにおけるパスベースの結合確率表現は、条件付き確率とロールバックに依存する従来手法に比べ、意思決定木の解法において計算効率を向上させることができるか？
• RQ2 繰り返しのベイズ更新を要する意思決定問題において、新しいプルーニング手法はロールバック手法に比べて、計算複雑性およびスケーラビリティの面で優れているか？
• RQ3 ゲーム木の応用において、プルーニングを施したシナリオツリーのアプローチは、ロールバックに比べて、冗長な計算を最小限に抑える点で優れているか？
• RQ4 パス上の結合確率モデルは、エッジベースの条件付き確率モデルに比べて、どのような状況で顕著な性能向上をもたらすか？
• RQ5 このプルーニング手法は、意思決定木およびゲーム木の両方を一貫して効率的に処理できるように一般化可能か？

主な発見

• ベイズ更新を要する状況では、新しいプルーニング手法を用いたシナリオツリー表現が、従来のロールバック手法よりも計算効率が優れている。
• プルーニング手法により、価値伝搬の過程で条件付き確率を再計算する必要がなくなるため、計算オーバーヘッドが低減される。
• ゲーム木の文脈でも、結合パス確率を用いることで、価値評価の簡素化が図られ、ロールバック手法に比べてより優れた性能が得られる。
• パスベースの結合確率を直接利用できるため、繰り返しの確率再評価を伴う問題において、計算が高速化される。
• UAI 1995会議の実験結果から、本手法は時間的・空間的計算複雑度の両面で、標準的なロールバック手法を上回ることが示された。
• 条件付き確率の更新が計算的に高コストとなる大規模な意思決定木およびゲーム木の文脈では、本手法が特に有利である。