[論文レビュー] A Topological Approach to Meta-heuristics: Analytical Results on the BFS vs. DFS Algorithm Selection Problem

Tom Everitt, Marcus Hütter|arXiv (Cornell University)|Sep 9, 2015

Constraint Satisfaction and Optimization参考文献 38被引用数 3

ひとこと要約

本稿では、木探索およびグラフ探索問題におけるBFSおよびDFSの期待実行時間を解析的に推定するための位相的かつ確率的枠組みを提示する。ゴールの分布をレベルごとにモデル化し、分岐率と経路の重複を組み込むことで、平均探索時間の閉形式近似を導出する。これにより、強い実証的妥当性を伴って、アルゴリズムおよび表現の選択を情報に基づいて行えるようになる。

ABSTRACT

Search is a central problem in artificial intelligence, and breadth-first search (BFS) and depth-first search (DFS) are the two most fundamental ways to search. In this paper we derive estimates for average BFS and DFS runtime. The average runtime estimates can be used to allocate resources or judge the hardness of a problem. They can also be used for selecting the best graph representation, and for selecting the faster algorithm out of BFS and DFS. They may also form the basis for an analysis of more advanced search methods. The paper treats both tree search and graph search. For tree search, we employ a probabilistic model of goal distribution; for graph search, the analysis depends on an additional statistic of path redundancy and average branching factor. As an application, we use the results to predict BFS and DFS runtime on two concrete grammar problems and on the N-puzzle. Experimental verification shows that our analytical approximations come close to empirical reality.

研究の動機と目的

• 探索問題におけるBFSおよびDFSの期待実行時間の解析的推定を開発すること。
• 実行時間の予測を用いて、データ駆動型のアルゴリズムおよびグラフ表現の選択を可能にすること。
• ゴール分布の確率的モデルを用いて、最悪計算量分析から平均計算量パフォーマンスへの拡張を行うこと。
• 探索アルゴリズム選択におけるメタヒューリスティクスの理論的基盤を提供すること。
• 文法問題およびNパズルにおける実験的結果と照らし合わせて、解析的近似の妥当性を検証すること。

提案手法

• 木のレベルにおける確率的ベクトルを用いてゴールの分布をモデル化し、BFSおよびDFSの期待実行時間推定を可能にする。
• グラフ探索における経路の重複と構造的性質を捉えるために、長さ対深さカウンタ L を導入する。
• 確率的ゴールレベルを用いて、木探索における平均BFSおよびDFS実行時間の閉形式近似を導出する。
• 分岐率とLカウンタを組み合わせることで、経路の重複を考慮したグラフ探索への一般化を行う。
• 分岐率やゴール確率などのグラフパラメータについて、実証的推定手法を用いる。
• gレベルの分岐率と一般化されたバックトラッキングを考慮することで、ヒューリスティック探索への枠組みの拡張を行う。

実験結果

リサーチクエスチョン

• RQ1 確率的ゴール分布を伴う木探索において、BFSおよびDFSの期待実行時間はどのように解析的に推定できるか？
• RQ2 深さと分岐率を超えた、どのようなグラフ構造的性質がBFSおよびDFSの平均実行時間に影響を与えるか？
• RQ3 経路の重複とゴール分布は、BFSおよびDFSの相対的パフォーマンスにどのように影響を与えるか？
• RQ4 解析的実行時間推定は、Nパズルや文法問題といった実世界の問題における実効的パフォーマンスを予測できるか？
• RQ5 この枠組みは、ヒューリスティックDFSやA*のようなヒューリスティック探索手法にどのように適応できるか？

主な発見

• 本稿では、ゴール確率ベクトルと分岐率に基づき、木探索における期待BFSおよびDFS実行時間の閉形式解析的近似を導出している。
• グラフ探索では、経路の重複をモデル化するための長さ対深さカウンタ L を導入し、境界を伴う実行時間推定を可能にしている。
• 文法問題およびNパズルにおける実証的検証により、解析的推定と実際の実行時間の間で強い一致が確認された。
• 期待実行時間の推定は、常に 2^{D+1} であるという最悪計算量の境界よりもはるかに情報量が多く、有用である。
• 本モデルにより、BFSとDFSの間のパフォーマンス差を予測することで、実用的なアルゴリズム選択とグラフ表現の選択が可能になる。
• 本枠組みは、ヒューリスティック探索への分析拡張、特にヒューリスティックDFSにおける一般化されたバックトラッキングの理論的基盤を提供する。