[論文レビュー] Mini-Bucket Heuristics for Improved Search

Kalev Kask, Rina Dechter|arXiv (Cornell University)|Jan 23, 2013

Machine Learning and Algorithms参考文献 13被引用数 21

ひとこと要約

この論文は、制約推論における探索効率を向上させるためにミニバケツヒューリスティクスを導入し、ミニバケツ除去近似スキームを用いて高品質なヒューリスティクスを生成する。Best-First探索で評価された結果、十分なメモリが利用可能な場合、従来のBranch-and-Boundよりも優れた性能を示し、コーディングおよび医療診断問題において、事前処理コストと探索コストの制御されたトレードオフを実現している。

ABSTRACT

The paper is a second in a series of two papers evaluating the power of a new scheme that generates search heuristics mechanically. The heuristics are extracted from an approximation scheme called mini-bucket elimination that was recently introduced. The first paper introduced the idea and evaluated it within Branch-and-Bound search. In the current paper the idea is further extended and evaluated within Best-First search. The resulting algorithms are compared on coding and medical diagnosis problems, using varying strength of the mini-bucket heuristics. Our results demonstrate an effective search scheme that permits controlled tradeoff between preprocessing (for heuristic generation) and search. Best-first search is shown to outperform Branch-and-Bound, when supplied with good heuristics, and sufficient memory space.

研究の動機と目的

• 近似スキームから自動的に効果的な探索ヒューリスティクスを生成する体系的な手法の開発。
• これらのヒューリスティクスのBest-First探索における性能を評価し、Branch-and-Boundと対比する。
• 実用的推論タスクにおける、ヒューリスティクス生成のための事前処理コストと探索コストのトレードオフの分析。
• コーディングや医療診断などの実世界問題におけるミニバケツヒューリスティクスのスケーラビリティと有効性の評価。
• ミニバケツ除去から得られる高品質なヒューリスティクスが、メモリが十分にある場合に探索作業を顕著に削減できることの実証。

提案手法

• 最適解コストの近似に、ミニバケツ除去アルゴリズムを基盤として用いる。
• ミニバケツ近似から得たヒューリスティクス値を用いて探索を誘導し、特にBest-First探索戦略に適応する。
• 異なるバケツサイズ（すなわち、異なる近似強度）を用いることで、制御された精度のヒューリスティクスを生成する。
• 生成されたヒューリスティクスを用いたBest-First探索により、Branch-and-Boundよりも効率的な探索空間の探索を実現する。
• 異なる近似強度における探索性能を比較し、事前処理コストと探索コストのトレードオフを評価する。
• コーディングおよび医療診断分野の問題インスタンスを用いて、本手法の実証的妥当性を検証する。

実験結果

リサーチクエスチョン

• RQ1 近似スキームを用いて生成されたミニバケツヒューリスティクスは、従来のBranch-and-Boundと比較して、Best-First探索における探索性能を向上させるか。
• RQ2 ミニバケツ近似の強度が、得られるヒューリスティクスの品質および探索効率にどのように影響するか。
• RQ3 ヒューリスティクス生成の計算コストと探索作業の削減との間のトレードオフは何か。
• RQ4 高品質なヒューリスティクスを用いた場合、Best-First探索がBranch-and-Boundを上回る条件は何か。
• RQ5 医療診断やコーディングタスクのような実世界の推論問題において、ミニバケツヒューリスティクスのスケーラビリティと有効性はどの程度か。

主な発見

• 十分なメモリが利用可能で、高品質なヒューリスティクスが使用される場合、ミニバケツヒューリスティクスを用いたBest-First探索はBranch-and-Boundを上回る性能を示す。
• より強いミニバケツ近似を用いることで、より優れたヒューリスティクス品質と削減された探索作業が達成され、事前処理の増加による明確な利点が示された。
• ミニバケツ除去における近似強度を調整することにより、事前処理コストと探索コストの制御されたトレードオフを達成できる。
• 本手法は、問題固有のチューニングを必要とせず、近似を活用して探索を効果的に誘導する。
• コーディングおよび医療診断問題における実証的結果から、ミニバケツヒューリスティクスが探索中に探索されるノード数を顕著に削減することが確認された。
• 多様な問題インスタンスにわたり一貫した性能向上が得られたため、制約推論タスクにおける一般応用性が裏付けられた。