[論文レビュー] Quasiconvex analysis of backtracking algorithms

David Eppstein|arXiv (Cornell University)|Jan 11, 2004

Complexity and Algorithms in Graphs参考文献 13被引用数 53

ひとこと要約

この論文は、NP困難問題のバックトラッキングアルゴリズムにおいて一般的な多次元再帰のタイトな漸近的上界を導出するため、重み関数法と準凸プログラミングを組み合わせた手法を提案する。これらの上界が真の解の多項式因子の範囲内にあることを証明し、数値的に保証された精度を持つ複数勾配降下法を実装して、最悪計算時間の上界を計算する。

ABSTRACT

We consider a class of multivariate recurrences frequently arising in the worst case analysis of Davis-Putnam-style exponential time backtracking algorithms for NP-hard problems. We describe a technique for proving asymptotic upper bounds on these recurrences, by using a suitable weight function to reduce the problem to that of solving univariate linear recurrences; show how to use quasiconvex programming to determine the weight function yielding the smallest upper bound; and prove that the resulting upper bounds are within a polynomial factor of the true asymptotics of the recurrence. We develop and implement a multiple-gradient descent algorithm for the resulting quasiconvex programs, using a real-number arithmetic package for guaranteed accuracy of the computed worst case time bounds.

研究の動機と目的

• NP困難問題のデイヴィス・プットナム型バックトラッキングアルゴリズムにおける最悪計算量の解析という課題に対処すること。
• このようなアルゴリズムに生じる複雑な多次元再帰の漸近的上界を体系的に導出する技術を開発すること。
• 重み関数の最適化により再帰の成長に対する上界を最小化すること。
• 計算された上界が真の再帰の漸近的成長率と多項式因子の範囲内にあることを保証すること。
• 実数演算を用いて、最悪ケース時間の上界を正確に計算するための数値的に信頼性のあるアルゴリズムを実装すること。

提案手法

• 重み関数を用いて多次元再帰を単変数線形再帰に変換し、解析を簡略化する。
• 最適な重み関数の選択を、得られる上界を最小化するための準凸プログラミング問題として定式化する。
• 効率的かつ数値的に保証された精度を持つように、準凸プログラムを解くための複数勾配降下法を開発する。
• 計算された最悪ケース時間の上界の正確性を保証するために、全般に実数演算を用いる。
• 複雑な再帰関係の解析の複雑さを、凸最適化問題の解法に還元する。
• 導出された上界が、再帰の真の漸近的成長率と多項式因子の範囲内にあることを保証する。

実験結果

リサーチクエスチョン

• RQ1 バックトラッキングアルゴリズムにおける多次元再帰を、重み関数変換を用いて体系的にどのように上界付けできるか？
• RQ2 再帰の成長に対する可能な限りタイトな上界を得るために、重み関数を選択するための最適化技法は何か？
• RQ3 指数時間アルゴリズムの再帰に対する上界を最小化するために、準凸プログラミングを効果的に適用できるか？
• RQ4 得られた上界は、再帰の真の漸近的成長率とどの程度近いか？
• RQ5 実際の計算において、最悪ケース時間の上界を信頼性と正確性を保って計算するために、どのような数値的手法が有効か？

主な発見

• 提案手法により、重み関数を用いて複雑な多次元再帰が扱いやすい単変数線形再帰に変換される。
• 最適な重み関数は準凸プログラミングを用いて特定され、導出された上界が最小化される。
• 得られた上界は、再帰の真の漸近的成長率と多項式因子の範囲内にある。
• 実数演算を用いた複数勾配降下法により、最悪ケース時間の上界の正確かつ信頼性のある計算が可能になる。
• この手法は、NP困難問題におけるバックトラッキングアルゴリズムの最悪ケース複雑度を分析するための一般的かつ体系的なフレームワークを提供する。
• 理論的なタイトさを保ちつつ、計算の実行可能性と数値的正確性を維持することができる。