[論文レビュー] The Metrics Matter! On the Incompatibility of Different Flavors of Replanning

Kartik Talamadupula, David E. Smith+1 more|arXiv (Cornell University)|May 12, 2014

AI-based Problem Solving and Planning参考文献 15被引用数 3

ひとこと要約

この論文は、AIにおける再計画を単なる技術ではなく、別個の問題として扱うべきだと主張し、統一的コンパイルフレームワークを通じて、再計画の3つの主要なアプローチ—再起動からの再計画、類似性を保全するアプローチ、コミットメントに敏感なアプローチ—が根本的に異なる指標を最適化しており、互換性がないことを示している。実験的評価では、速度、計画類似度、コミットメント満足度といった指標において、どの手法も他を代替して信頼性を持って機能しないことが判明した。

ABSTRACT

When autonomous agents are executing in the real world, the state of the world as well as the objectives of the agent may change from the agent's original model. In such cases, the agent's planning process must modify the plan under execution to make it amenable to the new conditions, and to resume execution. This brings up the replanning problem, and the various techniques that have been proposed to solve it. In all, three main techniques -- based on three different metrics -- have been proposed in prior automated planning work. An open question is whether these metrics are interchangeable; answering this requires a normalized comparison of the various replanning quality metrics. In this paper, we show that it is possible to support such a comparison by compiling all the respective techniques into a single substrate. Using this novel compilation, we demonstrate that these different metrics are not interchangeable, and that they are not good surrogates for each other. Thus we focus attention on the incompatibility of the various replanning flavors with each other, founded in the differences between the metrics that they respectively seek to optimize.

研究の動機と目的

• 再計画を単なる技術ではなく、過去の計画に由来する制約に基づいた別個の問題として再定式化すること。
• 計算効率、計画安定性、コミットメント感受性に基づく異なる再計画戦略が、互いに代替可能かどうかという未解決の問いに応えること。
• これらの多様な再計画アプローチを公平に、正規化された形で比較可能な統一された基盤を構築すること。
• 実験的に、実行時間、計画類似度、他エージェント間のコミットメント保持の3つの主要指標において、各手法の有効性を評価すること。

提案手法

• 部分的満足度技術を用いて、再起動からの再計画、類似性を保全する、コミットメントに敏感な再計画という3つの再計画戦略を、1つの共通の計画基盤にコンパイルする。
• 元の計画が課す制約を統一的計画フレームワークの一部としてモデル化し、異なる指標間での直接比較を可能にする。
• 最新鋭のプランナ（Fast Downward）を用い、仮想マシン環境（Windows Azure A7クラスタ）を活用して、同一条件下での性能評価を実施する。
• 計画時間（対数スケール）、計画サイズ（アクション数）、元の計画とのセット差分および対称差分による計画類似度という3つの主要指標を測定・比較する。
• 元の計画のアクションシーケンスから導出された他エージェント間のコミットメントを基に、コミットメント違反を評価する。
• 1インスタンスあたり90分のタイムアウトを設定し、タイムアウトしたケースは指標分析の対象外とすることで、公平な比較を確保する。

実験結果

リサーチクエスチョン

• RQ1 計算効率に最適化された再計画手法が、計画類似度に最適化された手法の代替としてどれほど有効に機能するか。
• RQ2 類似性を保全する再計画戦略は、他エージェント間のコミットメント違反を効果的に最小化できるか。逆に、コミットメント感受性に最適化された手法は、類似性を保全する戦略の代替として有効か。
• RQ3 速度、計画類似度、コミットメント満足度という3つの異なる指標は、どのように相互作用し、異なる再計画戦略において互換性があるか。
• RQ4 異なる最適化目標を想定した場合に、さまざまな再計画手法の性能を公平に評価・比較できる統一されたフレームワークが存在するか。

主な発見

• 再起動からの再計画は、類似性を保全する手法やコミットメントに敏感な手法よりも著しく高速であり、特に小規模なインスタンスでは実行時間が桁違いに短い。
• 類似性を保全する手法は、元の計画とのセット差分および対称差分を最小化する点で、常に他の2つを上回り、計画安定性の観点から有効であることが確認された。
• 類似性を保全する手法は平均的に最も多くの他エージェント間のコミットメント違反を引き起こしており、コミットメント感受性最適化の代替として不適切であることが示された。
• 再起動からの再計画は、元の計画と同等の長さの計画を生成するため、類似性を保全する手法における計算時間の増加の主な要因は計画長ではないことが示唆された。
• コミットメントに敏感な手法は、他エージェント間のコミットメント違反を最小化する点で最も優れており、しかし速度および計画類似度の点では類似性を保全する手法に劣っていた。
• どの1つの再計画戦略も3つの指標すべてで優れた性能を発揮しておらず、最適化目的が異なることから、3つの再計画のアプローチは根本的に互換性がないことが示された。