[論文レビュー] Learning Optimal Search Algorithms from Data.

Shuchi Chawla, Evangelia Gergatsouli+3 more|arXiv (Cornell University)|Nov 5, 2019

Machine Learning and Algorithms被引用数 4

ひとこと要約

本稿では、未知のコストを持つ非構造的空間において、解のコストと探索時間の合計を最小化する部分的に適応的探索アルゴリズムを学習するデータ駆動型フレームワークを提案する。本稿は、このような戦略がサンプルから効率的に学習可能であり、非適応的および完全に適応的戦略の両方を近似可能であることを示している。特に、後者は計算的に困難である場合でも同様に成り立つ。

ABSTRACT

Classical algorithm design is geared towards worst case instances and fails to exploit structure that may be present in typical instances. Is it possible to learn this structure from examples and exploit it algorithmically? We study this question in the simplest algorithmic context -- search for a cheap solution within an unstructured space. This setting captures, for example, search for a short path to drive to work when only some routes may ever be relevant to consider, or shopping online when there may only be a handful of stores that offer the best prices. We propose a framework for learning optimal search algorithms from data that captures the tradeoff between the cost of the solution and the time to find it. We consider a setting with $n$ alternatives each having an unknown cost that can be revealed one at a time. Given sample access to the distribution of the costs, our goal is to learn an algorithm that minimizes the expected sum of the cost of the chosen alternative and the total time to find it. Algorithms for this problem fall into three different classes, non-adaptive which always query a fixed set of alternatives, partially-adaptive that query alternatives in a fixed order until they decide to stop and fully-adaptive that choose the next query based on the costs they've seen. While approximately optimal fully-adaptive strategies cannot be learned efficiently, our main result is that it is possible to learn a partially-adaptive strategy that approximates the best non-adaptive and partially-adaptive strategies efficiently both in terms of samples and computation. We extend our results to settings where multiple alternatives must be chosen and study the case where any $k$ alternatives are feasible and the case where the alternatives must form a matroid base e.g. picking a minimum cost spanning tree.

研究の動機と目的

• 古典的アルゴリズム設計の限界、すなわち最悪ケース性能に注目し、通常のインスタンスの構造を無視する点を是正する。
• 通常のインスタンスに内在する統計的構造を活用することで、探索効率を向上させる学習ベースのアプローチを設計する。
• 未知のコストを持つ非構造的探索空間において、解のコストと探索時間の期待値の合計を最小化する。
• 最良の非適応的および完全に適応的戦略を近似する部分的に適応的戦略を、効率的に学習する手法を開発する。
• マトロイドに基づく制約（例：最小スパニングツリー）を含む、マルチ・アルタナティブ設定への拡張を図る。

提案手法

• 探索を、代替案のコストが1つずつ順次明らかになる順序的意思決定問題としてモデル化する。
• コスト分布へのサンプルアクセスを用いて、早期停止を伴う固定の照会順序を学習し、部分的に適応的戦略を構築する。
• 候補戦略の集合上で経験的リスク最小化を用いて、解のコストと到達時間のトレードオフを最適化する学習プロセスを採用する。
• 近似的に最適な完全に適応的戦略は、効率的に学習できないことを証明し、部分的に適応的戦略に焦点を当てる正当性を示す。
• サンプル効率の良いアルゴリズムを用いて、最良の非適応的および部分的に適応的方策を近似する戦略を学習する。
• 複数の妥当な代替案を選択する設定、例えばマトロイド基底やk-妥当選択などへの一般化を実現する。

実験結果

リサーチクエスチョン

• RQ1 最悪ケースの仮定ではなく、通常のインスタンスの構造を活用するデータからの探索アルゴリズムを学習可能か？
• RQ2 最良の非適応的および完全に適応的戦略を効率的に近似する部分的に適応的戦略を学習可能か？
• RQ3 このような戦略を、非構造的探索空間で学習する際のサンプルおよび計算複雑度はいかほどか？
• RQ4 学習された部分的に適応的戦略の性能保証は、非適応的および完全に適応的戦略と比べてどの程度か？
• RQ5 マトロイド基底のような組合せ的制約を伴うマルチ・アルタナティブ選択問題へ、このフレームワークを拡張可能か？

主な発見

• 部分的に適応的戦略は、サンプルから効率的に学習可能であり、最適な非適応的および部分的に適応的戦略を近似可能である。
• 近似的に最適な完全に適応的戦略は、効率的に学習できないことが示され、学習可能性における根本的な限界が特定された。
• 提案手法は、解のコストと探索時間の両方をバランスさせる戦略を学習するにあたり、サンプル効率および計算効率を達成している。
• このフレームワークは、任意のk個の代替案が妥当である場合や、代替案がマトロイド基底を形成する場合を含むマルチ・アルタナティブ設定へも成功裏に拡張可能である。
• 観測されたコストに基づいて動的に適応するため、学習済みの戦略は非適応的アプローチを上回り、期待される総コストを改善する。