[論文レビュー] SpeedMachines: Anytime Structured Prediction

Alexander Grubb, Daniel Urda+2 more|arXiv (Cornell University)|Dec 2, 2013

Machine Learning and Data Classification参考文献 21被引用数 7

ひとこと要約

本稿では、計算制約下での予測性能を最大化するために、トレーニング時およびテスト時において特徴量計算と推論時間の動的バランスをとる、任意のタイミングで予測を提供する構造的予測フレームワーク「SpeedMachines」を提案する。構造的および特徴量計算のトレードオフをブースティングに基づく学習プロセスに統合することで、コンピュータビジョン分野におけるシーン分類の最先端の正確性を達成するとともに、時間制約が厳しい状況下でも、時間の経過に伴い予測が段階的に向上する。

ABSTRACT

Structured prediction plays a central role in machine learning applications from computational biology to computer vision. These models require significantly more computation than unstructured models, and, in many applications, algorithms may need to make predictions within a computational budget or in an anytime fashion. In this work we propose an anytime technique for learning structured prediction that, at training time, incorporates both structural elements and feature computation trade-offs that affect test-time inference. We apply our technique to the challenging problem of scene understanding in computer vision and demonstrate efficient and anytime predictions that gradually improve towards state-of-the-art classification performance as the allotted time increases.

研究の動機と目的

• 実世界の応用において、厳密な計算時間制約下での正確な構造的予測を達成する課題に対処すること。
• 時間の割り当てに応じて段階的により良い結果を提供できる、任意のタイミング予測をサポートする学習フレームワークを開発すること。
• トレーニング段階で構造的推論と特徴量計算コストを統合的に最適化することで、テスト時の効率性と正確性を向上させること。
• 複雑な実世界の構造的予測タスク（例：コンピュータビジョンにおけるシーン理解）において、本手法の有効性を示すこと。
• 複数の固定モデルを手動で設計する必要を排除し、あらゆる時間予算で良好に動作する1つの適応的予測器を学習すること。

提案手法

• 本手法は、弱学習器を段階的にアンサンブルに追加するブースティングベースのフレームワークを用い、単位計算コストあたりの性能向上を最大化する学習器を選択する。
• 構造的コスト（例：グラフィカルモデルにおける領域選択）と特徴量計算コスト（例：SIFT、LBP、テクスチャ記述子）を、トレーニングの目的関数に組み込む。
• 特徴量計算は、学習済みのクラスタ中心へのL2距離に基づくソフトコード割り当てを用いて選択的に行い、効率的で選択的な特徴量評価を実現する。
• アルゴリズムは、コスト-パフォーマンスのトレードオフに基づいて、時間の経過に伴い予測を段階的に改善するポリシーに基づく反復的デコード手法を用いる。
• 重要な要素として、ピxls単位の記述子から導出された特徴記述子（例：量子化SIFT、LBP）を用い、基本記述子が事前に計算済みであるか否かに応じてコストが変化する。
• システムは、初期段階で低コストで高いインパクトを与える特徴量および構造的要素を優先し、予測品質を迅速に向上させる。

実験結果

リサーチクエスチョン

• RQ1 時間予算が事前に分かっていない状況下でも、割り当てられた時間が増えるにつれて段階的により良い予測を提供できる構造的予測モデルをトレーニングできるか？
• RQ2 トレーニング段階で、特徴量計算コストと構造的推論コストを同時に最適化することで、時間制約下でのテスト時のパフォーマンスを向上させられるか？
• RQ3 特定の推論時間に最適化された複数の手作業で設計されたモデルよりも、1つの統合的予測器が優れた性能を発揮できるか？
• RQ4 選択的特徴量計算（例：高コスト記述子のスキップ）によって、効率性が向上するが、正確性に悪影響を与えない程度までどの程度まで可能か？
• RQ5 モデルのパフォーマンスは時間の経過とともにどのように変化するか？時間の経過に伴い、最先端の正確性に近づくか？

主な発見

• 提案された任意のタイミング構造的予測器は、SBDおよびCamVidデータセットの両方で、推論時間が延びるにつれて最先端のピxls分類正確性を達成した。
• SBDでは1.63秒、CamVidでは1.42秒の推論時間で、それぞれ85.2％および73.1％の正確性に到達し、従来の単体モデルと同等またはそれを上回った。
• アルゴリズムは、初期段階で最も効率的かつ情報量の多い特徴量を優先する：SHAPE、TXT、I-SIFTが最初に選択され、LBPはコストが低いにもかかわらず性能向上が見込めないためスキップされた。
• 推論時間は徐々に増加：SBDでは0.42秒から1.63秒、CamVidでは0.41秒から1.42秒にまで伸び、反復処理の各段階で分類正確性が一貫して向上した。
• 固定モデルベースラインおよび限定的な特徴量セットで学習されたHIMおよびSIMの変種と比較して、本手法はエンドツーエンドの任意のタイミング学習の利点を示した。
• システムは、特徴量や構造的コンponentsの計算を段階的に選択することで、初期段階でのハードなコミットメントを回避し、初期推論段階でも高品質な予測を実現した。