[論文レビュー] Task-agnostic Indexes for Deep Learning-based Queries over Unstructured Data.

Daniel Kang, John Guibas+3 more|arXiv (Cornell University)|Sep 9, 2020

Advanced Image and Video Retrieval Techniques参考文献 41被引用数 8

ひとこと要約

本稿では、ターゲットDNNが誘導するスキーマを用いて、非構造化データから再利用可能でクエリに依存しない埋め込みを生成する、タスクに依存しない意味的トレーニング可能インデックス（TASTI）を提案する。これらの埋め込みをクラスタリングすることで、クエリごとのプロキシモデルのトレーニングなしに多様なクエリに対する効率的なクエリ処理を可能にし、従来のプロキシモデル手法と比較して最大24倍の高速化と10倍の低コストな構築を達成する。

ABSTRACT

Unstructured data is now commonly queried by using target deep neural networks (DNNs) to produce structured information, e.g., object types and positions in video. As these target DNNs can be computationally expensive, recent work uses proxy models to produce query-specific proxy scores. These proxy scores are then used in downstream query processing algorithms for improved query execution speeds. Unfortunately, proxy models are often trained per-query, require large amounts of training data from the target DNN, and new training methods per query type. In this work, we develop an index construction method (task-agnostic semantic trainable index, TASTI) that produces reusable embeddings that can be used to generate proxy scores for a wide range of queries, removing the need for query-specific proxies. We observe that many queries over the same dataset only require access to the schema induced by the target DNN. For example, an aggregation query counting the number of cars and a selection query selecting frames of cars require only the object types per frame of video. To leverage this opportunity, TASTI produces embeddings per record that have the key property that close embeddings have similar extracted attributes under the induced schema. Given this property, we show that clustering by embeddings can be used to answer downstream queries efficiently. We theoretically analyze TASTI and show that low training error guarantees downstream query accuracy for a natural class of queries. We evaluate TASTI on four video and text datasets, and three query types. We show that TASTI can be 10x less expensive to construct than proxy models and can outperform them by up to 24x at query time.

研究の動機と目的

• 非構造化データのディープラーニングベースのクエリ処理において、クエリ固有のプロキシモデルの必要性を排除すること。
• クエリごとにトレーニングされる従来のプロキシモデルが直面する高いトレーニングコストとデータ要件を解決すること。
• ターゲットDNNから得られる意味的構造を捉える再利用可能なインデックスを開発すること。
• スキーマ関連の属性を保持するように学習された埋め込みのクラスタリングにより、効率的なクエリ処理を可能にすること。
• 低トレーニング誤差に基づく自然なクエリクラスにおいて、クエリの正確性を理論的に保証すること。

提案手法

• TASTIは、ターゲットDNNの特徴空間を用いて、非構造化データレコードのための1つの共有埋め込み関数を学習する。
• 意味的に類似したレコード（DNNが抽出した属性の観点から）が近いベクトル表現を持つように、埋め込みをトレーニングする。
• この手法は、ターゲットDNNが誘導するスキーマ——例えば動画フレーム内のオブジェクトタイプや位置——を用いて、関連する意味的構造を定義する。
• 学習済み埋め込みに対してクラスタリングを適用し、類似した属性を持つレコードをグループ化することで、効率的なクエリ処理を実現する。
• 誘導されたスキーマに基づいて属性を共有するレコードの埋め込み同士の近接性を強制するために、対照的損失（contrastive loss）をトレーニング中に用いる。
• 再トレーニングなしに、選択、集計、範囲クエリの複数のクエリタイプに対してインデックスを再利用可能である。

実験結果

リサーチクエスチョン

• RQ1 クエリ固有のプロキシモデルを用いずに、多様なクエリを非構造化データ上でサポートできる、1つの再利用可能な埋め込みインデックスを構築できるか？
• RQ2 学習済み埋め込みの品質が、下流のクエリの正確性と効率にどのように影響するか？
• RQ3 クエリ固有のプロキシモデルをトレーニングするのと比較して、インデックス構築コストを著しく低減できるか？
• RQ4 埋め込みのクラスタリングが、クエリ処理パイプラインにおけるクエリ固有のプロキシ推論をどの程度代替できるか？
• RQ5 埋め込みトレーニング誤差に基づいて、クエリ正確性に関する理論的保証を提供できるか？

主な発見

• TASTIは、クエリ固有のプロキシモデルをトレーニングするのと比較して、インデックス構築コストを最大10倍まで低減する。
• TASTIは、同じワークロード上で、プロキシモデルベースの手法と比較して、最大24倍の高速なクエリ実行を達成する。
• 低埋め込みトレーニング誤差と下流クエリの正しさの間の理論的保証を維持する高精度なクエリ処理を実現する。
• TASTIは、4つの動画およびテキストデータセットと3つのクエリタイプにおいて一貫したパフォーマンス向上を示す。
• TASTIの埋め込みに対するクラスタリングにより、再トレーニングなしに選択、集計、範囲クエリの効率的処理が可能である。
• 埋め込みがクエリ固有の適応なしにスキーマ関連の属性を捉えるため、本手法はクエリの多様性に対して頑健である。