[論文レビュー] A Comprehensive Survey on Cross-modal Retrieval

Kaiye Wang, Qiyue Yin+3 more|arXiv (Cornell University)|Jul 21, 2016

Advanced Image and Video Retrieval Techniques参考文献 4被引用数 224

ひとこと要約

この調査は、クロスモーダル検索手法を実数表現と二値表現に分類し、教師なし/ペアワイズ/ランクベース/教師ありアプローチをレビューし、データセットと実験結果を要約し、未解決の問題と今後の方向性を概説する。

ABSTRACT

In recent years, cross-modal retrieval has drawn much attention due to the rapid growth of multimodal data. It takes one type of data as the query to retrieve relevant data of another type. For example, a user can use a text to retrieve relevant pictures or videos. Since the query and its retrieved results can be of different modalities, how to measure the content similarity between different modalities of data remains a challenge. Various methods have been proposed to deal with such a problem. In this paper, we first review a number of representative methods for cross-modal retrieval and classify them into two main groups: 1) real-valued representation learning, and 2) binary representation learning. Real-valued representation learning methods aim to learn real-valued common representations for different modalities of data. To speed up the cross-modal retrieval, a number of binary representation learning methods are proposed to map different modalities of data into a common Hamming space. Then, we introduce several multimodal datasets in the community, and show the experimental results on two commonly used multimodal datasets. The comparison reveals the characteristic of different kinds of cross-modal retrieval methods, which is expected to benefit both practical applications and future research. Finally, we discuss open problems and future research directions.

研究の動機と目的

• クロスモーダル検索研究とその動機について、構造化された概要を提供する。
• 既存の手法を実数値表現学習と二値クロスモーダルハッシュに分類する。
• データセット、実験結果、および今後の研究を導く実践的含意を要約する。
• クロスモーダル検索における未解決の課題と今後の研究方向性について議論する。

提案手法

• クロスモーダル検索手法を、教師なし、ペアワイズベース、ランクベース、教師ありの4カテゴリに分類する。
• 実数値表現学習と二値（ハッシュ）アプローチを区別する。
• 各主要カテゴリの下位カテゴリを調査する（例：サブスペース学習、トピックモデル、ディープラーニング、メトリック学習）。
• 代表的なアルゴリズムと核となるアイデアを提示し、モダリティ間で共通表現をどのように学習するかに焦点を当てて説明する。

実験結果

リサーチクエスチョン

• RQ1 クロスモーダル検索手法の主なカテゴリとサブカテゴリは何か。
• RQ2 教師なし、ペアワイズベース、ランクベース、教師ありアプローチは、クロスモーダル表現の学習においてどのように異なるか。
• RQ3 クロスモーダル検索を評価するために一般的に使用されるデータセットは何か、そしてそれらのデータセットでの実験は何を示しているか。
• RQ4 クロスモーダル検索研究にはまだどのような未解決の問題と今後の方向性が残っているか。

主な発見

• 本論文は実数値表現学習と二値クロスモーダルハッシュを区別する分類法を提供する。
• 教師なし、ペアワイズベース、ランクベース、教師ありの手法を、サブスペース学習、トピックモデル、ディープラーニングの領域で分析している。
• 代表的アルゴリズムを要約し、それらの長所、制限、適用性を論じている。
• マルチモーダルデータセットを紹介し、方法の特性を示すために、2つの一般的に使用されるデータセットで実験結果を報告している。
• クロスモーダル検索における未解決の問題と今後の研究機会について議論している。