[論文レビュー] Multi-Context Label Embedding.

Yaxin Shi, Donna Xu+2 more|arXiv (Cornell University)|May 3, 2018

Domain Adaptation and Few-Shot Learning被引用数 1

ひとこと要約

本稿では、ラベルの階層構造や属性といった複数のラベルコンテキストを、共通変数を用いてコンテキスト間の依存関係を捉えることで、同時にモデル化する行列分解に基づく手法であるMulti-Context Label Embedding（MCLE）を提案する。スパarsity制約を課すことで解釈可能性が向上し、2つの実世界のデータセットにおいてゼロショット画像分類およびラベル記述の分野で最先端の性能を達成した。

ABSTRACT

Label embedding plays an important role in zero-shot learning. Side information such as attributes, semantic text representations, and label hierarchy are commonly used as the label embedding in zero-shot classification tasks. However, the label embedding used in former works considers either only one single context of the label, or multiple contexts without dependency. Therefore, different contexts of the label may not be well aligned in the embedding space to preserve the relatedness between labels, which will result in poor interpretability of the label embedding. In this paper, we propose a Multi-Context Label Embedding (MCLE) approach to incorporate multiple label contexts, e.g., label hierarchy and attributes, within a unified matrix factorization framework. To be specific, we model each single context by a matrix factorization formula and introduce a shared variable to capture the dependency among different contexts. Furthermore, we enforce sparsity constraint on our multi-context framework to strengthen the interpretability of the learned label embedding. Extensive experiments on two real-world datasets demonstrate the superiority of our MCLE in label description and zero-shot image classification.

研究の動機と目的

• 既存のラベル埋め込み手法が単一または独立したコンテキストのみを扱い、それらの間の依存関係をモデル化しないという制限を解消すること。
• 属性や階層的関係といった複数のラベルコンテキストを統合的にモデル化することで、ラベル埋め込みの解釈可能性と整合性を向上させること。
• 埋め込み空間において異なるコンテキスト間でラベルの意味的関連性を保持する統一されたフレームワークを構築すること。
• より意味的に意味のあるかつスパースなラベル表現を用いることで、ゼロショット画像分類の性能を向上させること。

提案手法

• 属性やラベルの階層構造といった各ラベルコンテキストを、個別の行列分解コンponentで定式化する。
• 異なるラベルコンテキスト間の依存関係をモデル化するための共有潜在変数を導入し、埋め込み空間におけるコンテキスト間整合性を実現する。
• 学習済み埋め込みにスパarsity制約を適用することで、解釈可能性を向上させるとともにノイズを低減する。
• すべてのコンponentを同時に学習できるように、交互最適化戦略を用いて統合的目的関数を最適化する。
• 低ランク近似フレームワークを用いることで、マルチコンテキストの意味を保持しつつ、効率的なラベル埋め込み表現を実現する。
• 共有変数がコンテキスト間で意味のある関係を捉えるように保証するための正則化項を導入する。

実験結果

リサーチクエスチョン

• RQ1 複数のラベルコンテキストを統合的にモデル化することで、ゼロショット学習におけるラベル埋め込みの解釈可能性と整合性が向上するか？
• RQ2 属性や階層構造といったラベルコンテキスト間の依存関係を組み込むと、ゼロショット分類性能にどのように影響するか？
• RQ3 ラベル埋め込みにスパarsity制約を課すことで、性能を損なわせずに解釈可能性がどの程度向上するか？
• RQ4 提案されたMCLEフレームワークは、実世界のデータセットにおいて、従来の単一コンテキストまたは独立コンテキストのラベル埋め込み手法を上回るか？

主な発見

• MCLEは、2つの実世界のデータセットにおいて、複数のラベルコンテキストを効果的に統合することで、ゼロショット画像分類で最先端の性能を達成した。
• コンテキスト間の共有依存関係の導入により、意味的に関連するラベルが埋め込み空間でよりよく整合するようになった。
• スパarsity制約により、学習済みラベル埋め込みの解釈可能性が顕著に向上し、顕著な特徴が強調された。
• 実験の結果、MCLEはラベル記述および分類の両タスクにおいて、単一コンテキストおよび非共有マルチコンテキストベースラインを上回った。