[論文レビュー] Multi-label Learning with Missing Labels using Mixed Dependency Graphs

Baoyuan Wu, Fan Jia+3 more|arXiv (Cornell University)|Mar 31, 2018

Text and Document Classification Technologies参考文献 44被引用数 5

ひとこと要約

本稿では、インスタンスレベルの類似度、意味的ラベル階層、クラスの共起性、低ランク／スパースラベル行列分解を統合する混合依存グラフを用いて、欠損ラベルを伴うマルチラベル学習のための2つの凸最適化フレームワーク、MLMG-COおよびMLMG-SLを提案する。これらの手法は、ベンチマークデータセットにおける画像アノテーションおよびタグベース画像検索において最先端の性能を達成し、構造的なラベル依存性のモデル化により、ラベルのスパarsityに対して高いロバスト性を示す。

ABSTRACT

This work focuses on the problem of multi-label learning with missing labels (MLML), which aims to label each test instance with multiple class labels given training instances that have an incomplete/partial set of these labels. The key point to handle missing labels is propagating the label information from provided labels to missing labels, through a dependency graph that each label of each instance is treated as a node. We build this graph by utilizing different types of label dependencies. Specifically, the instance-level similarity is served as undirected edges to connect the label nodes across different instances and the semantic label hierarchy is used as directed edges to connect different classes. This base graph is referred to as the mixed dependency graph, as it includes both undirected and directed edges. Furthermore, we present another two types of label dependencies to connect the label nodes across different classes. One is the class co-occurrence, which is also encoded as undirected edges. Combining with the base graph, we obtain a new mixed graph, called MG-CO (mixed graph with co-occurrence). The other is the sparse and low rank decomposition of the whole label matrix, to embed high-order dependencies over all labels. Combining with the base graph, the new mixed graph is called as MG-SL (mixed graph with sparse and low rank decomposition). Based on MG-CO and MG-SL, we propose two convex transductive formulations of the MLML problem, denoted as MLMG-CO and MLMG-SL, respectively. Two important applications, including image annotation and tag based image retrieval, can be jointly handled using our proposed methods. Experiments on benchmark datasets show that our methods give significant improvements in performance and robustness to missing labels over the state-of-the-art methods.

研究の動機と目的

• 訓練インスタンスに不完全または欠損したラベルが存在する場合のマルチラベル学習の課題に対処すること。
• 一貫したグラフフレームワーク内に、インスタンス類似度、意味的階層、クラス共起性、および高次元ラベル構造といった、多様なラベル依存性をモデル化すること。
• 画像アノテーションとタグベース画像検索の両方を統合的に最適化する凸最適化定式化を構築すること。
• 構造的なラベル依存性を活用することで、ラベル供給が少ない状況下でのロバスト性と性能を向上させること。
• 公開利用可能な手動で整備された意味的階層および意味的に拡張された真値ラベル行列を提供すること。

提案手法

• インスタンスレベルの類似度とクラス共起性から得られる無向エッジと、意味的ラベル階層から得られる有向エッジを統合して、混合依存グラフ（MG-CO）を構築する。
• クラス共起性の代わりに、完全なラベル行列のスパースかつ低ランク分解を用いることで、高次元ラベル依存性をモデル化するMG-SLを導入する。
• インスタンス類似度とクラス共起性のための二次的スムージング項と、意味的階層のための線形制約を備えた凸最適化問題としてMLMG-COを提案する。
• 2つの補助行列と元のラベル行列への同値制約を導入することで、スパースかつ低ランク行列分解を最適化に組み込むことにより、MLMG-SLを構築する。
• 両凸定式化を効率的に解くためにADMMアルゴリズムを採用し、スケーラビリティと収束性を確保する。
• 最適化問題のベクトル化再定式化を用いて、凸性の証明とアルゴリズムの安定性を実現する。

実験結果

リサーチクエスチョン

• RQ1 インスタンス類似度、意味的階層、クラス共起性、低ランク構造といった複数のタイプのラベル依存性を統合することで、欠損ラベルを伴うマルチラベル学習の性能が向上するか？
• RQ2 ラベル行列のスパースかつ低ランク分解を組み込むことで、高次元ラベル関係のモデル化がどのように向上するか？
• RQ3 統一フレームワークにより、ラベルスパarsity下でも画像アノテーションとタグベース画像検索の両方を同時に最適化できるか？
• RQ4 ラベルが部分的に欠損している状況において、提案手法が最先端の手法を上回る正確性とロバスト性を示すか？
• RQ5 手動で整備された意味的階層を用いることで、共起性や類似度のみを用いる場合と比較して、性能がどの程度向上するか？

主な発見

• 提案手法であるMLMG-COおよびMLMG-SLは、欠損ラベルを伴うマルチラベル学習の4つのベンチマークデータセットにおいて、最先端の手法を顕著に上回る性能を達成した。
• 意味的ラベル階層とクラス共起性の統合により、高次元のラベルスパarsity下でもよりロバストな予測が可能になった。
• MLMG-SLにおけるスパースかつ低ランク分解は、高次元ラベル依存性を効果的に捉え、不完全なデータ上での一般化性能を向上させた。
• 両手法とも、共有ラベル表現を用いた二重タスク学習を可能にするため、画像アノテーションとタグベース画像検索の両方を統合的にサポートする。
• 両手法は、ラベルが欠損している状況でも高い性能を維持する強力なロバスト性を示した。
• 手動で生成された意味的階層および意味的に拡張された真値ラベル行列の公開は、将来的なマルチラベル学習分野の研究に貢献することが期待される。