[論文レビュー] Large-Scale Multi-Label Learning with Incomplete Label Assignments

Xiangnan Kong, Zhaoming Wu+5 more|arXiv (Cornell University)|Jul 6, 2014

Text and Document Classification Technologies参考文献 11被引用数 14

ひとこと要約

本稿では、正例・不正例（PU）確率的勾配降下法とスタックドモデルを用いて、不完全なラベル割り当てとラベル相関を同時にモデル化することで、スケーラブルなマルチラベル学習手法であるMPUを提案する。線形時間計算量を達成し、M3L や Well などのベースラインと比較して、特にラベル欠落率が高い状況でも顕著に優れた性能を発揮する。

ABSTRACT

Multi-label learning deals with the classification problems where each instance can be assigned with multiple labels simultaneously. Conventional multi-label learning approaches mainly focus on exploiting label correlations. It is usually assumed, explicitly or implicitly, that the label sets for training instances are fully labeled without any missing labels. However, in many real-world multi-label datasets, the label assignments for training instances can be incomplete. Some ground-truth labels can be missed by the labeler from the label set. This problem is especially typical when the number instances is very large, and the labeling cost is very high, which makes it almost impossible to get a fully labeled training set. In this paper, we study the problem of large-scale multi-label learning with incomplete label assignments. We propose an approach, called MPU, based upon positive and unlabeled stochastic gradient descent and stacked models. Unlike prior works, our method can effectively and efficiently consider missing labels and label correlations simultaneously, and is very scalable, that has linear time complexities over the size of the data. Extensive experiments on two real-world multi-label datasets show that our MPU model consistently outperform other commonly-used baselines.

研究の動機と目的

• 高コストなラベル付けによるラベルの欠落が生じる大規模マルチラベル学習の課題に対処すること。
• 従来のマルチラベル手法が未ラベル付けラベルをネガティブとみなすという制限を克服すること。
• 欠落ラベルとラベル相関の両方を同時に明示的にモデル化するスケーラブルな解決策を開発すること。
• インスタンス数およびクラス数の両方において線形時間計算量を達成し、非常に大規模なデータセットを効率的に処理すること。
• 不完全なアノテーションを伴う実世界のマルチラベルデータセットにおける分類性能を向上させること。

提案手法

• MPUは、未ラベル付けラベルを潜在的にポジティブとみなすことにより、ラベル欠落を正例・不正例（PU）確率的勾配降下法で処理する。
• 複数のラベル間の依存関係を学習するスタックドモデルアーキテクチャを用いて、ラベル相関を統合する。
• ラベル集合を確率的出力としてモデル化し、欠落ラベルをネガティブと仮定するのではなく、PU学習の原則に従って推定する。
• MPUは線形時間最適化戦略を採用しており、インスタンス数およびクラス数の両方が多い大規模データセットへのスケーラビリティを実現する。
• スタックドモデルフレームワークにより、ラベル間の相関を活用しながら複数ラベルの同時予測が可能となる。
• 交差検証を用いて欠落ラベル率を推定し、不完全なアノテーションによるバイアスを低減するための学習プロセスを調整する。

実験結果

リサーチクエスチョン

• RQ1 高コストなラベル付けによるラベル欠落が生じる状況下で、どのようにしてマルチラベル学習を効果的に行えるか？
• RQ2 大規模マルチラベルデータセットにおいて、ラベル欠落が生じる状況下で、ラベル相関はどの程度性能向上に寄与するか？
• RQ3 欠落ラベルとラベル相関の両方を同時に処理しつつ、線形時間計算量を維持できる手法を設計できるか？
• RQ4 提案手法は、大規模な実世界のデータセットにおいて、既存のベースラインと比較して精度とスケーラビリティの面でどのように差をつけるか？
• RQ5 ラベル欠落率を変化させた場合、不完全なラベルを伴うマルチラベル学習モデルの性能にどのような影響が生じるか？

主な発見

• MPUは、M3L や Well などのベースライン手法と比較して、小規模および大規模な実世界のマルチラベルデータセットにおいて一貫して優れた性能を発揮する。特にラベル欠落率が30％を超える状況で顕著な優位性を示す。
• MPUはインスタンス数およびクラス数の両方において線形時間計算量を達成しており、大規模データセットへのスケーラビリティを実現している。
• 実験により、MPUは欠落ラベルとラベル相関を明示的にモデル化することで、マルチラベル分類性能を顕著に向上させていることが示された。
• トレーニング時間の結果から、MPUとM3Lは大規模データセットにうまくスケーリングできるが、Well などの手法は $O(n^2)$ の計算量のため、大規模データセットでは非現実的になる。
• MPUの性能向上は、特にラベル欠落率が高い状況で顕著であり、PU学習と相関モデリング戦略の有効性が裏付けられた。
• ラベル欠落率が30％を超えると、MPUはM3Lよりも優れた性能を発揮しており、不完全なラベル割り当ての処理能力に優れていることが示された。