[論文レビュー] Probabilistic Zero-shot Classification with Semantic Rankings

Jihun Hamm, Mikhail Belkin|arXiv (Cornell University)|Feb 27, 2015

Domain Adaptation and Few-Shot Learning参考文献 19被引用数 3

ひとこと要約

本稿では、WordNet や Wikipedia、クラウドソーシングによる評価など、異種の意味的ソースを再訓練なしに統合できる非メトリックで順位ベースの意味的表現を用いた確率的ゼロショット分類フレームワークを提案する。確率的モデル（Mallows および Plackett-Luce）を用いて意味的順位をモデル化することで、最先端のゼロショット精度を達成し、クラウドソーシングによる順位を用いた場合、Animals で 0.395、CIFAR-100 で 0.339 の精度を達成。決定的および直接類似度ベースのベースラインを上回る性能を示した。

ABSTRACT

In this paper we propose a non-metric ranking-based representation of semantic similarity that allows natural aggregation of semantic information from multiple heterogeneous sources. We apply the ranking-based representation to zero-shot learning problems, and present deterministic and probabilistic zero-shot classifiers which can be built from pre-trained classifiers without retraining. We demonstrate their the advantages on two large real-world image datasets. In particular, we show that aggregating different sources of semantic information, including crowd-sourcing, leads to more accurate classification.

研究の動機と目的

• 異なるソースから得られる数値的類似度測定値が直接比較できないという課題に対処すること。これは、ゼロショット学習における非一様な意味的類似度ソースの統合を目的としている。
• メトリックベースの類似度値の代わりに順序（順位ベース）の意味的表現を活用することで、ゼロショット分類の精度を向上させること。
• 未知のクラスに対して事前学習済み分類器を再訓練なしに再利用可能にするため、その決定境界を未知クラスの意味的順位と一致させること。
• 特にクラウドソーシングデータを含む多様なソースからの意味的順位の確率的モデリングが、より強固で正確なゼロショット予測をもたらすことを示すこと。

提案手法

• クラス間の意味的類似度を数値的距離ではなく順位順序（例：「ネコは自動車よりも馬に近い」）として表現することで、単調変換やスケーリングに対して不変となるようにする。
• Mallows および Plackett-Luce モデルといった確率的順位モデルを用い、複数の異種ソースに基づいて、特定のクラスの意味的順位の尤度を推定する。
• 事前学習済みモデル（例：ワン・バイス・ワン、ワン・バイス・レスト、マルチクラス）の予測順位と、未知クラスの学習済み意味的順位を比較することで、ゼロショット分類器を構築する。
• WordNet、Wikipedia、Google N-gram、語彙埋め込み、クラウドソーシングなど複数のソースからの意味的情報を、それらの集団的順位分布をモデル化することで統合する。
• 既知クラスの保持済み意味的順位を用いて確率的順位モデルを学習し、その後、最大事後確率（MAP）推定を用いて未知のテストサンプルを分類する。
• 大規模な画像データセット（Animals および CIFAR-100）を用いて評価し、一般化性能および頑健性を検証する。

実験結果

リサーチクエスチョン

• RQ1 メトリックベースの類似度集約と比較して、順位ベースの意味的表現がゼロショット分類精度を向上させるか？
• RQ2 異種のソース（例：WordNet、Wikipedia、クラウドソーシング）からの意味的順位の確率的モデリングは、数値的類似度のヒューリスティック平均化と比較して、より良い一般化性能をもたらすか？
• RQ3 事前学習済み分類器を再訓練なしに、意味的順位のみを用いて未知クラスのゼロショット分類に再利用可能か？
• RQ4 提案手法の性能は、最先端の属性ベースおよび埋め込みベースのゼロショット学習手法と比較してどうか？

主な発見

• 確率的順位（PR）手法は、クラウドソーシングによる意味的順位を用いた場合、Animals データセットで 0.395 のゼロショット分類精度を達成し、言語的ソースを用いた次善の手法（0.370）を上回った。
• CIFAR-100 では、言語的ソースを用いた PR 手法が 0.339 の精度を達成し、決定的順位（0.281）および直接類似度（0.316）ベースラインを顕著に上回った。
• PR 手法は、『ネコ』と『トラック』、『 deer 』と『船』を区別するような二値ゼロショットタスクにおいて、95% の精度を達成した。これらのクラスにはトレーニング画像が一切存在しなかった。
• Mallows モデルは Animals データセットで K=2/5/10 の各条件下で 0.91/0.99/0.99 の精度を示し、Plackett-Luce モデルは 0.79/0.84/0.96 の精度を示した。これは、異なる順位集約戦略においても強力な性能を発揮していることを示している。
• クラウドソーシングによる意味的順位は Animals データセットでは性能向上をもたらした（0.395）、一方 CIFAR データセットでは性能が低下した（0.339）。これは、100 クラスの分類において信頼性が低い可能性があるためと推測される。
• 手動による属性アノテーションを必要とせず、最先端の埋め込みベースおよび属性ベースのアプローチを上回る精度を達成した。