[論文レビュー] Discriminative k-shot learning using probabilistic models

Matthias Bauer, Mateo Rojas-Carulla+3 more|arXiv (Cornell University)|Jun 1, 2017

Domain Adaptation and Few-Shot Learning参考文献 10被引用数 41

ひとこと要約

本論文は、事前学習された畳み込みニューラルネットワーク（CNN）からの深層特徴表現と、大規模な分類データセットから学習された最終層重みのベイジアン事前分布を組み合わせることで、kショット画像分類のための確率的フレームワークを提案する。元のネットワークのトップ層重みを、事前分布を学習するためのデータとして扱うことで、miniImageNet において先行研究より約6%高い性能を達成し、良好にキャリブレーションされた不確実性推定を提供する。これは、エピソード学習に依存する複雑なディープラーニング手法を上回る。

ABSTRACT

This paper introduces a probabilistic framework for k-shot image classification. The goal is to generalise from an initial large-scale classification task to a separate task comprising new classes and small numbers of examples. The new approach not only leverages the feature-based representation learned by a neural network from the initial task (representational transfer), but also information about the classes (concept transfer). The concept information is encapsulated in a probabilistic model for the final layer weights of the neural network which acts as a prior for probabilistic k-shot learning. We show that even a simple probabilistic model achieves state-of-the-art on a standard k-shot learning dataset by a large margin. Moreover, it is able to accurately model uncertainty, leading to well calibrated classifiers, and is easily extensible and flexible, unlike many recent approaches to k-shot learning.

研究の動機と目的

• これまでに見たクラスからの概念的知識を活用することで、少数ショット画像分類の課題に取り組む。
• 最終層重みの確率的モデルを通じて、クラス構造に関する事前知識を組み込むことで、kショット学習における一般化性能を向上させる。
• 分類器の不確実性のキャリブレーションを改善する。これは、既存のkショット学習手法でしばしば無視されている。
• 強い特徴抽出器と組み合わせた単純な確率的モデルが、複雑なディープラーニングアーキテクチャを上回ることを示す。
• ベイジアン事前分布を介して、表現的転送と概念的転送を効果的に組み合わせることで、少数ショット性能を向上させることを示す。

提案手法

• 本手法は、大規模な分類から得られた表現的転送を活用して、入力画像からの特徴を抽出する事前学習済みの深層CNNを使用する。
• CNNの最終層ソフトマックス重みを確率的変数としてモデル化し、元のデータセットを用いてこれらの重みの確率的事前分布を学習する。
• 事前分布を用いて、kショットクラスの新しい重みの学習をベイジアンな方法で正則化し、推論は最大後確度（MAP）またはマルコフ連鎖モンテカルロ（MCMC）サンプリングにより実行する。
• ガウス事前分布と等方的共分散を用いる場合、このフレームワークはL2正則化付きロジスティック回帰の特殊ケースに還元される。
• ガウス分布、ラプラス分布、およびガウス・ミックス・モデル（GMM）などの異なる事前分布を評価し、ハイパーパrameterは訓練重みにおけるホールドアウト尤度最適化により調整する。
• キャリブレーションは期待キャリブレーション誤差（ECE）を用いて評価され、性能は1-, 5-, 10-ショット設定におけるminiImageNetおよびCIFAR-100で評価される。

実験結果

リサーチクエスチョン

• RQ1 最終層重みの単純な確率的モデルが、表現的転送のみに依存する場合を上回る少数ショット一般化を実現できるか？
• RQ2 事前学習済みクラスからの概念的知識をベイジアン事前分布を通じて統合することで、kショット学習における性能とキャリブレーションが向上するか？
• RQ3 本フレームワークの性能は、複雑なアーキテクチャを用いたエピソード学習に依存する最先端の手法と比べてどうか？
• RQ4 GMMのような複雑な事前分布を使用することで利点が得られるか、それとも等方的ガウス分布のような単純なモデルで十分か？
• RQ5 特徴抽出器の品質が、確率的事前分布と組み合わせた場合に、kショット性能にどの程度影響を与えるか？

主な発見

• 提案手法は、miniImageNet において最先端の性能を達成し、1-および5-ショット学習において、先行研究より約6ポイント高い精度を示した。
• MAP推論を用いた等方的ガウス事前分布が、精度、キャリブレーション、計算効率のバランスが最良であり、GMM やラプラス事前分布よりも優れた性能を示した。
• ラプラス分布およびGMM（10, iso）を除くすべての手法が、低い期待キャリブレーション誤差（ECE）を達成しており、良好にキャリブレーションされた不確実性推定であることを示した。
• MCMCサンプリングによる推論は、キャリブレーションをわずかに向上させるが、著しい計算コストを伴うため、MAP推論に比べて実用的ではない。
• 本フレームワークは、事前学習段階でのバッチ分類精度が高ければ高いほど、少数ショット一般化性能が向上することを示した。これは、優れた性能を達成するにはエピソード学習が必須であるという考えを覆すものである。
• GMMのような混合モデルは、高い容量を有するが、元のクラス数が少なく、重み空間の次元が高いため、複雑なモデルのフィッティングが困難であり、性能向上に寄与しなかった。