[論文レビュー] Laplacian Regularized Few-Shot Learning

Imtiaz Masud Ziko, José Dolz+2 more|arXiv (Cornell University)|Jun 28, 2020

Domain Adaptation and Few-Shot Learning被引用数 56

ひとこと要約

本論文では、ベースモデルを再訓練せずに精度を向上させるため、基底クラスのプロトタイプとアフィニティに基づくペアワイズ項を用いて、クエリ-ラベル割り当て上のラプラシアン正則化二次目的関数を最小化するトランダクティブ少数ショット学習法である LaplacianShot を提案します。

ABSTRACT

We propose a transductive Laplacian-regularized inference for few-shot tasks. Given any feature embedding learned from the base classes, we minimize a quadratic binary-assignment function containing two terms: (1) a unary term assigning query samples to the nearest class prototype, and (2) a pairwise Laplacian term encouraging nearby query samples to have consistent label assignments. Our transductive inference does not re-train the base model, and can be viewed as a graph clustering of the query set, subject to supervision constraints from the support set. We derive a computationally efficient bound optimizer of a relaxation of our function, which computes independent (parallel) updates for each query sample, while guaranteeing convergence. Following a simple cross-entropy training on the base classes, and without complex meta-learning strategies, we conducted comprehensive experiments over five few-shot learning benchmarks. Our LaplacianShot consistently outperforms state-of-the-art methods by significant margins across different models, settings, and data sets. Furthermore, our transductive inference is very fast, with computational times that are close to inductive inference, and can be used for large-scale few-shot tasks.

研究の動機と目的

• ベースモデルを再訓練せずに、少数ショット分類における効果的なトランザクティブ推論の必要性を動機づけ、解決します。
• 一項的（プロトタイプベース）と対となる二項的（ラプラシアン）ポテンシャルの両方を活用して、クエリとラベルの一貫性を向上させます。
• 閉形式解と並列更新を備え、収束が保証された計算効率の高い境界最適化アルゴリズムを提供します。
• さまざまなバックボーンで5つのベンチマークに渡る強力な実証的性能を示し、頑健性と拡張性を示します。

提案手法

• クエリ-ラベル割り当て Y 上のラプラシアン正則化二次目的関数を定式化し、最近傍プロトタイプの一項と対のラプラシアン項を組み合わせます。
• 2値整数制約を凹緩和に緩和し、閉形式かつ paralle更新を可能にするため負エントロピー壁を付加します。
• 各クエリ点 y_q が a_q と b_q^i のソフトマックスを用いて独立に更新される境界最適化（MM/CCCP様）更新式を導出します（式 (Eq.12)）。
• a_q はプロトタイプ m_c への距離、b_q^i はグラフ親和性 w(x_q, x_p) と現在のラベルから計算します；更新が収束すること（境界が単調に減少すること）を保証します。
• 解釈として、ラプラシアン正則化をノンパラメトリックなアテンションに結び付け、標準的なメタラーニングベースのアテンションとの違いに言及します。
• 注: W は k 最近傍の親和性を用い、λ は一項とラプラシアン項のトレードオフを制御します。

実験結果

リサーチクエスチョン

• RQ1 ラプラシアン正則化を用いたトランザクティブ推論は、基盤モデルを再訓練せずに少数ショット分類を改善できますか？
• RQ2 クエリ間の対の親和性を取り入れることが、データセットやバックボーン全体で一項のプロトタイプ項を補完して精度を高めるのか。
• RQ3 実用的な大規模タスクにおける、提案された境界最適化ラプラシアン正則化推論の計算コストと収束挙動はどうなるか。
• RQ4 整流化されたプロトタイプと特徴変換がラプラシアン正則化とどのように相互作用して性能に影響を与えるか。

主な発見

手法	ネットワーク	Mini ImageNet 1-shot	Mini ImageNet 5-shot	Tiered ImageNet 1-shot	Tiered ImageNet 5-shot
LaplacianShot (ours)	ResNet-18	72.11 ± 0.19	82.31 ± 0.14	78.98 ± 0.21	86.39 ± 0.16

• LaplacianShot は5つのベンチマークとさまざまなネットワークで一貫して最先端手法を上回ります。
• トランスダクティブ推論は高速で、帰納推論とほぼ同等の時間で、大規模な少数ショットタスクを可能にします。
• シンプルな基盤訓練（クロスエントロピー）で複雑なメタ学習を用いずに強力な結果を達成します。
• kNNベースの親和性と提案された境界最適化により、独立した並列更新と収束保証を実現します。
• 整流化されたプロトタイプは、いくつかのベンチマークでさらなる性能向上をもたらします（iNat では逆効果になることも）。
• 経験的結果は、最近傍プロトタイプ分類（λ=0）を超える意味のある利得を、ラプラシアン正則化が提供することを示します。