[論文レビュー] Few-Shot Continual Active Learning by a Robot

Ali Ayub, Carter Fendley|arXiv (Cornell University)|Oct 9, 2022

Domain Adaptation and Few-Shot Learning被引用数 13

ひとこと要約

本論文は、災害的忘却を回避しながら、少数のラベル付き例から新しいオブジェクトクラスを学習できるFew-Shot Continual Active Learning (FoCAL)フレームワークを提案する。GMM（ガウス混合モデル）を用いて学習済みクラスを表現し、偽再現（pseudo-rehearsal）を適用することで、過去のデータを格納せずに再現する。さらに、不確実性と視点一貫性の指標を組み合わせて、人間によるラベリングに最も適した未ラベル付きサンプルを能動的に選択する。本手法はCORe-50で最先端の性能を達成し、最小限の人的監視でヒューマノイドロボットにおける実世界の継続的学習を可能にする。

ABSTRACT

In this paper, we consider a challenging but realistic continual learning (CL) problem, Few-Shot Continual Active Learning (FoCAL), where a CL agent is provided with unlabeled data for a new or a previously learned task in each increment and the agent only has limited labeling budget available. Towards this, we build on the continual learning and active learning literature and develop a framework that can allow a CL agent to continually learn new object classes from a few labeled training examples. Our framework represents each object class using a uniform Gaussian mixture model (GMM) and uses pseudo-rehearsal to mitigate catastrophic forgetting. The framework also uses uncertainty measures on the Gaussian representations of the previously learned classes to find the most informative samples to be labeled in an increment. We evaluate our approach on the CORe-50 dataset and on a real humanoid robot for the object classification task. The results show that our approach not only produces state-of-the-art results on the dataset but also allows a real robot to continually learn unseen objects in a real environment with limited labeling supervision provided by its user.

研究の動機と目的

• ラベル付きデータが乏しく、人的ラベリングにコストがかかる実世界のロボティクスにおける継続的オブジェクト学習の課題に対処すること。
• 過去のクラスの生データを格納せずに、継続的学習における災害的忘却を軽減すること。
• ストリーミングで、少量のラベル付きデータ、オンライン環境下で、最も情報量の多いサンプルをロボットが能動的に選択してラベリングする学習を可能にすること。
• 人的監視が限られたヒューマノイドロボットにおける実世界への実用的かつスケーラブルな展開を可能にする手法を開発すること。
• 将来のFoCAL研究のため、実ロボットが収集した新しいベンチマークデータセットを公開すること。

提案手法

• フレームワークは、以前に学習された各オブジェクトクラスを一様なガウス混合モデル（GMM）としてモデル化し、その特徴量分布を表現する。
• 偽再現（pseudo-rehearsal）を採用し、古いクラスのGMMから合成サンプルを生成することで、トレーニング中にそれらを再現し、生データの格納を回避する。
• 予測エントロピーと視点一貫性の指標を用いて、GMM表現上での不確実性と一貫性を評価し、獲得関数が最も情報量の多い未ラベル付きサンプルを選択する。
• 各増分において、過去のクラスからの偽サンプルと新たにラベル付けされたサンプルの両方を用いてモデルをトレーニングする。
• 未ラベル画像からの特徴量抽出には、固定された特徴量抽出器とオブジェクト検出器を用い、獲得および分類の前処理を行う。
• 分類器は、現在の増分からのラベル付きサンプルと、過去のクラスからの偽再現データを用いて段階的に更新する。

実験結果

リサーチクエスチョン

• RQ1 継続的学習エージェントは、各増分で少数のラベル付き例しか得られない状況でも、新しいオブジェクトクラスを効果的に学習できるか？
• RQ2 生データを格納せずに、少数ラベル、オンライン、継続的学習の設定において、災害的忘却をどのように軽減できるか？
• RQ3 不確実性に基づく能動的学習は、未知または新しいクラスを伴う継続的学習に効果的に適応できるか？
• RQ4 本手法は、ベンチマークデータセットと比較して、実世界のロボットへの展開においてどの程度一般化できるか？
• RQ5 最小限の人的ラベリングで、新しいクラスを学習しながらも、以前に学習したクラスの性能を維持できるか？

主な発見

• 提案されたFoCALフレームワークは、CORe-50ベンチマークで最先端の性能を達成し、少数ラベル、継続的能動的学習の設定において、既存の継続的学習手法を顕著に上回っている。
• GMMベースの偽再現により、災害的忘却が効果的に軽減され、複数の増分を経ても、以前に学習したクラスの高精度を維持している。
• 能動的学習モジュールは、不確実性が高く情報量の多いサンプルを効果的に特定し、ラベリング作業の負荷を軽減するとともに、学習効率を向上させた。
• 本フレームワークにより、ヒューマノイドロボット（Pepper）が最小限の人的ラベリングで、時間の経過とともに多数の家庭用オブジェクトを学習可能となり、実世界への応用可能性が実証された。
• 研究者らは、将来的なFoCAL研究のため、ロボットが収集した新しいベンチマークデータセットを公開した。このデータセットには、屋内環境からの実世界のオブジェクト画像が含まれている。
• 不確実性と一貫性の指標のおかげで、未知のクラスを効果的に特定し、新しいオブジェクトを以前に学習したクラスとして誤って分類するのを回避する、高いロバスト性を示した。