[論文レビュー] An Investigation of Few-Shot Learning in Spoken Term Classification

Yangbin Chen, Tom Ko+4 more|arXiv (Cornell University)|Dec 26, 2018

Domain Adaptation and Few-Shot Learning参考文献 28被引用数 9

ひとこと要約

本稿では、少量のスプoken term分類に適した拡張MAMLフレームワークを提案する。固定クラス（例：サイレント、未知）と新規クラス（N）の混合により、一般化性能が向上する。メタ学習中に固定クラスの事前知識を統合することで、10ショットのコマンド分類で69.48%の精度を達成し、従来の教師あり学習および元のMAMLを上回る性能を発揮した。

ABSTRACT

In this paper, we investigate the feasibility of applying few-shot learning algorithms to a speech task. We formulate a user-defined scenario of spoken term classification as a few-shot learning problem. In most few-shot learning studies, it is assumed that all the N classes are new in a N-way problem. We suggest that this assumption can be relaxed and define a N+M-way problem where N and M are the number of new classes and fixed classes respectively. We propose a modification to the Model-Agnostic Meta-Learning (MAML) algorithm to solve the problem. Experiments on the Google Speech Commands dataset show that our approach outperforms the conventional supervised learning approach and the original MAML.

研究の動機と目的

• 少量学習を音声タスク、特にスプoken term分類に適用可能かどうかを検証すること。
• すべてのクラスが新規であると仮定する従来の少量学習手法の限界を解消するため、現実的でN+M方式、Kショットの問題設定を導入すること。
• メタ学習中に固定クラス（例：サイレント、未知）の事前知識を統合することで、ユーザー定義のスプoken term分類におけるモデルの一般化性能を向上させること。
• 大量の学習データを用いた事前定義済みシステムに近い性能を達成できるか、少量学習によるユーザー定義システムの性能を評価すること。

提案手法

• N新規クラス（ユーザー定義）とM固定クラス（例：サイレント、未知）を含むN+M方式、Kショットの少量学習問題としてスプoken term分類を定式化する。
• メタ学習中に新規クラスと固定クラスの両方を最適化できるように、モデルに依存しないメタ学習（MAML）アルゴリズムを修正し、共通のモデル初期化を使用する。
• 1秒間の16kHz音声クリップから特徴を抽出するために、4つの残差ブロック（各ブロックに3×3畳み込み、ReLU、バッチ正則化を含む）を備えた畳み込みニューラルネットワーク（CNN）を用いる。
• 入力表現として、30msフレーム長、10msフレームシフトで40次元のメル周波数ケプストラム係数（MFCCs）を抽出する。
• メタ学習ループを用いてモデルを訓練する：タスクの分布からタスクをサンプリングし、サポートセットで1ステップの勾配更新を行い、クエリセット損失に基づいて初期パラメータを最適化する。
• メタ更新時に新規クラスと固定クラスの両方の予測を含む修正されたMAML損失を適用し、新しいキーワードに素早く適応できるようにするとともに、固定クラスの知識を保持できるようにする。

実験結果

リサーチクエスチョン

• RQ1 メタ学習による少量学習が、リソースが限られた音声タスクであるスプoken term分類に効果的に適用可能か。
• RQ2 メタ学習中に固定クラス（例：サイレント、未知）を含めることで、少量学習におけるスプoken term分類のモデル性能にどのような影響を与えるか。
• RQ3 少量学習によるユーザー定義システムが、豊富な学習データを有する事前定義済みシステムにどの程度近づけるか。
• RQ4 提案された拡張MAMLフレームワークが、従来の教師あり微調整および標準MAMLよりも少量学習設定で優れた性能を発揮するか。

主な発見

• 提案された拡張MAMLアプローチは、10ショットのコマンド分類で69.48%の精度を達成し、元のMAML（57.34%）および教師あり学習（25.60%）を顕著に上回った。
• 10ショットの数字分類では、拡張MAMLが69.48%の精度を達成したのに対し、元のMAMLは65.18%、教師あり学習は28.07%であった。
• 少量学習システムと事前定義済みシステム（1クラスあたり約3000例）との間には依然として大きな性能差が存在し、少量学習システムの精度は78.48%であったのに対し、事前定義済みシステムは91%であった。
• 固定クラス（サイレント、未知）の知識をメタ学習中に活用したモデルは、すべてのクラスを新規とみなすモデルよりも一般化性能が優れており、事前知識の利点を示した。
• 元のMAMLに対する性能向上は、固定クラスの知識の活用によるものであり、これはメタ最適化を安定化させ、新しいキーワードへの適応を向上させる要因である。
• コマンド分類の性能は、数字分類よりも一貫して低く、キーワードの複雑さと発音の多様性が少量学習性能に影響を与えることが示唆された。