[論文レビュー] Bayesian Active Learning for Wearable Stress and Affect Detection

Abhijith Ragav, Gautham Krishna Gudur|arXiv (Cornell University)|Dec 4, 2020

Emotion and Mood Recognition参考文献 16被引用数 7

ひとこと要約

本稿では、ベイジアン畳み込み1次元ニューラルネットワーク（Conv1D）におけるマルコフチェインモンテカルロドロップアウトを用いて、リアルタイムのウェアラブルストレスおよび感情検出のためのベイジアンアクティブラーニングフレームワークを提案する。ドロップアウト推論による不確実性推定と、バリエーション比などの獲得関数を活用することで、プールデータの60％しかラベル付けされていない状態でも90.38％の精度を達成し、完全ラベル付きデータでの学習と同等の性能を発揮しながら、ラズベリー・パイ2における低遅延推論を維持した。

ABSTRACT

In the recent past, psychological stress has been increasingly observed in humans, and early detection is crucial to prevent health risks. Stress detection using on-device deep learning algorithms has been on the rise owing to advancements in pervasive computing. However, an important challenge that needs to be addressed is handling unlabeled data in real-time via suitable ground truthing techniques (like Active Learning), which should help establish affective states (labels) while also selecting only the most informative data points to query from an oracle. In this paper, we propose a framework with capabilities to represent model uncertainties through approximations in Bayesian Neural Networks using Monte-Carlo (MC) Dropout. This is combined with suitable acquisition functions for active learning. Empirical results on a popular stress and affect detection dataset experimented on a Raspberry Pi 2 indicate that our proposed framework achieves a considerable efficiency boost during inference, with a substantially low number of acquired pool points during active learning across various acquisition functions. Variation Ratios achieves an accuracy of 90.38% which is comparable to the maximum test accuracy achieved while training on about 40% lesser data.

研究の動機と目的

• リアルタイムのウェアラブル健康モニタリングシステムにおける未ラベル付き生理的データのラベリング課題に対処すること。
• ラベル付けに必要な人間のオラクルの負担を軽減し、注釈に最も有用なデータポイントのみを選択すること。
• 継続的なストレスおよび感情検出に適した不確実性を考慮したディープラーニングモデルのデバイス内デプロイを可能にすること。
• モバイルヘルスの文脈において、複数の獲得関数を用いたベイジアンアクティブラーニングの有効性を評価すること。
• 低消費電力の組み込みデバイス（例：ラズベリー・パイ2）上での不確実性に基づくアクティブラーニングの実用性と効率性を実証すること。

提案手法

• 予測不確実性の推定のため、1次元畳み込みニューラルネットワーク（Conv1D）にマルコフチェインモンテカルロドロップアウトを適用し、事後分布を近似する。
• T=10回の確率的順方向伝搬（10回のスティッチャスティックな順方向パス）を用いたベイジアンニューラルネットワーク（BNN）推論により、予測の平均と分散を計算する。
• プール内の最も不確実なデータポイントを選択するために、複数の獲得関数（最大エントロピー、BALD、バリエーション比、およびランダムサンプリング）を適用する。
• ラズベリー・パイ2にモデルをデプロイし、デバイス内でのリアルタイム推論と段階的ラーニングを可能にする。
• サーバー上で事前学習したモデルを組み込みデバイスに転送し、取得データに対して最大10エポックの段階的ファインチューニングを実施する。
• 各イテレーションで照会するプールウィンドウ数を制御するため、動的獲得適応要因η ∈ [0,1]を導入し、現実のデータフローを模擬する。

実験結果

リサーチクエスチョン

• RQ1 マルコフチェインモンテカルロドロップアウトを用いたベイジアンアクティブラーニングは、正確なストレスおよび感情検出に必要なラベル付きデータ量を著しく削減できるか？
• RQ2 最大エントロピー、BALD、バリエーション比、またはランダムサンプリングのうち、どの獲得関数が最小限のラベリング作業で最高の分類精度を達成できるか？
• RQ3 低消費電力の組み込みデバイス（例：ラズベリー・パイ2）上での不確実性に基づくアクティブラーニングの推論時間とモデル更新オーバーヘッドの面での効率性はいかがなっているか？
• RQ4 完全ラベル付きデータ学習と同等の性能を達成しつつ、ラベル付きデータのわずかな割合での学習が、ベイジアン畳み込みニューラルネットワークによって可能か？
• RQ5 不確実性推定を組み込んだデバイス内アクティブラーニングは、リアルタイムのモバイルヘルスアプリケーションに実用的にデプロイ可能か？

主な発見

• バリエーション比獲得関数は、プールデータの60％（η = 0.6）しかラベル付けされていない状態でも90.38％のテスト精度を達成し、完全データ（η = 1.0）で得られる最大精度91.92％に非常に近い性能を発揮した。
• η = 0.6の条件下では、完全データラベリングに比べて必要なラベル付けクエリ数を40％削減したが、高い性能を維持した。
• アクティブラーニングなしのベースライン精度は79.12％であり、全獲得関数が性能向上を示したが、バリエーション比が最も顕著な向上を示した。
• ラズベリー・パイ2におけるデバイス内推論は、1回の獲得サイクルあたり約5秒（10回の確率的順方向パス）を要し、1回あたりの平均推論時間は0.5秒であった。
• モデルサイズは約115 kBであり、リソース制限のあるIoTデバイスへのデプロイに適していた。
• 本システムは、不確実性を考慮したアクティブラーニングが、リアルタイムのウェアラブル感情検出において、ラベリング作業の負担を顕著に削減しつつも高い精度を維持できることを示した。