[論文レビュー] Uncertainty Quantification for Deep Context-Aware Mobile Activity Recognition and Unknown Context Discovery

Zepeng Huo, Arash Pakbin+7 more|arXiv (Cornell University)|Mar 3, 2020

Context-Aware Activity Recognition Systems被引用数 7

ひとこと要約

本論文では、最大エントロピーに基づく不確実性評価（UQ）を用いて、活動認識とコンテキスト発見を統合的にモデル化する不確実性評価付きのコンテキスト対応型ディープラーニングフレームワーク、α-βネットワークを提案する。クラスタリングに基づく事前学習とUQを統合することで、ベンチマークデータ上での精度とF1スコアが10%向上し、未知のコンテキストを効果的に検出でき、公開および社内でのノイズの多いデータセットにおいてベースラインモデルを上回る性能を示した。

ABSTRACT

Activity recognition in wearable computing faces two key challenges: i) activity characteristics may be context-dependent and change under different contexts or situations; ii) unknown contexts and activities may occur from time to time, requiring flexibility and adaptability of the algorithm. We develop a context-aware mixture of deep models termed the {\\alpha}-\\b{eta} network coupled with uncertainty quantification (UQ) based upon maximum entropy to enhance human activity recognition performance. We improve accuracy and F score by 10% by identifying high-level contexts in a data-driven way to guide model development. In order to ensure training stability, we have used a clustering-based pre-training in both public and in-house datasets, demonstrating improved accuracy through unknown context discovery.

研究の動機と目的

• コンテキストの定義がしばしば不完全または動的であるため、ウェアラブルシステムにおけるコンテキスト依存型活動認識の課題に対処すること。
• 事前に定義されたコンテキストに依存せずに、推論中にデータ駆動型で未知のコンテキストを発見できるようにすること。
• 予測の不確実性を評価することで、ノイズが多い現実世界の環境でもモデルのロバスト性と一般化性能を向上させること。
• クラスタリングに基づく事前学習により、混合専門家アーキテクチャにおける訓練の安定性を確保し、モデルの崩壊を防ぐこと。
• UCI OPPORTUNITYを含む公開および社内データセットにおいて、フレームワークの有効性を実証すること。このデータセットには、現実的なセンサーノイズと混同された運動パターンが含まれている。

提案手法

• α-βネットワークアーキテクチャを提案：αネットワークはゲーティング機構を介してコンテキストの分布を出力するコンテキスト検出器として機能する。
• βネットワークはコンテキスト固有の活動認識を実行し、識別された各コンテキストに対して別個のエキスパートネットワークを有する。
• すべてのモデルパラメータにおける不確実性を評価するために、最大エントロピー学習（MEL）を適用し、高不確実性の未知コンテキストの検出を可能にする。
• 不確実性評価を統合し、不確実性がしきい値を超える場合には予測を却下することで、モデルのロバスト性を向上させる。
• 公開および社内データセットを用いたクラスタリングに基づく事前学習により、αネットワークを初期化し、収束性の向上と単一エキスパートへの崩壊の防止を図る。
• UQを活用して既知のコンテキストと未知のコンテキストを区別する：既知のコンテキストでは予測後ろ向き分布が集中しているが、未知のコンテキストでは平坦で不確実な出力が得られる。

実験結果

リサーチクエスチョン

• RQ1 事前に定義されたコンテキストラベルに依存せずに、ディープラーニングモデルがコンテキスト対応型活動認識と未知コンテキストの発見を同時に学習できるか？
• RQ2 最大エントロピーに基づく不確実性評価は、未知または分布外のコンテキストを検出する際のモデルのロバスト性をどのように向上させるか？
• RQ3 クラスタリングに基づく事前学習は、α-βネットワークアーキテクチャにおける訓練の安定性を高め、モデルの崩壊を防ぐ程度はどの程度か？
• RQ4 標準ベースラインモデルと比較して、本フレームワークは現実世界のノイズの多い環境でどの程度の性能を示すか？
• RQ5 不確実性スコアのみを用いて、モデルは既知のコンテキストと未知のコンテキストを効果的に区別できるか？

主な発見

• UQを備えたα-βネットワークは、UCI OPPORTUNITYデータセットにおいて、ベースラインモデルと比較して活動認識の精度とF1スコアを10%向上させた。
• 事前学習により、精度は87%から96%に、F1は0.87から0.96に向上し、モデルの崩壊を防ぐ上で極めて重要な役割を果たしていることが示された。
• 社内データセットでは、ノイズの高い環境にもかかわらず、α-βネットワークは84%の精度と0.86のF1スコアを達成し、ベースライン（80%の精度、0.80のF1スコア）を上回った。
• 未知のコンテキストはUQにより信頼性高く検出された：その予測後ろ向き分布は平坦で広がっており、既知のコンテキストでは集中した分布を示した。
• 2つのコンテキストを削除して未知として扱った場合でも、モデルは依然としてそれらを高不確実性ケースとして正しく同定した。これは、未確認のコンテキストを検出できる能力を裏付けている。
• 初期化が悪い場合、正則化のみでは性能を維持できないのに対し、事前学習は正則化よりもはるかに効果的にα-βネットワークの安定化に寄与することが分かった。