[論文レビュー] Semi-supervised on-device neural network adaptation for remote and portable laser-induced breakdown spectroscopy

Kshitij Bhardwaj, Maya Gokhale|arXiv (Cornell University)|Apr 8, 2021

Laser-induced spectroscopy and plasma参考文献 13被引用数 7

ひとこと要約

本稿では、ラベルなしのデータを用いてドメインシフトに適応可能な軽量な半教師あり端末内ニューラルネットワーク、MLP-LIBS-ADAPTを提案する。2層のMLPに勾配反転を用いた非教師ありドメイン適応を適用し、データストリーミング中は平均89.3%の精度を達成し、非適応モデルよりも最大2.1%高い精度を発揮。Google Pixel 2では推論時間は0.097秒、再訓練時間は599秒を記録した。

ABSTRACT

Laser-induced breakdown spectroscopy (LIBS) is a popular, fast elemental analysis technique used to determine the chemical composition of target samples, such as in industrial analysis of metals or in space exploration. Recently, there has been a rise in the use of machine learning (ML) techniques for LIBS data processing. However, ML for LIBS is challenging as: (i) the predictive models must be lightweight since they need to be deployed in highly resource-constrained and battery-operated portable LIBS systems; and (ii) since these systems can be remote, the models must be able to self-adapt to any domain shift in input distributions which could be due to the lack of different types of inputs in training data or dynamic environmental/sensor noise. This on-device retraining of model should not only be fast but also unsupervised due to the absence of new labeled data in remote LIBS systems. We introduce a lightweight multi-layer perceptron (MLP) model for LIBS that can be adapted on-device without requiring labels for new input data. It shows 89.3% average accuracy during data streaming, and up to 2.1% better accuracy compared to an MLP model that does not support adaptation. Finally, we also characterize the inference and retraining performance of our model on Google Pixel2 phone.

研究の動機と目的

• リソース制限かつバッテリ駆動のポータブルなLIBSシステムに、軽量で高精度な機械学習モデルを実装する課題に対処すること。
• リモートでの展開において新しい環境のラベルなしデータが入手できない状況下でも、環境ノイズや未知のデータ分布に起因するドメインシフトに端末内で適応可能なモデルを実現すること。
• スマートフォンなどの組み込みデバイスに一般的な厳密なメモリ制限と電力制限の下でモデル性能を最適化すること。
• 実世界の組み込みプロセッサ（Google Pixel 2）上でモデルの推論および再訓練のパフォーマンスを評価すること。
• 将来の展開を想定し、端末内での推論と適応を効率的に行うための異種ハードウェアアクセラレータアーキテクチャを提案すること。

提案手法

• LIBSスペクトル分類に適した、各層に64ニューロンを有する2層のMLP（MLP-LIBS）を軽量な形で提案する。
• Ganin & Lempitsky（2015）が提唱した勾配反転を用いた非教師ありドメイン適応を実装し、MLP-LIBSに2つの補助層を追加してMLP-LIBS-ADAPTを構築する。
• ラベル付きの長期記憶（LLTM）とラベルなしの短期記憶（USTM）を用いる半教師あり適応戦略を、端末内での再訓練に適用する。
• 10個のテストデータチャンクに分けたデータストリーミング評価を実施し、USTMを継続的に更新し、ラベルなしでモデルをファインチューニングする。
• 組み込みデバイス上で標準的なバックプロパゲーションによりモデル適応を実行し、計算オーバーヘッドを最小限に抑える。
• 生スペクトルを格納するDRAM、読み取り専用のLLTMを格納するNVM（例：ReRAM）、USTMを格納するSRAMに加え、低消費電力での学習と推論を支援する専用MLPアクセラレータを備えた異種アクセラレータアーキテクチャを提案する。

実験結果

リサーチクエスチョン

• RQ1 新しい環境からのラベルなしデータが入手できない状況下でも、軽量なニューラルネットワークを端末内で効果的にLIBSに適応させられるか？
• RQ2 ラベル付き長期記憶（LLTM）のサイズがドメインシフト状況下での端末内適応性能に与える影響は何か？
• RQ3 Google Pixel 2のような一般消費者向け組み込みプロセッサ上での、適応モデルの推論および再訓練遅延はどの程度か？
• RQ4 ストリーミングデータ条件下で、端末内適応モデルの精度は非適応ベースラインモデルと比べてどのように異なるか？
• RQ5 ポータブルなLIBSシステムに適した効率的な端末内推論と適応を実現するためのハードウェアアーキテクチャは何か？

主な発見

• MLP-LIBS-ADAPTは、12種類の鉱物クラスを含む有名なLIBSデータセットにおいて、データストリーミング中、平均89.3%の精度を達成した。
• ドメインシフト状況下では、非適応モデルであるMLP-LIBSベースラインと比較して、最大2.1%の精度向上を達成した。
• Google Pixel 2では、1データチャンクあたりの平均推論時間は0.097秒であり、10個のストリーミングチャンクをカバーする平均再訓練時間は599秒であった。
• 最適なパフォーマンスは、初期オフライン学習データと同じサイズ（18,000サンプル）のLLTMサイズで達成され、LLTMサイズが小さい場合（例：4,500）は顕著な精度低下（85.6%）が生じた。
• Pixel 2上では、18000i-18000L-100Uという設定が、精度、メモリ使用量、再訓練時間のバランスが最良であった。
• 本研究では、LLTMにNVM、USTMにSRAM、および専用MLP学習アクセラレータを組み合わせた異種ハードウェアアクセラレータの導入が、効率的な端末内適応を実現するために不可欠であると判明した。