[논문 리뷰] Semi-supervised on-device neural network adaptation for remote and portable laser-induced breakdown spectroscopy

Kshitij Bhardwaj, Maya Gokhale|arXiv (Cornell University)|2021. 04. 08.

Laser-induced spectroscopy and plasma참고 문헌 13인용 수 7

한 줄 요약

이 논문은 도메인 분포 변화에 대응하기 위해 레이블이 없는 데이터로도 적응 가능한 경량의 반감성 학습 온디바이스 신경망인 MLP-LIBS-ADAPT를 제안한다. 두 은닉층을 가진 다층퍼셉트론(MLP)에 기반하며, 기울기 반전 기법을 활용한 비지도 도메 적응을 적용하여 데이터 스트리밍 중 평균 정확도 89.3%를 달성하고, 레이블이 없는 모델보다 최대 2.1% 높은 정확도를 확보하였다. Google Pixel 2에서 추론 시간은 0.097초, 재학습 시간은 599초였다.

ABSTRACT

Laser-induced breakdown spectroscopy (LIBS) is a popular, fast elemental analysis technique used to determine the chemical composition of target samples, such as in industrial analysis of metals or in space exploration. Recently, there has been a rise in the use of machine learning (ML) techniques for LIBS data processing. However, ML for LIBS is challenging as: (i) the predictive models must be lightweight since they need to be deployed in highly resource-constrained and battery-operated portable LIBS systems; and (ii) since these systems can be remote, the models must be able to self-adapt to any domain shift in input distributions which could be due to the lack of different types of inputs in training data or dynamic environmental/sensor noise. This on-device retraining of model should not only be fast but also unsupervised due to the absence of new labeled data in remote LIBS systems. We introduce a lightweight multi-layer perceptron (MLP) model for LIBS that can be adapted on-device without requiring labels for new input data. It shows 89.3% average accuracy during data streaming, and up to 2.1% better accuracy compared to an MLP model that does not support adaptation. Finally, we also characterize the inference and retraining performance of our model on Google Pixel2 phone.

연구 동기 및 목표

• 자원 제약이 심한 배터리 구동형 휴대용 LIBS 시스템에 경량이고 정확한 머신러닝 모델을 구현하는 데 도전한다.
• 원격 환경에서의 레이블이 없는 데이터를 요구하지 않고도 환경 노이즈나 예측 불가능한 데이터 분포 변화에 대응할 수 있도록 온디바이스 모델 적응을 가능하게 한다.
• 스마트폰과 같은 임베디드 장치에서 일반적인 메모리 및 전력 제약 조건 하에서 모델 성능을 최적화한다.
• 실제 임베디드 프로세서(Google Pixel 2)에서 모델의 추론 및 재학습 성능을 정량적으로 분석한다.
• 향후 배포를 고려해 온디바이스 추론 및 적응을 효율적으로 지원할 수 있는 이종 하드웨어 가속기 아키텍처를 제안한다.

제안 방법

• LIBS 스펙트럼 분류를 위해 각 층에 64개의 뉴런을 가진 두 은닉층을 갖는 경량의 다층퍼셉트론(MLP-LIBS)을 제안한다.
• Ganin & Lempitsky(2015)의 기울기 반전 기법을 활용해 비지도 도메 적응을 구현하기 위해 보조 두 개의 레이어를 추가하여 MLP-LIBS-ADAPT로 확장한다.
• 레이블이 있는 장기 기억(LLLTM)과 레이블이 없는 단기 기억(USTM)을 사용하는 반감성 적응 전략을 도입하여 온디바이스 재학습을 수행한다.
• 10개의 데이터 조각으로 구성된 스트리밍 평가를 통해 USTM을 지속적으로 갱신하고, 레이블 없이 모델을 미세조정한다.
• 임베디드 장치에서 표준 백프로파게이션을 통해 모델 적응을 수행하며, 계산 오버헤드를 최소화한다.
• 원시 스펙트럼을 위한 DRAM, 읽기 전용 장기 기억(LLLTM)을 위한 NVM(예: ReRAM), 단기 기억(USTM)을 위한 SRAM을 포함한 이종 가속기 아키텍처를 제안하며, 저전력 학습 및 추론을 위한 전용 MLP 가속기까지 포함한다.

실험 결과

연구 질문

• RQ1 새로운 환경에서 레이블이 없는 데이터가 존재할 경우, 경량 신경망이 온디바이스에서 효과적으로 적응 가능한가?
• RQ2 레이블이 있는 장기 기억(LLTM)의 크기가 도메인 분포 변화 상황에서 온디바이스 적응 성능에 어떤 영향을 미치는가?
• RQ3 Google Pixel 2와 같은 소비자용 임베디드 프로세서에서 적응된 모델의 추론 및 재학습 지연 시간은 얼마인가?
• RQ4 스트리밍 데이터 조건 하에서 온디바이스 적응 모델의 정확도는 레이블이 없는 기준 모델에 비해 어떻게 비교되는가?
• RQ5 어떤 하드웨어 아키텍처가 휴대용 LIBS 시스템의 온디바이스 추론 및 적응을 효율적으로 지원할 수 있는가?

주요 결과

• MLP-LIBS-ADAPT는 12종의 광물 클래스를 포함하는 잘 알려진 LIBS 데이터셋에서 데이터 스트리밍 중 평균 정확도 89.3%를 달성하였다.
• 도메인 분포 변화 조건 하에서 비적응 모델인 MLP-LIBS 기준보다 최대 2.1% 높은 정확도를 확보하였다.
• Google Pixel 2에서 데이터 조각당 평균 추론 시간은 0.097초이며, 10개의 스트리밍 조각을 전역적으로 재학습하는 데 평균 599초가 소요되었다.
• 최적의 성능는 초기 오프라인 학습 데이터 크기와 동일한 LLTM 크기(18,000개 샘플)에서 달성되었으며, 더 작은 LLTM 크기(예: 4,500개)는 심각한 정확도 손실(85.6%)을 초래하였다.
• Pixel 2에서 정확도, 메모리 사용량, 재학습 시간의 균형을 고려할 때, 구성 18000i-18000L-100U가 최적의 성능를 보였다.
• 이 연구는 NVM을 통해 LLTM를, SRAM을 통해 USTM를, 전용 MLP 학습 가속기를 통해 저전력 학습 및 추론을 지원할 수 있는 이종 하드웨어 가속기 아키텍처의 필요성을 규명하였다.