[논문 리뷰] Artificial Neural Networks for Sensor Data Classification on Small Embedded Systems

Marcus Venzke, Daniel Klisch외 4명|arXiv (Cornell University)|2020. 12. 15.

Traffic Prediction and Management Techniques참고 문헌 21인용 수 12

한 줄 요약

이 논문은 실시간으로 시간적 센서 데이터(예: 광학 수동 제스처)를 분류하기 위해 저비용 8비트 마이크로컨트롤러에 경량 인공신경망(ANN)을 직접 구현하는 것을 제안한다. 1,493개의 파라미터를 가진 전방향 신경망을 사용하여, RAM 2 kB, 플래시 메모리 32 kB를 갖는 마이크로컨트롤러에서 36 ms의 실행 시간으로 83%의 정확도를 달성하며, 클라우드 의존 없이도 실시간 추론이 가능함을 보여준다.

ABSTRACT

In this paper we investigate the usage of machine learning for interpreting measured sensor values in sensor modules. In particular we analyze the potential of artificial neural networks (ANNs) on low-cost micro-controllers with a few kilobytes of memory to semantically enrich data captured by sensors. The focus is on classifying temporal data series with a high level of reliability. Design and implementation of ANNs are analyzed considering Feed Forward Neural Networks (FFNNs) and Recurrent Neural Networks (RNNs). We validate the developed ANNs in a case study of optical hand gesture recognition on an 8-bit micro-controller. The best reliability was found for an FFNN with two layers and 1493 parameters requiring an execution time of 36 ms. We propose a workflow to develop ANNs for embedded devices.

연구 동기 및 목표

• 클라우드 처리에 의존하지 않고, 저비용 임베디드 시스템 내부에서 센서 데이터의 의미적 풍부화를 가능하게 하기 위해.
• 제한된 메모리(2 kB RAM, 32 kB 플래시)와 처리 능력(16 MHz 클럭)을 갖춘 8비트 마이크로컨트롤러에 인공신경망(ANN)을 구현할 수 있는지 탐색하기 위해.
• 자원이 제한된 환경에서 시간적 센서 시퀀스를 분류하기 위해 전방향 신경망(FFNN)과 순환 신경망(RNN)의 성능 및 신뢰성 비교를 위해.
• 임베디드 센서 모듈에 ANNs를 설계, 훈련, 압축, 배포하는 실용적인 종단 간 워크플로우를 개발하기 위해.
• 실제 배포 환경에서 환경적 요인—특히 조도 변화—가 온디바이스 ANNs를 사용한 분류 신뢰성에 미치는 영향을 평가하기 위해.

제안 방법

• 8비트 마이크로컨트롤러의 최소한의 메모리 및 처리 능력에 맞춰 최적화된 FFNN과 RNN의 설계 및 구현.
• 수동 제스처의 시간적 시퀀스를 캡처하기 위해 9개의 광센서를 갖춘 센서 모듈을 사용하여 저해상도 카메라 기능을 구현.
• 입력으로 전방향 네트워크에 사용할 수 있도록 센서 데이터의 일부를 버퍼에 저장함으로써 제스처 시퀀스의 분류를 가능하게 함.
• 제스처를 다섯 단계로 나누는 수동 전처리를 적용하여 RNN 성능을 향상시키고, 신경망의 활성화 해석이 의미 있는 방식으로 가능하도록 함.
• 계산 오버헤드와 실행 시간을 줄이기 위해 ReLU 및 Max 활성화 함수를 사용함.
• 자르기(68% 엣지 감소)와 허프만 인코딩을 통한 모델 압축을 실시하였지만, 모델 크기와 재현성의 한계로 인해 성능이 제한됨.

실험 결과

연구 질문

• RQ1 2 kB RAM과 32 kB 플래시 메모리만을 갖는 8비트 마이크로컨트롤러에 인공신경망을 효과적으로 구현하여 실시간 센서 데이터 분류가 가능한가?
• RQ2 임베디드 시스템에서 시간적 센서 데이터를 분류할 때, 전방향 신경망(FFNN)과 순환 신경망(RNN) 간의 정확도 및 계산 효율성 측면에서 어떤 차이가 있는가?
• RQ3 특히 조도 변화가 온디바이스 ANNs를 사용한 제스처 인식의 신뢰성에 어떤 영향을 미치는가?
• RQ4 자르기 및 양자화와 같은 모델 압축 기법을 통해 초저자원 장치에서 모델 크기를 얼마나 줄일 수 있으며, 분류 성능을 유지할 수 있는가?
• RQ5 최소한의 하드웨어 및 소프트웨어 오버헤드로 임베디드 센서 모듈에 ANNs를 설계, 훈련, 압축, 배포하는 데에 실용적인 워크플로우를 어떻게 수립할 수 있는가?

주요 결과

• 가장 높은 성능을 보인 모델은 파라미터 수 1,493개의 이중층 전방향 신경망으로, 36 ms의 추론 시간 동안 수동 제스처를 83%의 정확도로 분류하였다.
• RNN은 71%의 정확도를 기록했지만, 수동적인 단계 분할과 더 복잡한 애너테이션 필요로 인해 구현 오버헤드가 더 높았다.
• 플로ating 포인트 유닛이 없는 8비트 마이크로컨트롤러에서 40 Hz 프레임 레이트로 안정적으로 작동하였으며, RAM 2 kB, 플래시 메모리 32 kB만을 사용하였다.
• 조도가 열악한 조건에서 분류 신뢰도가 크게 감소하여 환경에 민감한 것으로 나타났다.
• 모델 압축을 통해 최종 모델 크기를 원본의 11.5%로 줄였지만, AlexNet이나 VGG-16와 같은 더 큰 모델에 비해 효율성이 떨어졌으며, 이는 재현성의 저하 때문이었다.
• 이 연구는 최소한의 전처리가 허용되는 조건에서, 입력 버퍼링을 적용한 FFNN이 RNN보다 더 실용적이고 신뢰할 수 있다는 것을 확인한다.