Skip to main content
QUICK REVIEW

[논문 리뷰] EdgeSpot: Efficient and High-Performance Few-Shot Model for Keyword Spotting

Oğuzhan Büyüksolak, Alican Gök|arXiv (Cornell University)|2026. 01. 22.
Speech Recognition and SynthesisComputer Science인용 수 0
한 줄 요약

EdgeSpot은 BC-ResNet 백본을 PCEN 프런트엔드와 경량의 시간적 자기 주의로 강화한 에지 최적화 소수 샷 키워드 인식 모델로, 고정된 FAR에서 온디바이스 비용은 완만하면서도 더 높은 정확도를 달성합니다. 네 번째 변형인 EdgeSpot-4는 1% FAR에서 10-shot 정확도 82.0%를 29.4M MACs 및 128k 매개변수로 달성합니다.

ABSTRACT

We introduce an efficient few-shot keyword spotting model for edge devices, EdgeSpot, that pairs an optimized version of a BC-ResNet-based acoustic backbone with a trainable Per-Channel Energy Normalization frontend and lightweight temporal self-attention. Knowledge distillation is utilized during training by employing a self-supervised teacher model, optimized with Sub-center ArcFace loss. This study demonstrates that the EdgeSpot model consistently provides better accuracy at a fixed false-alarm rate (FAR) than strong BC-ResNet baselines. The largest variant, EdgeSpot-4, improves the 10-shot accuracy at 1% FAR from 73.7% to 82.0%, which requires only 29.4M MACs with 128k parameters.

연구 동기 및 목표

  • 저전력/소형 아키텍처를 활용하여 낮은 FAR에서 강한 정확도를 달성하는 온-디바이스 FS-KWS의 효율성을 고무한다.
  • 학습 가능한 PCEN 프런트엔드와 경량 시간적 자기 주의를 통합하여 판별력을 향상시킨다.
  • 셀프-감독 교사를 통한 지식 증류를 활용하여 교사 성능과의 차이를 줄인다.
  • 프로토타입 기반 FS-KWS 프로토콜에서 EdgeSpot과 BC-ResNet 베이스라인을 공정하게 비교한다.
  • MSWC 및 GSC 데이터셋에서 교차 도메인 일반화를 증명한다.

제안 방법

  • 음향 백본으로 BC-ResNet을 채택하고, 학습 가능한 PCEN 프런트엔드, 초기 블록 시간 경로 융합, 경량의 시간적 자기 주의 헤드를 포함한 세 가지 에지 친화적 향상을 적용한다.
  • 타이밍 신호를 포착하기 위해 채널별 depthwise 1D 합성곱을 통한 상대 시계열 위치 인코딩을 도입한다.
  • 시간 축을 따라 단일 헤드 스케일드 닷 프로덕트 어텐션을 사용하여 64-D 임베딩을 생성하고, 그 다음에 발화 수준 임베딩을 위한 경량 Conv1D 헤드를 적용한다.
  • Wav2Vec2.0 기반 교사로부터 KD와 Sub-center ArcFace (SCAF) 목표의 복합 손실을 사용하여 지식을 증류하고, EdgeSpot 학생 모델을 엔드-투-엔드로 학습한다.
  • MSWC 영어 학습 분할에서 40 에폭으로 학습하고, 더 큰 모델에 대해 SpecAugment를 적용하며, 추론은 고정된 FAR 임계값으로 프로토타입 기반 의사결정에 맞춘다.
  • MSWC에서 FS-KWS 프로토콜 하에 평가하고 교차 도메인 GSC 데이터셋에 대해 재학습된 BC-ResNet 베이스라인과 비교한다.

실험 결과

연구 질문

  • RQ1FS-KWS에서 EdgeSpot이 에지 친화적 발자국으로 낮은 False Alarm 비율에서 BC-ResNet 베이스라인보다 더 높은 정확도를 달성할 수 있는가?
  • RQ2PCEN, 초기 융합 및 시간적 주의의 통합이 소수 샷 키워드 인식의 판별 임베딩 품질을 향상시키는가?
  • RQ31-shot 및 10-shot 조건에서 MSWC에서 GSC로의 도메인 간 EdgeSpot 전송 성능은 어떠한가?
  • RQ4Sub-center ArcFace를 활용한 교사-학생 증류가 교사 및 베이스라인에 비해 EdgeSpot의 성능에 미치는 영향은 무엇인가?
  • RQ5다른 모델 너비에서 EdgeSpot 변형의 계산 비용 및 매개변수 규모는 어느 정도인가?

주요 결과

  • 동일 FS-KWS 프로토콜에서 EdgeSpot은 재학습된 BC-ResNet 베이스라인을 지속적으로 능가하며, 특히 낮은 FAR 및 1-shot 설정에서 두드러진다.
  • EdgeSpot-4는 DET@5% 및 AUROC에서 교사 성능에 근접하며, 1%에서의 차이가 작고 1-shot 및 10-shot 설정 모두에서 차이가 있다.
  • EdgeSpot-4는 거의 모든 지표에서 ResNet15를 능가하고, 온-device 비용도 낮게 유지한다.
  • 교차 도메인 GSC 테스트에서 EdgeSpot은 모든 규모에서 개선을 보이며, 특히 FAR=1%에서 두드러진다.
  • 10-shot 등록으로 EdgeSpot-4는 거의 교사 성능에 도달하며, 운영 포인트가 더 느슨해진 경우 이를 넘어서기도 하여 분포 시차에도 강한 전달력을 보여준다.
  • 전반적으로 EdgeSpot(SCAF 증류 포함)은 엄격한 FAR에서 교사의 판별력을 상당 부분 회복하고, 에지 친화적 자원 사용을 유지한다.

이 논문 읽기

누빈트 뷰어에서 원문을 열고, 읽으면서 궁금한 곳을 바로 물어보세요.

누빈트에서 이 논문 읽기

이 리뷰는 AI가 논문 원문을 바탕으로 만들었습니다. 인용하기 전에 원문을 확인해 주세요.