[논문 리뷰] ON DATA-SELECTIVE LEARNING

Hamed Yazdanpanah|arXiv (Cornell University)|2018. 01. 01.

Advanced Adaptive Filtering Techniques참고 문헌 115인용 수 1

한 줄 요약

이 논문은 배터리 구동 장치에서 계산 복잡도와 에너지 소비를 줄이기 위해 데이터 선택적 적응 필터링 알고리즘, 특히 세트-멤버십(SM) 필터를 제안한다. 부분 갱신과 함께 SM 필터링을 통합하고 허니톤과 트리니온으로 확장함으로써, 희박한 시스템에서 저복잡도이고 안정적인 성능을 달성하며, 숨겨진 희박성을 활용한 새로운 LMS 기반 알고리즘을 통해 효율성을 향상시킨다.

ABSTRACT

Filtros adaptativos sao aplicados em diversos aparelhos eletronicos e de comunicacao, como smartphones, fone de ouvido avancados, DSP chips, antenas inteligentes e sistemas de teleconferencia. Eles tambem tem aplicacao em varias areas como identificacao de sistemas, equalizacao de canal, cancelamento de eco, cancelamento de interferencia, previsao de sinal e mercado de acoes. Desse modo, reduzir o consumo de energia de algoritmos adaptativos tem importância significativa, especialmente em tecnologias verdes e aparelhos que usam bateria. Nesta tese, filtros adaptativos com selecao de dados, em particular filtros adaptativos da familia set-membership (SM), sao apresentados para cumprir essa missao. No presente trabalho objetivamos apresentar novos algoritmos, baseados nos classicos, a fim de aperfeicoar seus desempenhos e, ao mesmo tempo, reduzir o numero de operacoes aritmeticas exigidas. Dessa forma, primeiro analisamos a robustez dos filtros adaptativos SM classicos. Segundo, estendemos o SM aos numeros trinions e quaternions. Terceiro, foram utilizadas tambem duas familias de algoritmos, SM filtering e partial-updating, de uma maneira elegante, visando reduzir energia ao maximo possivel e obter um desempenho competitivo em termos de estabilidade. Quarto, a tese propoe novos filtros adaptativos baseado em algoritmos least-mean-square (LMS) e minimos quadrados recursivos com complexidade computacional baixa para espacos esparsos. Finalmente, derivamos alguns algoritmos feature LMS para explorar a esparsidade escondida nos parâmetros.

연구 동기 및 목표

• 휴대용 및 녹색 전자 기기에서 사용되는 적응 필터링 알고리즘의 에너지 소비를 줄이기 위해.
• 적응 필터 구현에서 산술 연산 수를 최소화하여 계산 효율성을 향상시키기 위해.
• 처리 부담을 극적으로 줄이면서도 안정성과 성능을 유지하거나 향상시키기 위해.
• 세트-멤버십 필터링을 복소수 이외의 도메인, 예를 들어 허니톤과 트리니온과 같은 비실수 영역으로 확장하기 위해.
• 희박한 시스템 파rameter에 맞게 최적화된 새로운 저복잡도 LMS 및 순환 최소 제곱(RLS) 알고리즘을 개발하기 위해.

제안 방법

• 정보가 풍부한 데이터 샘플만 선택하여 필터 계수 갱신 횟수를 줄이기 위해 세트-멤버십(SM) 필터링을 채택한다.
• 각 반복에서 필터 계수의 일부만 갱신함으로써 계산 부담을 추가로 줄이기 위해 부분 갱신 기법을 통합한다.
• 다차원 신호 처리 응용을 지원하기 위해 복소수 영역, 특히 허니톤과 트리니온을 포함한 복소수 영역으로 SM 필터링을 확장한다.
• 희박한 시스템 식별을 위한 저복잡도 알고리즘을 설계하기 위해 새로운 최소 평균 제곱(LMS) 및 순환 최소 제곱(RLS) 알고리즘을 개발한다.
• 필터 파rameter의 숨겨진 희박성을 활용하여 수렴성 향상과 연산 수 감소를 도모하는 기능 기반 LMS 알고리즘을 설계한다.
• SM 필터링과 부분 갱신을 통합한 유일한 프레임워크를 통해 안정성에 손상이 가지 않으면서 에너지 효율성을 극대화한다.

실험 결과

연구 질문

• RQ1 세트-멤버십 필터링을 부분 갱신과 효과적으로 조합하여 적응 필터에서 계산 부담을 최소화할 수 있는가?
• RQ2 SM 필터링을 허니톤과 트리니온으로 확장할 경우 다차원 신호 처리 작업에서 성능 향상에 어느 정도 기여할 수 있는가?
• RQ3 숨겨진 희박성을 활용한 새로운 LMS 기반 알고리즘이 복잡도를 낮추면서도 경쟁력 있는 수렴성과 안정성을 유지할 수 있는가?
• RQ4 적응 필터링에 데이터 선택적 학습을 적용할 경우 에너지 효율성과 성능 사이의 상호 교환 관계는 어떠한가?
• RQ5 제안된 알고리즘은 희박한 환경에서 기존의 적응 필터링 방법과 비교해 안정성과 계산 비용 측면에서 어떻게 다른가?

주요 결과

• 제안된 SM 기반 알고리즘은 정보가 풍부한 데이터 샘플만 선택적으로 갱신함으로써 산술 연산 횟수를 크게 줄였다.
• 부분 갱신과 SM 필터링의 통합은 필터 안정성을 유지하면서도 계산 복잡도를 크게 감소시켰다.
• SM 필터링을 허니톤과 트리니온으로 확장함으로써 다차원 및 복소수 신호 처리 응용에서 효율적인 처리가 가능해졌다.
• 희박한 시스템을 위한 새로운 LMS 기반 알고리즘은 필터 파rameter의 숨겨진 희박성을 활용하여 계산 복잡도를 낮추었다.
• 제안된 방법들은 기존의 적응 필터와 비교해 수렴성과 안정성 측면에서 경쟁 가능한 성능을 유지를 하였다.
• 전반적인 프레임워크는 배터리 구동 및 녹색 전자 기기용 에너지 효율적인 적응 필터링을 가능하게 하였다.