[論文レビュー] Low-Complexity Models for Acoustic Scene Classification Based on Receptive Field Regularization and Frequency Damping

Khaled Koutini, Florian Henkel+2 more|arXiv (Cornell University)|Nov 5, 2020

Music and Audio Processing参考文献 21被引用数 8

ひとこと要約

本論文は、音響シーン分類のための低複雑性畳み込みニューラルネットワークにおける受容 field の正則化のための周波数減衰技術を提案し、アーキテクチャの変更なしに汎化性能を向上させている。この手法は、パラメータ削減の各設定（プルーニング、分解、幅削減）においても最先端の性能を達成し、DCASE-2020 低複雑性音響シーン分類コンテストで1位を獲得した。

ABSTRACT

Deep Neural Networks are known to be very demanding in terms of computing and memory requirements. Due to the ever increasing use of embedded systems and mobile devices with a limited resource budget, designing low-complexity models without sacrificing too much of their predictive performance gained great importance. In this work, we investigate and compare several well-known methods to reduce the number of parameters in neural networks. We further put these into the context of a recent study on the effect of the Receptive Field (RF) on a model's performance, and empirically show that we can achieve high-performing low-complexity models by applying specific restrictions on the RFs, in combination with parameter reduction methods. Additionally, we propose a filter-damping technique for regularizing the RF of models, without altering their architecture and changing their parameter counts. We will show that incorporating this technique improves the performance in various low-complexity settings such as pruning and decomposed convolution. Using our proposed filter damping, we achieved the 1st rank at the DCASE-2020 Challenge in the task of Low-Complexity Acoustic Scene Classification.

研究の動機と目的

• 低複雑性 CNN における受容 field の大きさ、モデルの複雑さ、汎化性能の間の相互作用を調査すること。
• プルーニング、分解、幅削減といったパラメータ削減技術の有効性を、受容 field の条件を一定に保った状態で評価すること。
• アーキテクチャに依存しない、軽量な受容 field 正則化手法を考案し、低複雑性モデルの汎化性能を向上させること。
• モデルパラメータを増加させることなく、低複雑性音響シーン分類で最先端の性能を達成すること。

提案手法

• アーキテクチャやパラメータ数を変更せずにフィルタ重みを変更することで、任意の CNN の有効受容 field を正則化するフィルタ減衰技術を提案する。
• 受容 field の大きさを制御するハイパーパramータ ρ を用いて、ResNet をベースとするモデルに減衰を適用し、性能に与える受容 field の影響を体系的に調査する。
• 標準的な低複雑性技術を用いる：重みプルーニング、圧縮率 Z=4 のチャネル別分解、ベースチャネル数を 64 または 32 に削減する。
• 比較の基準として、減衰を適用したベースラインモデル（Damp）を用い、プルーニング、分解、幅削減の各バリエーションにおける性能を比較する。
• 再訓練と重みリセットを伴う反復的プルーニングを適用し、すべての層に均一に減衰を適用することで、学習の安定化と汎化性能の向上を図る。
• 精度と非ゼロパラメータ数を指標として、DCASE’18 および DCASE’20 データセット上でモデルを評価する。

実験結果

リサーチクエスチョン

• RQ1 受容 field の大きさは、低複雑性 CNN の音響シーン分類性能にどのように影響するか？
• RQ2 プルーニング、分解、幅削減のうち、どのパラメータ削減手法が受容 field 正則化下で最も優れた精度-複雑さトレードオフを達成するか？
• RQ3 侵襲的でなく、アーキテクチャに依存しない手法が、パラメータ数を増加させずに低複雑性モデルの汎化性能を向上させられるか？
• RQ4 周波数減衰は、低複雑性設定における受容 field の大きさの変動に対して、性能のロバストネスを向上させるか？

主な発見

• 周波数減衰は、すべての低複雑性設定で精度を向上させた。DCASE’20 では、減衰を適用した ResNet が 106万非ゼロパラメータで 97.45% の精度を達成し、非減衰ベースラインを上回った。
• パラメータ削減手法の中で、プルーニングが最も高い性能を示し、DCASE’20 では非ゼロパラメータ数が 25万にまで削減されても 97.45% の精度を維持した。
• 分解された畳み込み層では顕著な性能低下（97.00% の精度）が生じ、低複雑性設定においてはより脆弱であることが示された。
• 減衰を適用した 64 ベースチャネルへの幅削減では DCASE’20 で 97.22% の精度を達成したが、さらに 32 チャネルに削減すると性能が著しく低下した。
• DCASE’18 では、ρ=7 の減衰付き ResNet が 79.15% の精度を達成し、非減衰ベースラインより 0.63 パcentage ポints 高かった。
• 提案された減衰技術により、モデルは DCASE-2020 低複雑性音響シーン分類コンテストで 1 位を獲得した。