[论文解读] A Novel lightweight Convolutional Neural Network, ExquisiteNetV2

Shyh Yaw Jou, Chung‐Yen Su|arXiv (Cornell University)|May 19, 2021

Anomaly Detection Techniques and Applications参考文献 24被引用 6

一句话总结

ExquisiteNetV2 是一种新颖的轻量级卷积神经网络，旨在以极少的参数量和极高的推理速度实现最先进水平的准确率。它通过优化架构组件以提升效率和性能，在15个数据集上的大多数基准测试中，其准确率、参数数量和速度均优于10种知名模型。

ABSTRACT

In the paper of ExquisiteNetV1, the ability of classification of ExquisiteNetV1 is worse than DenseNet. In this article, we propose a faster and better model ExquisiteNetV2. We conduct many experiments to evaluate its performance. We test ExquisiteNetV2, ExquisiteNetV1 and other 9 well-known models on 15 credible datasets under the same condition. According to the experimental results, ExquisiteNetV2 gets the highest classification accuracy over half of the datasets. Important of all, ExquisiteNetV2 has fewest amounts of parameters. Besides, in most instances, ExquisiteNetV2 has fastest computing speed.

研究动机与目标

• 为解决ExquisiteNetV1在分类任务中表现不佳、相较于DenseNet性能不足的问题。
• 开发一种更适合资源受限环境的更高效、更准确的轻量级CNN架构。
• 在最大化分类准确率的同时，最小化模型参数量。
• 在相同实验条件下，评估模型在多样化、可信数据集上的泛化能力。
• 在准确率、效率和速度方面，为轻量级CNN树立新的基准。

提出的方法

• 基于ExquisiteNetV1的不足之处，提出针对ExquisiteNetV2的重新设计架构。
• 通过架构优化，在保持或提升特征表示能力的同时减少参数量。
• 采用轻量级设计策略，聚焦于高效的卷积操作和减少模型深度。
• 在15个多样化数据集上采用标准化评估协议，确保公平比较。
• 与10种成熟模型（包括DenseNet）进行广泛的消融实验和对比实验。
• 通过架构简化和参数效率优化，提升网络的推理速度。

实验结果

研究问题

• RQ1 轻量级CNN架构是否能在保持极少参数量的同时，实现比现有模型更高的分类准确率？
• RQ2 ExquisiteNetV2在多样化数据集上是否在准确率和效率方面均优于ExquisiteNetV1？
• RQ3 ExquisiteNetV2在参数量、推理速度和准确率方面与10种知名模型相比如何？
• RQ4 轻量级模型是否能在广泛的计算机视觉数据集中保持高性能？
• RQ5 所提出架构中，模型大小、速度和准确率之间的权衡关系如何？

主要发现

• ExquisiteNetV2在15个测试数据集中的超过一半上实现了最高的分类准确率。
• 在所有评估模型中，包括ExquisiteNetV1和10种知名模型，ExquisiteNetV2的参数量最少。
• 在大多数基准测试中，ExquisiteNetV2表现出最快的推理速度。
• 该模型显著提升了ExquisiteNetV1的分类性能，克服了其相对于DenseNet表现不佳的问题。
• ExquisiteNetV2在多样化数据集上保持了强大的泛化能力，表明其具备鲁棒性和可扩展性。
• 该模型在效率与准确率方面的结合，为资源受限环境下的轻量级CNN树立了新基准。