[论文解读] The Larger The Fairer? Small Neural Networks Can Achieve Fairness for Edge Devices

Yi Sheng, Junhuan Yang+6 more|arXiv (Cornell University)|Feb 23, 2022

Cutaneous Melanoma Detection and Management被引用 5

一句话总结

该论文提出 FaHaNa，一种兼顾公平性与硬件效率的神经架构搜索框架，可自动发现适用于边缘设备的小型、高精度且公平的神经网络。通过将公平性整合进基于强化学习的 NAS，并采用一种新颖的权重冻结技术，FaHaNa 在保持或提升准确率的同时，相较于 MobileNetV2，实现了 15.14% 的公平性提升、模型尺寸缩小 5.28 倍，以及在 Raspberry Pi 上 5.75 倍的推理速度提升。

ABSTRACT

Along with the progress of AI democratization, neural networks are being deployed more frequently in edge devices for a wide range of applications. Fairness concerns gradually emerge in many applications, such as face recognition and mobile medical. One fundamental question arises: what will be the fairest neural architecture for edge devices? By examining the existing neural networks, we observe that larger networks typically are fairer. But, edge devices call for smaller neural architectures to meet hardware specifications. To address this challenge, this work proposes a novel Fairness- and Hardware-aware Neural architecture search framework, namely FaHaNa. Coupled with a model freezing approach, FaHaNa can efficiently search for neural networks with balanced fairness and accuracy, while guaranteed to meet hardware specifications. Results show that FaHaNa can identify a series of neural networks with higher fairness and accuracy on a dermatology dataset. Target edge devices, FaHaNa finds a neural architecture with slightly higher accuracy, 5.28x smaller size, 15.14% higher fairness score, compared with MobileNetV2; meanwhile, on Raspberry PI and Odroid XU-4, it achieves 5.75x and 5.79x speedup.

研究动机与目标

• 解决在资源受限的边缘设备上部署小型神经网络时实现公平性的挑战。
• 识别在不牺牲硬件约束的前提下，能平衡高精度、低延迟与高公平性的神经架构。
• 开发一种自动化 NAS 框架，明确优化公平性这一在现有 NAS 方法中常被忽视的维度。
• 通过一种新颖的权重冻结方法加速 NAS 过程，该方法在缩小搜索空间和训练时间的同时，保持公平性。

提出的方法

• FaHaNa 采用基于强化学习的 NAS 框架，在目标边缘平台联合优化精度、公平性与硬件效率（延迟）。
• 提出一种自定义奖励函数，通过平衡精度、公平性（以不公平得分衡量）与延迟，引导架构搜索。
• 提出一种新颖的权重冻结方法，固定网络前部（头部）层的权重，利用预训练参数以降低搜索复杂度。
• 框架将架构搜索聚焦于尾部层，因为该部分对公平性最为敏感，从而实现对公平性优化架构的高效探索。
• 该方法利用模块级灵活性——在早期层使用 MB 模块以提升效率，在后期层使用 CB/RB 模块以增强公平性——实现更优的权衡。
• FaHaNa 兼容数据平衡技术，可在无需从头开始训练的前提下进一步提升公平性。

实验结果

研究问题

• RQ1 尽管观察到大模型更公平，小型神经网络是否也能在边缘设备上实现高公平性？
• RQ2 如何在不降低整体精度或硬件效率的前提下，有效将公平性整合进神经架构搜索？
• RQ3 何种架构模式可实现在边缘 AI 模型中模型尺寸、推理速度与公平性之间的平衡？
• RQ4 冻结策略是否能加速 NAS 过程，同时不损害最终架构的公平性或精度？
• RQ5 在真实边缘硬件上，FaHaNa 与 MobileNetV2 和 ResNet-50 等现有模型相比，在公平性、精度与延迟方面表现如何？

主要发现

• 与在基线模型中公平性最高的 MobileNetV2 相比，FaHaNa 发现的神经架构在模型尺寸上缩小 5.28 倍，公平性提升 15.14%，在 Raspberry Pi 上推理速度提升 5.75 倍。
• 在 Odroid XU-4 上，FaHaNa 相较于 MobileNetV2 实现了 5.79 倍的加速，同时保持更高的公平性与精度。
• FaHaNa-Small 模型达到 81.28% 的精度与 0.1973 的不公平得分，相较于 MobileNetV2（81.05% 精度，0.2325 不公平得分）在公平性方面表现更优，且精度损失可忽略。
• 在数据平衡后，FaHaNa-Fair 的不公平得分为 0.1365，较基线提升 0.0608，同时模型尺寸仅为 ResNet-50 的 4.27 倍。
• FaHaNa-Nets 的帕累托前沿优于大多数现有模型，其中 FaHaNa-Small 在多数精度-不公平性权衡中表现优于所有竞争模型，仅略逊于 MobileNetV2。
• 权重冻结方法显著减少了训练参数与搜索时间，加速了 NAS 过程，且不影响最终架构的公平性与精度。