[논문 리뷰] The Larger The Fairer? Small Neural Networks Can Achieve Fairness for Edge Devices

Yi Sheng, Junhuan Yang외 6명|arXiv (Cornell University)|2022. 02. 23.

Cutaneous Melanoma Detection and Management인용 수 5

한 줄 요약

이 논문은 엣지 디바이스를 위한 작은, 정확하고 공정한 신경망을 자동으로 발견하는 공정성 및 하드웨어를 고려한 신경망 아키텍처 탐색 프레임워크인 FaHaNa를 제안한다. 강화학습 기반 NAS에 공정성을 통합하고, 새로운 웨이트-프리징 기법을 사용함으로써 FaHaNa는 MobileNetV2 대비 15.14% 높은 공정성, 5.28배 더 작은 모델 크기, 라즈베리 파이에서 5.75배 빠른 속도를 달성하면서도 정확도를 유지하거나 향상시킨다.

ABSTRACT

Along with the progress of AI democratization, neural networks are being deployed more frequently in edge devices for a wide range of applications. Fairness concerns gradually emerge in many applications, such as face recognition and mobile medical. One fundamental question arises: what will be the fairest neural architecture for edge devices? By examining the existing neural networks, we observe that larger networks typically are fairer. But, edge devices call for smaller neural architectures to meet hardware specifications. To address this challenge, this work proposes a novel Fairness- and Hardware-aware Neural architecture search framework, namely FaHaNa. Coupled with a model freezing approach, FaHaNa can efficiently search for neural networks with balanced fairness and accuracy, while guaranteed to meet hardware specifications. Results show that FaHaNa can identify a series of neural networks with higher fairness and accuracy on a dermatology dataset. Target edge devices, FaHaNa finds a neural architecture with slightly higher accuracy, 5.28x smaller size, 15.14% higher fairness score, compared with MobileNetV2; meanwhile, on Raspberry PI and Odroid XU-4, it achieves 5.75x and 5.79x speedup.

연구 동기 및 목표

• 자원이 제한된 엣지 디바이스에 구현된 작은 신경망에서 공정성을 달성하는 데 도전하는 것.
• 하드웨어 제약 조건을 훼손하지 않으면서 높은 정확도, 낮은 지연 시간, 높은 공정성을 균형 잡는 신경망 아키텍처를 식별하는 것.
• 기존 NAS 방법에서 자주 간과되는 공정성 차원을 명시적으로 최적화하는 자동화된 NAS 프레임워크를 개발하는 것.
• 웨이트-프리징 기법을 통해 검색 공간과 학습 시간을 줄이며 공정성을 유지하는 방식으로 NAS 과정을 가속화하는 것.

제안 방법

• FaHaNa는 대상 엣지 플랫폼에서 정확도, 공정성, 하드웨어 효율성(지연 시간)을 동시에 최적화하는 강화학습 기반 NAS 프레임워크를 사용한다.
• 아키텍처 탐색을 이끄는 데 사용되는 맞춤형 리워드 함수를 도입하여 정확도, 공정성(불공정도 점수로 측정), 지연 시간을 균형 있게 조정한다.
• 사전 학습된 파라미터를 사용해 공통 특징을 추출하는 네트워크의 앞부분(헤드 레이어)의 웨이트를 고정하는 새로운 웨이트-프리징 기법을 제안한다. 이를 통해 검색 복잡도를 감소시킨다.
• 프레임워크는 공정성이 가장 민감한 부분인 꼬리 레이어에 집중하여 아키텍처 탐색을 수행함으로써 공정성 최적화된 아키텍처의 효율적 탐색을 가능하게 한다.
• 블록 수준의 유연성을 활용하여 초기 레이어에서는 효율성을 위해 MB 블록을, 후기 레이어에서는 공정성을 위해 CB/RB 블록을 사용함으로써 더 나은 트레이드오프를 가능하게 한다.
• FaHaNa는 데이터 밸런싱 기법과도 호환되어 재학습 없이도 추가적인 공정성 향상을 가능하게 한다.

실험 결과

연구 질문

• RQ1 큰 모델일수록 더 공정한 경향이 관찰됨에도 불구하고, 엣지 디바이스에서 작은 신경망이 높은 공정성을 달성할 수 있는가?
• RQ2 전반적인 정확도나 하드웨어 효율성에 영향을 주지 않으면서 공정성을 신경망 아키텍처 탐색에 효과적으로 통합할 수 있는가?
• RQ3 엣지 AI 모델에서 모델 크기, 추론 속도, 공정성 간의 균형을 이루는 데 도움이 되는 아키텍처 패턴은 무엇인가?
• RQ4 공정성이나 정확도에 영향을 주지 않으면서도 NAS를 가속화할 수 있는 프리징 전략은 가능한가?
• RQ5 실제 엣지 하드웨어에서 FaHaNa는 MobileNetV2 및 ResNet-50와 같은 기존 모델에 비해 공정성, 정확도, 지연 시간 측면에서 어떻게 비교되는가?

주요 결과

• FaHaNa는 MobileNetV2보다 5.28배 더 작고, 15.14% 더 공정하며, 라즈베리 파이에서 5.75배 더 빠른 신경망 아키텍처를 발견하였다. 이는 기준 모델 중에서 가장 높은 공정성을 보였던 MobileNetV2를 초월한다.
• Odroid XU-4에서 FaHaNa는 MobileNetV2보다 5.79배 빠른 속도를 기록했으며, 더 높은 공정성과 정확도를 유지했다.
• FaHaNa-Small는 81.28%의 정확도와 0.1973의 불공정도 점수를 기록하여, MobileNetV2(81.05% 정확도, 0.2325 불공정도 점수)보다 공정성은 높이고 정확도 손실는 최소한으로 유지했다.
• 데이터 밸런싱 이후 FaHaNa-Fair는 0.1365의 불공정도 점수를 기록하여 기준 모델 대비 0.0608 향상되었고, ResNet-50보다 4.27배 더 작았다.
• FaHaNa-Nets의 파레토 경계는 대부분의 기존 모델을 압도하며, FaHaNa-Small는 정확도-불공정도 트레이드오프에서 MobileNetV2를 제외한 모든 경쟁 모델을 초월했다.
• 프리징 방법은 학습 파라미터 수와 검색 시간을 크게 감소시켜, 최종 아키텍처의 공정성이나 정확도에 영향을 주지 않으면서도 NAS를 가속화했다.