[논문 리뷰] VarGNet: Variable Group Convolutional Neural Network for Efficient Embedded Computing

Qian Zhang, Jianjun Li외 7명|arXiv (Cornell University)|2019. 07. 12.

Advanced Neural Network Applications참고 문헌 51인용 수 24

한 줄 요약

이 논문은 변수 그룹 합성곱(Variable group convolution)을 도입하여, 그룹당 입력 채널 수를 고정하는 방식으로, 고정된 그룹 수가 아닌 방식을 통해 효율적인 임베디드 추론을 최적화한 새로운 컨볼루션 신경망 아키텍처인 VarGNet을 제안한다. 이 설계는 더 균일한 계산 패턴과 데이터 레이아웃을 가능하게 하여 하드웨어 및 컴파일러 최적화를 크게 향상시킨다. VarGNet은 다양한 비전 작업에서 최신 기준 성능을 달성하면서도 MAdds와 파라미터 수를 감소시켜, 엣지 디바이스에서 뛰어난 효율성을 입증한다.

ABSTRACT

In this paper, we propose a novel network design mechanism for efficient embedded computing. Inspired by the limited computing patterns, we propose to fix the number of channels in a group convolution, instead of the existing practice that fixing the total group numbers. Our solution based network, named Variable Group Convolutional Network (VarGNet), can be optimized easier on hardware side, due to the more unified computing schemes among the layers. Extensive experiments on various vision tasks, including classification, detection, pixel-wise parsing and face recognition, have demonstrated the practical value of our VarGNet.

연구 동기 및 목표

• 임베디드 AI 시스템에서 네트워크 아키텍처 설계와 하드웨어/컴파일러 최적화 간 격차를 해소하기 위해.
• 임베디드 칩에 존재하는 제한된 고정된 계산 유닛과 일치하는 네트워크 계산 패턴을 정렬하여 하드웨어 효율성을 향상시키기 위해.
• 레이어 간 균형 잡힌 계산 강도와 더 나은 데이터 레이아웃을 통해 외부 메모리 액세스 비용을 감소시키기 위해.
• 체계적인 아키텍처 설계를 통해 경량 네트워크의 기존 FPGA 및 ASIC 가속기와의 호환성을 향상시키기 위해.
• 고정된 그룹당 채널 수 방식이 기존의 고정된 그룹 수 합성곱보다 컴파일러 및 하드웨어 최적화에 더 나은 성능을 발휘할 수 있음을 입증하기 위해.

제안 방법

• 그룹당 입력 채널 수를 고정하고 조정 가능한 하이퍼파라미터로 설정하는 변수 그룹 합성곱을 도입하여, 그룹 수를 고정하는 기존 방식을 대체한다.
• 표준 인버티드 잔여 블록을 수정한 설계로 대체: 변수 그룹 합성곱을 사용해 입력 채널을 2C로 확장한 후, 점밀도 합성곱을 통해 다시 C로 압축하여 계산 강도를 균형 잡는다.
• 칩 내부에서의 메모리 이동을 최소화하는 이상적인 데이터 레이아웃을 갖춘 네트워크 설계로, 통신 오버헤드를 감소시킨다.
• 모든 레이어에서 일관된 계산 패턴을 확보하여 하드웨어 최적화를 유도하고, 스트리밍 또는 단일 계산 엔진 가속기의 효율적 활용을 가능하게 한다.
• 깊이분리형 합성곱을 기반으로 하지만, 채널 확장 및 압축 단계를 재구조화하여 계산 균형을 향상시킨다.
• 네트워크의 연산 패턴을 대상 칩의 지원 명령어 세트와 일치시켜 기존 컴파일러 및 가속기 프레임워크를 활용한다.

실험 결과

연구 질문

• RQ1 임베디드 하드웨어의 제한된 계산 패턴과 네트워크 아키텍처 설계를 어떻게 일치시켜 효율성을 향상시킬 수 있는가?
• RQ2 어떤 아키텍처적 변화가 임베디드 CNN에서 외부 메모리 액세스를 줄이고 데이터 레이아웃의 일관성을 향상시킬 수 있는가?
• RQ3 그룹 수가 아니라 그룹당 입력 채널 수를 고정하는 방식이 기존의 고정된 그룹 합성곱보다 하드웨어 및 컴파일러 최적화에 더 나은 성능을 발휘할 수 있는가?
• RQ4 변수 그룹 합성곱은 깊이분리형 합성곱과 비교해 모델 용량과 통신 비용 측면에서 어떻게 다른가?
• RQ5 하드웨어 인식 네트워크 설계는 실제 임베디드 비전 작업에서 성능 향상에 얼마나 기여할 수 있는가?

주요 결과

• VarGNet v1 1.0은 36.0 G MAdds와 13.2M 파라미터를 기록하여, KITTI 스테레오 깊이 추정에서 MobileNetV2 1.0(36.8 G MAdds, 7.6M 파라미터)을 능가하며, 더 낮은 EPE(1.3296 vs. 1.424)와 D1(0.0703 vs. 0.0777)를 기록한다.
• KITTI RAW 데이터셋에서 VarGNet v1 1.0은 略적으로 낮은 절대 상대 오차(0.098)와 더 높은 정확도(δ <1.25: 0.899)를 기록했으며, MAdds는 약간 낮지만 MobileNetV2 1.0(0.097 및 0.903)보다 우수하다.
• 얼굴 인식 작업에서 VarGNet v1 1.0은 1e-6 FRR에서 MegaFace Challenge 1에서 96.15%의 정확도를 달성하여, MobileNetV2(89.82%)와 MobileNetV1(93.58%)를 초월하며, 오직 603M MAdds로도 성능을 확보한다.
• VarGNet v2 1.0은 MAdds를 20.7G로 감소시키면서도 KITTI15에서 경쟁 가능한 성능(EPE: 1.5856)을 유지하여, 저전력 배포에 매우 효율적임을 입증한다.
• 제안된 변수 그룹 합성곱은 깊이분리형과 점밀도 합성곱 간 계산 균형을 향상시켜 컴파일러 및 하드웨어 최적화 과제를 줄인다.
• 분류, 검출, 세그멘테이션, 스테레오 깊이, 얼굴 인식 등 다양한 작업에서의 실험을 통해 VarGNet의 실용적 가치와 엣지 디바이스에서의 광범위한 적용 가능성을 확인했다.