[논문 리뷰] EfficientBioAI: Making Bioimaging AI Models Efficient in Energy, Latency and Representation

Yu Zhou, Justin Sonneck외 5명|arXiv (Cornell University)|2023. 06. 09.

Cell Image Analysis TechniquesBiochemistry, Genetics and Molecular Biology인용 수 3

한 줄 요약

EfficientBioAI는 생물영상 AI 모델을 프루닝과 양자화를 사용해 압축하는 즉시 사용 가능한 도구상자로, 정확도를 훼손하지 않고 에너지 소비를 30–80% 감소시키고 추론 지연을 2–5배 향상시킵니다. 때로는 과적합을 줄여 정확도를 향상시키기도 합니다. 이 도구는 PyTorch, U-Net, mmv_im2im과 같은 일반적인 생물영상 분석 프레임워크와 호환되어 다양한 생물의학 영상 작업에서 CPU와 GPU에서 효율적으로 배포할 수 있습니다.

ABSTRACT

Artificial intelligence (AI) has been widely used in bioimage image analysis nowadays, but the efficiency of AI models, like the energy consumption and latency is not ignorable due to the growing model size and complexity, as well as the fast-growing analysis needs in modern biomedical studies. Like we can compress large images for efficient storage and sharing, we can also compress the AI models for efficient applications and deployment. In this work, we present EfficientBioAI, a plug-and-play toolbox that can compress given bioimaging AI models for them to run with significantly reduced energy cost and inference time on both CPU and GPU, without compromise on accuracy. In some cases, the prediction accuracy could even increase after compression, since the compression procedure could remove redundant information in the model representation and therefore reduce over-fitting. From four different bioimage analysis applications, we observed around 2-5 times speed-up during inference and 30-80$\%$ saving in energy. Cutting the runtime of large scale bioimage analysis from days to hours or getting a two-minutes bioimaging AI model inference done in near real-time will open new doors for method development and biomedical discoveries. We hope our toolbox will facilitate resource-constrained bioimaging AI and accelerate large-scale AI-based quantitative biological studies in an eco-friendly way, as well as stimulate further research on the efficiency of bioimaging AI.

연구 동기 및 목표

• 자원이 제한된 환경과 대규모 생물학적 연구에서 점점 더 복잡해지는 생물영상 AI 모델의 에너지 및 지연 비용 증가 문제를 해결합니다.
• 생물학자들과 기존 생물영상 AI 프레임워크에 특화된 접근성 있고 일반적인 목적의 모델 압축 도구가 부족한 문제를 해결합니다.
• 예측 성능을 훼손하지 않고도 CPU, 엣지 디바이스, 다양한 하드웨어 백엔드에서 AI 모델을 효율적으로 배포할 수 있도록 합니다.
• 모델 압축이 중복 표현을 제거함으로써 과적합을 줄여 정확도를 향상시킬 수 있음을 보여주며, 이는 정규화 효과를 증명합니다.
• 효율적인 AI 모델을 널리 활용할 수 있도록 해 생태 친화적이고 확장 가능한 AI 기반 생물학적 발견을 촉진합니다.

제안 방법

• 모델 크기와 계산 부담을 줄이기 위해 신경망 프루닝과 양자화를 핵심 압축 기법으로 통합합니다.
• 32비트 부동소수점 가중치와 활성화를 8비트 정수로 변환하는 후기 훈련 양자화를 적용하여 메모리 접근과 에너지 소비를 최소화합니다.
• 낮은 중요도의 필터나 뉴런을 제거하는 구조적 프루닝을 사용하여 모델 복잡성을 줄이고 특징 표현을 유지합니다.
• PyTorch 기반 모델과 CellPose, DeepImageJ, mmv_im2im과 같은 일반적인 생물영상 도구와 즉시 사용 가능한 통합을 지원합니다.
• 다양한 압축 전략(예: 프루닝 이후 양자화)을 조합하여 최적의 효율성을 달성할 수 있는 사용자 정의 가능한 파이프라인을 체계적으로 구성합니다.
• 최적화된 추론 엔진을 통해 CPU 및 GPU 플랫폼 전반에 걸쳐 압축된 모델을 배포하여 상호 호환성과 저지연 추론을 보장합니다.

Figure 1: overview of the toolbox. EfficientBioAI aims to compress the model and accelerate the bioimage tasks. a. Given a pretrained neural network (NN) in pytorch, the whole pipeline consists of two phases: compression (pruning, quantization) and inference. The compressed models are able to run on

실험 결과

연구 질문

• RQ1 프루닝과 양자화를 통한 모델 압축이 생물영상 AI 모델의 에너지 소비와 추론 지연을 뚜렷이 줄일 수 있을까요? 이 과정에서 정확도가 떨어지지 않을까요?
• RQ2 저자료 환경에서 양자화와 프루닝과 같은 압축 기법이 과적합을 줄여 모델 일반화 능력을 얼마나 향상시킬 수 있을까요?
• RQ3 압축 기법은 3D 생물영상 분석 작업, 예를 들어 라이트 시트 현미경에서 옵티시트 세포의 의미론적 세그멘테이션과 같은 대규모 작업에서 얼마나 효과적인가요?
• RQ4 세부적인 구조적 특징이 중요한 레이블 없는 형광 영상 예측 작업에서 압축된 모델이 정확도를 유지할 수 있을까요?
• RQ5 mmv_im2im과 U-Net과 같이 널리 사용되는 기존 생물영상 AI 프레임워크와의 호환성은 어떻게 되며, 실제로 어떤 성능 향상이 기대될 수 있을까요?

주요 결과

• 3D 세그멘테이션과 레이블 없는 영상 분석을 포함한 네 가지 생물영상 분석 작업 전반에서 추론 시간이 2–5배 빨라졌습니다.
• 추론 과정에서 에너지 소비가 30–80% 감소하여 AI 기반 분석의 환경 영향을 크게 줄였습니다.
• 어떤 경우에서는 과적합이 감소함에 따라 모델 정확도가 향상되어 프루닝과 양자화의 정규화 효과를 입증했습니다.
• 압축된 모델은 인간 레이블 기반 참값과의 시각적 검토와 정량적 비교를 통해 원본 모델과 거의 동일한 예측 품질을 유지했습니다.
• 두 분의 추론 작업을 실시간 수준으로 가속화하여 더 빠른 반복적 방법 개발과 대규모 걸러내기 스크리닝을 가능하게 했습니다.
• mmv_im2im, CellPose, U-Net과 같은 인기 있는 생물영상 AI 도구와의 강력한 호환성을 입증하여 분야 전반에 걸쳐 넓은 적용 가능성을 보였습니다.

Figure 2: The effect of the sparsity ratio on different pruners, i.e., pruning algorithms (L1, L2, and FPGM) by observing the ratio of performance degradation (a.), energy saving (b.) and latency speedup (c.).