[论文解读] Genetic Neural Architecture Search for automatic assessment of human sperm images

Erfan Miahi, Seyed Abolghasem Mirroshandel+1 more|arXiv (Cornell University)|Sep 20, 2019

Sperm and Testicular Function参考文献 74被引用 31

一句话总结

该论文提出遗传神经架构搜索（GeNAS），一种新颖的神经架构搜索框架，采用定制化的遗传算法，自动发现适用于人类精子图像评估的最优卷积神经网络架构。GeNAS在MHSMA数据集上实现了最先进性能——空泡异常检测准确率为91.66%，头部异常为77.33%，顶体异常为77.66%，同时计算效率高，对数据稀缺和类别不平衡具有鲁棒性。

ABSTRACT

Male infertility is a disease which affects approximately 7% of men. Sperm morphology analysis (SMA) is one of the main diagnosis methods for this problem. Manual SMA is an inexact, subjective, non-reproducible, and hard to teach process. As a result, in this paper, we introduce a novel automatic SMA based on a neural architecture search algorithm termed Genetic Neural Architecture Search (GeNAS). For this purpose, we used a collection of images called MHSMA dataset contains 1,540 sperm images which have been collected from 235 patients with infertility problems. GeNAS is a genetic algorithm that acts as a meta-controller which explores the constrained search space of plain convolutional neural network architectures. Every individual of the genetic algorithm is a convolutional neural network trained to predict morphological deformities in different segments of human sperm (head, vacuole, and acrosome), and its fitness is calculated by a novel proposed method named GeNAS-WF especially designed for noisy, low resolution, and imbalanced datasets. Also, a hashing method is used to save each trained neural architecture fitness, so we could reuse them during fitness evaluation and speed up the algorithm. Besides, in terms of running time and computation power, our proposed architecture search method is far more efficient than most of the other existing neural architecture search algorithms. Additionally, other proposed methods have been evaluated on balanced datasets, whereas GeNAS is built specifically for noisy, low quality, and imbalanced datasets which are common in the field of medical imaging. In our experiments, the best neural architecture found by GeNAS has reached an accuracy of 91.66%, 77.33%, and 77.66% in the vacuole, head, and acrosome abnormality detection, respectively. In comparison to other proposed algorithms for MHSMA dataset, GeNAS achieved state-of-the-art results.

研究动机与目标

• 解决人工精子形态学分析的局限性，其具有主观性、不可复现性且难以标准化。
• 克服真实医学数据集带来的挑战，包括数据稀缺、类别不平衡和图像噪声，这些因素会阻碍传统神经架构搜索（NAS）方法的应用。
• 开发一种自动化、高效且鲁棒的NAS框架，专为有限且嘈杂的数据集上的医学图像分类任务而设计。
• 设计一种有效的适应函数，以在小样本和类别不平衡数据集中常见的训练动态不稳定条件下评估神经架构。
• 实现紧凑且高性能的CNN架构发现，最大限度减少人工干预并降低计算成本。

提出的方法

• 采用遗传算法作为元控制器，在受限的纯卷积神经网络（CNN）架构搜索空间中进行探索。
• 将每个CNN架构表示为染色体，其中基因编码超参数，如滤波器大小、卷积核大小和步长。
• 引入GeNAS加权因子（GeNAS-WF），一种新颖的适应函数，以稳定评估在训练过程中验证准确率波动的模型。
• 应用专用的遗传操作：锦标赛选择、交叉（用于探索网络深度）、突变（用于探索超参数空间）。
• 实施哈希机制以缓存并重用适应度评估结果，显著加速搜索过程。
• 在基因型到表型转换过程中引入剪枝步骤，以防止出现空间维度为负的无效架构。

实验结果

研究问题

• RQ1 基于遗传算法的NAS框架是否能有效在小样本、类别不平衡且含噪的数据集上发现高性能的CNN架构用于精子形态学分析？
• RQ2 所提出的GeNAS-WF适应函数在数据稀缺和训练不稳定的条件下，如何提升架构评估的可靠性？
• RQ3 与现有NAS方法及人工设计模型相比，GeNAS在保持或提升性能的同时，能在多大程度上降低计算成本？
• RQ4 所发现的架构在低质量、非染色和低倍率图像等真实医学影像场景中是否具备良好的泛化能力？
• RQ5 该框架是否能实现全自动、无需人工干预的架构发现，并优于随机搜索和现有手工设计模型？

主要发现

• GeNAS在MHSMA数据集上实现了最先进准确率：空泡异常检测为91.66%，头部异常为77.33%，顶体异常为77.66%，优于先前方法。
• GeNAS发现的最佳架构在头部和空泡标签上，精度和F0.5得分均优于人工设计模型和随机搜索，且参数量显著更少。
• 该算法在单张NVIDIA GPU上训练时间不足10天，相比其他NAS方法展现出极高的计算效率。
• Grad-CAM可视化解释表明，模型关注于生物学相关区域——头部、顶体和空泡，验证了其临床可解释性。
• 该框架对类别不平衡和图像噪声具有鲁棒性，适用于高质量数据稀缺的真实医学应用场景。
• 在表型转换过程中实施的剪枝机制成功防止了空间维度为负的无效架构，提升了搜索稳定性。