[论文解读] Human Gender Prediction Based on Deep Transfer Learning from Panoramic Radiograph Images

I. Atas|arXiv (Cornell University)|May 19, 2022

Forensic Anthropology and Bioarchaeology Studies被引用 6

一句话总结

本研究提出一种基于DenseNet121的深度迁移学习方法，利用24,000张全景牙科X光片（PDR）图像实现自动化人类性别预测。通过利用迁移学习的预训练特征，该模型在二元性别分类中达到97.25%的准确率，优于VGG16、ResNet50和EfficientNetB6，展现出在法医学应用中的高效率与高精度。

ABSTRACT

Panoramic Dental Radiography (PDR) image processing is one of the most extensively used manual methods for gender determination in forensic medicine. With the assistance of the PDR images, a person's biological gender determination can be performed through analyzing skeletal structures expressing sexual dimorphism. Manual approaches require a wide range of mandibular parameter measurements in metric units. Besides being time-consuming, these methods also necessitate the employment of experienced professionals. In this context, deep learning models are widely utilized in the auto-analysis of radiological images nowadays, owing to their high processing speed, accuracy, and stability. In our study, a data set consisting of 24,000 dental panoramic images was prepared for binary classification, and the transfer learning method was used to accelerate the training and increase the performance of our proposed DenseNet121 deep learning model. With the transfer learning method, instead of starting the learning process from scratch, the existing patterns learned beforehand were used. Extensive comparisons were made using deep transfer learning (DTL) models VGG16, ResNet50, and EfficientNetB6 to assess the classification performance of the proposed model in PDR images. According to the findings of the comparative analysis, the proposed model outperformed the other approaches by achieving a success rate of 97.25% in gender classification.

研究动机与目标

• 通过自动化全景牙科X光片（PDR）的性别预测，减少对耗时的人工测量的依赖。
• 解决传统法医学方法依赖专家分析和下颌结构度量测量的局限性。
• 利用深度学习提升医学影像分析中的分类准确率与处理速度。
• 评估多种预训练模型在PDR图像上进行性别分类时的迁移学习性能。
• 基于公开的PDR数据集，建立一个稳健且高准确率的法医学应用模型。

提出的方法

• 收集了24,000张全景牙科X光片图像，用于二元性别分类（男性/女性）。
• 所提出的模型采用DenseNet121结合迁移学习，通过ImageNet预训练权重初始化，以加速训练并提升特征提取能力。
• 通过冻结早期卷积层并微调最后几层在PDR数据集上的参数，实现对牙科解剖特征的适应。
• 通过广泛的超参数调优和数据增强技术，提升模型泛化能力并防止过拟合。
• 采用标准指标（如准确率、精确率和F1分数）与VGG16、ResNet50和EfficientNetB6进行性能对比。
• 采用5折交叉验证进行模型训练与验证，以确保结果的稳健性与可重复性。

实验结果

研究问题

• RQ1 深度迁移学习能否有效从全景牙科X光片中提取性别判别性特征，实现自动化性别预测？
• RQ2 所提出的DenseNet121模型在PDR图像上的性能与VGG16、ResNet50和EfficientNetB6等成熟迁移学习模型相比如何？
• RQ3 在大规模PDR数据集上，结合迁移学习的二元性别分类可达到何种准确率？
• RQ4 与从随机初始化训练相比，迁移学习是否显著缩短训练时间并提升模型收敛性？
• RQ5 自然图像中的预训练特征在多大程度上能泛化到牙科X光片图像中，用于性别判定？

主要发现

• 所提出的DenseNet121模型在性别分类中达到97.25%的准确率，显著优于VGG16、ResNet50和EfficientNetB6。
• 迁移学习显著缩短了训练时间并提升了模型收敛性，有利于在法医学场景中实现快速部署。
• 模型在所有交叉验证折中均表现出高度鲁棒性与泛化能力，表明其具有强可靠性。
• 利用ImageNet的预训练权重，使模型能从有限的牙科专用数据中有效学习特征，从而提升性能。
• 对比分析证实，DenseNet121的密集连接与特征复用机制在PDR图像上提供了更优的性能表现。
• 结果验证了深度学习结合迁移学习是人工法医学分析PDR图像的一种可行、准确且高效的替代方案。