[论文解读] Age Group and Gender Estimation in the Wild with Deep RoR Architecture

Ke Zhang, Ce Gao+6 more|arXiv (Cornell University)|Oct 9, 2017

Face recognition and analysis参考文献 42被引用 13

一句话总结

本文提出了一种深度残差网络的残差网络（RoR）架构，用于在非受限（野外）人脸图像中进行年龄组和性别估计，利用在ImageNet上的预训练和在IMDB-WIKI-101与Adience数据集上的微调。该方法引入了两种新机制——基于性别的预训练和加权损失层，显著提升了性能，在使用RoR-152的Adience基准测试中取得了67.34%的准确率，达到新的最先进水平。

ABSTRACT

Automatically predicting age group and gender from face images acquired in unconstrained conditions is an important and challenging task in many real-world applications. Nevertheless, the conventional methods with manually-designed features on in-the-wild benchmarks are unsatisfactory because of incompetency to tackle large variations in unconstrained images. This difficulty is alleviated to some degree through Convolutional Neural Networks (CNN) for its powerful feature representation. In this paper, we propose a new CNN based method for age group and gender estimation leveraging Residual Networks of Residual Networks (RoR), which exhibits better optimization ability for age group and gender classification than other CNN architectures.Moreover, two modest mechanisms based on observation of the characteristics of age group are presented to further improve the performance of age estimation.In order to further improve the performance and alleviate over-fitting problem, RoR model is pre-trained on ImageNet firstly, and then it is fune-tuned on the IMDB-WIKI-101 data set for further learning the features of face images, finally, it is used to fine-tune on Adience data set. Our experiments illustrate the effectiveness of RoR method for age and gender estimation in the wild, where it achieves better performance than other CNN methods. Finally, the RoR-152+IMDB-WIKI-101 with two mechanisms achieves new state-of-the-art results on Adience benchmark.

研究动机与目标

• 解决在传统手工特征失效的非受限、真实世界人脸图像中实现准确年龄组和性别估计的挑战。
• 通过战略性预训练和微调，减轻小规模数据集上的过拟合，提升深度学习在小样本数据集上的性能。
• 通过引入领域特定的架构和训练修改，提升深度网络在年龄估计中的优化和表征学习能力。
• 通过深度残差架构在Adience基准测试中实现年龄与性别分类的最先进性能。

提出的方法

• 本文提出了一种新颖的残差网络的残差网络（RoR）架构，旨在提升年龄与性别估计任务中的优化效率和特征表征能力。
• 引入了一种加权损失层，根据衰老曲线为不同年龄组分配不同的损失权重，提升在年龄分布不平衡情况下的学习效率。
• 采用基于性别的预训练机制对网络进行初始化，以在端到端微调前增强性别感知的特征学习。
• RoR模型首先在ImageNet上进行预训练以学习通用特征，然后在IMDB-WIKI-101上进行微调以学习人脸特异性特征，最后在Adience数据集上进行微调以完成分类任务。
• 该框架采用三阶段训练流程：ImageNet预训练、IMDB-WIKI-101微调和Adience特定微调，以适应目标领域。
• 该方法利用带有随机深度（drop-path）和dropout的残差块进行正则化，并通过评估深度、模块类型和超参数来优化性能。

实验结果

研究问题

• RQ1 在非受限条件下，如RoR这样的更深残差架构是否能优于标准CNN在年龄与性别估计任务中的表现？
• RQ2 在ImageNet上预训练后，再在IMDB-WIKI-101上微调，是否能提升小样本数据集（如Adience）上的泛化能力并减少过拟合？
• RQ3 所提出的机制——加权损失和基于性别的预训练，在多大程度上提升了年龄估计的准确率？
• RQ4 RoR是否能在不依赖IMDB-WIKI这类大规模预训练数据的情况下实现最先进性能，还是仍需此类数据才能达到最优结果？

主要发现

• 结合两种机制的RoR-152+IMDB-WIKI-101模型在Adience基准测试中实现了67.34%的单模型准确率，创下年龄组分类的新最先进水平。
• 采用两种机制的RoR-152模型在1-类准确率上达到97.51%，表明其在测试集上具有强大的泛化能力和鲁棒性。
• 即使不使用IMDB-WIKI-101预训练，采用两种机制的Pre-RoR-58+SD模型仍达到64.17%的准确率，优于未使用IMDB-WIKI预训练的DEX模型。
• 性别基于预训练与加权损失的结合在多种架构（包括VGG-16和ResNets-34）中均提升了性能，证明了该方法的通用性。
• 在IMDB-WIKI-101上进行微调显著提升了性能，RoR-34+IMDB-WIKI-101模型达到66.91%的准确率，优于仅在ImageNet上预训练的模型。
• 消融实验证实，两种机制均独立地对性能提升有贡献，其中加权损失层在处理年龄组分布不平衡问题上尤为有效。