[论文解读] Deep Regression Forests for Age Estimation

Wei Shen, Yilu Guo+4 more|arXiv (Cornell University)|Dec 19, 2017

Face recognition and analysis参考文献 49被引用 4

一句话总结

该论文提出深度回归随机森林（DRFs），一种端到端的深度学习模型，通过将卷积神经网络（CNNs）与可微分回归随机森林结合，以提升年龄估计性能。通过在分裂节点处联合学习输入相关的数据划分与在叶节点处学习数据抽象，并采用交替优化策略——对CNN和分裂节点使用反向传播，对叶节点使用变分边界——DRFs在三个主流基准上实现最先进性能，在FG-NET上的平均绝对误差（MAE）降低至3.85。

ABSTRACT

Age estimation from facial images is typically cast as a nonlinear regression problem. The main challenge of this problem is the facial feature space w.r.t. ages is heterogeneous, due to the large variation in facial appearance across different persons of the same age and the non-stationary property of aging patterns. In this paper, we propose Deep Regression Forests (DRFs), an end-to-end model, for age estimation. DRFs connect the split nodes to a fully connected layer of a convolutional neural network (CNN) and deal with heterogeneous data by jointly learning input-dependant data partitions at the split nodes and data abstractions at the leaf nodes. This joint learning follows an alternating strategy: First, by fixing the leaf nodes, the split nodes as well as the CNN parameters are optimized by Back-propagation; Then, by fixing the split nodes, the leaf nodes are optimized by iterating a step-size free and fast-converging update rule derived from Variational Bounding. We verify the proposed DRFs on three standard age estimation benchmarks and achieve state-of-the-art results on all of them.

研究动机与目标

• 解决年龄估计中异质性面部特征空间的挑战，即同一年龄段个体间面部外观差异显著，且老化模式具有非平稳性。
• 克服现有方法使用硬性数据划分或全局核映射的局限性，这些方法易导致过拟合，且难以捕捉局部、输入相关的模式。
• 构建一个联合学习框架，同时优化CNN中的特征抽象与决策森林叶节点中的局部回归建模。
• 通过使分裂节点可微并利用反向传播与CNN集成，实现深度回归随机森林的端到端训练。
• 通过基于变分边界推导出的无步长、快速收敛的更新规则，确保叶节点优化的收敛性与稳定性。

提出的方法

• 将决策森林的分裂节点直接连接至CNN的全连接层，实现CNN特征与分裂节点决策的端到端反向传播联合优化。
• 在分裂节点处使用可微分决策函数实现软性、输入相关的数据划分，替代传统基于启发式规则的硬性分裂。
• 通过反向传播优化分裂节点与CNN参数，同时固定叶节点，从而实现从原始面部图像中学习特征。
• 使用基于变分边界的无步长更新规则优化叶节点（局部回归器），该规则确保快速收敛并具备数学收敛性保证。
• 采用交替优化策略，交替优化分裂节点与叶节点，以联合精炼特征表示与局部回归建模。
• 将每个叶节点建模为年龄上的高斯分布，使森林能够学习反映底层数据异质性的局部年龄分布混合模型。

实验结果

研究问题

• RQ1 可微分回归随机森林能否有效与CNN集成，以实现年龄估计的端到端学习？
• RQ2 与基于年龄的硬性划分相比，分裂节点处的输入相关软性数据划分是否能提升在异质性面部年龄数据上的性能？
• RQ3 特征学习与局部回归建模的联合优化是否能带来更好的泛化能力，尤其是在小样本或数据不平衡的数据集上？
• RQ4 基于变分边界的叶节点更新规则在回归随机森林背景下是否有效且具备收敛性？
• RQ5 在标准基准上，DRFs与最先进方法相比，在平均绝对误差（MAE）和准确率方面表现如何？

主要发现

• DRFs在FG-NET基准上实现了最先进水平的平均绝对误差（MAE）3.85，优于此前方法如DEX（MAE 4.637）和DLA（MAE 4.26）。
• 在CACD数据集上，DRFs在验证集上训练后MAE达到5.768，显著优于DEX（MAE 6.521），表明其在小样本数据集上具备更优泛化能力。
• 在MORPH数据集上，DRFs实现MAE 4.07与±5年准确率77.1%，超越此前SOTA方法如Rothe等人（MAE: 5.01）和DEX（MAE: 4.63）。
• 所学习的叶节点分布可视化结果与数据中经验年龄分布高度吻合，证实DRFs能有效建模底层数据异质性。
• 增加树的数量可提升性能，且在达到一定深度后性能趋于稳定，表明更深的树并非总是更优，且模型容量可被有效调节。
• DRFs相较于DEX在CACD较小的验证集上性能提升最为显著，证实DRFs在有限训练数据下对数据异质性具有更强的处理能力。