[論文レビュー] C3AE: Exploring the Limits of Compact Model for Age Estimation

Chao Zhang, Shuaicheng Liu+2 more|arXiv (Cornell University)|Apr 10, 2019

Face recognition and analysis参考文献 39被引用数 11

ひとこと要約

C3AE は、深さ方向に分離可能な畳み込みの代わりに標準的な畳み込みを使用することで、非常にコンパクトな年齢推定モデルを提案し、39.7Kパラメータ（0.25MB）で、コンパクトモデルにおける最先端の性能を達成した。2段階分布表現とマルチスケールのコンテキスト集約を用い、Morph-II（2.75 MAE）および FG-NET（2.95 MAE）で先行するコンパクトモデルを上回ったが、VGGNetの1/2000のサイズにとどまった。

ABSTRACT

Age estimation is a classic learning problem in computer vision. Many larger and deeper CNNs have been proposed with promising performance, such as AlexNet, VggNet, GoogLeNet and ResNet. However, these models are not practical for the embedded/mobile devices. Recently, MobileNets and ShuffleNets have been proposed to reduce the number of parameters, yielding lightweight models. However, their representation has been weakened because of the adoption of depth-wise separable convolution. In this work, we investigate the limits of compact model for small-scale image and propose an extremely Compact yet efficient Cascade Context-based Age Estimation model(C3AE). This model possesses only 1/9 and 1/2000 parameters compared with MobileNets/ShuffleNets and VggNet, while achieves competitive performance. In particular, we re-define age estimation problem by two-points representation, which is implemented by a cascade model. Moreover, to fully utilize the facial context information, multi-branch CNN network is proposed to aggregate multi-scale context. Experiments are carried out on three age estimation datasets. The state-of-the-art performance on compact model has been achieved with a relatively large margin.

研究の動機と目的

• 小規模な顔画像におけるコンパクトなディープラーニングモデルの限界を探ること。
• 小規模／中規模の画像における軽量モデルで、深さ方向に分離可能な畳み込みの優位性に挑戦すること。
• 年齢推定を2点分布問題として再定義することで、コンパクトモデルの性能を向上させること。
• マルチブランチ畳み込みニューラルネットワークを用いてマルチスケールのコンテキストを集約し、特徴表現を強化すること。
• 最小限のモデルサイズとメモリ使用量で、コンパクトな年齢推定における最先端の性能を達成すること。

提案手法

• 深さ方向に分離可能な畳み込みよりも、小規模な画像では効果が低いとされる標準畳み込み層を用いたコンパクトモデルを提案する。
• 年齢を2つの離散的年齢レベル上の分布として表現する2点分布表現を導入し、分類と回帰を統合する。
• 段階的な回帰ステップを経て予測を精緻化するため、カスケードモデルアーキテクチャを採用する。
• 顔のマルチスケールコンテキスト特徴を抽出・集約するため、マルチブランチ畳み込みニューラルネットワークを設計する。
• 分布マッチング損失を最小化するように、意味的分布を持つ全結合層を用いて特徴を年齢値にマップする。
• 予測された年齢分布と真値の年齢分布を一致させる分布マッチング目的関数を用いて、エンドツーエンドでモデルを訓練する。

実験結果

リサーチクエスチョン

• RQ1 深さ方向に分離可能な畳み込みは、小規模な顔画像におけるコンパクトな年齢推定に最適であるか？
• RQ2 パラメータ数が少ないにもかかわらず、標準畳み込みを用いたコンパクトモデルが、MobileNet や ShuffleNet を上回る性能を発揮できるか？
• RQ3 2点分布表現は、分類、回帰、ラベル分布情報の統合にどの程度効果的か？
• RQ4 マルチスケールコンテキスト集約は、コンパクトモデルにおいて顕著な性能向上をもたらすか？
• RQ5 ImageNet や IMDB-Wiki の事前学習なしで、極めて小さなモデルが競争力のある性能を達成できるか？

主な発見

• C3AE は、IMDB-WIKI で微調整した場合、Morph-II で 2.75 MAE を達成し、以前の最良のコンパクトモデル（SSR は 3.16 MAE）を上回った。
• 完全な C3AE モデルは、事前学習なしで訓練した場合、Morph-II で 2.78 MAE を達成し、事前学習なしでも優れた性能を示した。
• FG-NET では、事前学習ありで 2.95 MAE、なしで 4.09 MAE を達成し、後者の状況で MV（4.10 MAE）を上回った。
• モデルはたった 39.7K パラメータと 0.25MB のメモリしか使用せず、VGGNet の 1/2000 のサイズでありながら、競争力のある正確性を維持した。
• シンプルな C3AE モデル（39.7K パラメータ）は、事前学習なしで Morph-II で 3.13 MAE を達成し、極めて単純なアーキテクチャで強力な一般化性能を示した。
• アブレーションスタディにより、標準畳み込みが小規模画像において深さ方向に分離可能な畳み込みを上回ることが確認され、MobileNet や ShuffleNet の前提を疑問視した。