[論文レビュー] Neural Architecture Refinement: A Practical Way for Avoiding Overfitting in NAS

Yang Jiang, Cong Zhao+2 more|arXiv (Cornell University)|May 7, 2019

Advanced Neural Network Applications参考文献 45被引用数 4

ひとこと要約

本稿では、演算子とスキップ接続の最適化を分離することで強化学習に基づくニューラルアーキテクチャ探索（NAS）における過学習を軽減する手法、Neural Architecture Refinement（NAR）を提案する。演算子とスキップ接続を同時に探索するのではなく、NARはスキップ接続を固定し、演算子のみを精錬することで、探索空間の複雑さを低減し、報酬推定の正確性を向上させ、画像分類および顔認識タスクにおいて、FLOPsとパラメータ数を減らしながら最先端の性能を達成する。

ABSTRACT

Neural architecture search (NAS) is proposed to automate the architecture design process and attracts overwhelming interest from both academia and industry. However, it is confronted with overfitting issue due to the high-dimensional search space composed by operator selection and skip connection of each layer. This paper explores the architecture overfitting issue in depth based on the reinforcement learning-based NAS framework. We show that the policy gradient method has deep correlations with the cross entropy minimization. Based on this correlation, we further demonstrate that, though the reward of NAS is sparse, the policy gradient method implicitly assign the reward to all operations and skip connections based on the sampling frequency. However, due to the inaccurate reward estimation, curse of dimensionality problem and the hierachical structure of neural networks, reward charateristics for operators and skip connections have intrinsic differences, the assigned rewards for the skip connections are extremely noisy and inaccurate. To alleviate this problem, we propose a neural architecture refinement approach that working with an initial state-of-the-art network structure and only refining its operators. Extensive experiments have demonstrated that the proposed method can achieve fascinated results, including classification, face recognition etc.

研究の動機と目的

• 強化学習に基づくNASにおけるアーキテクチャの過学習問題、特にスキップ接続へのノイズが多く不正確な報酬の割り当てによって引き起こされる問題を解決すること。
• 演算子とスキップ接続を同時に最適化すると、なぜ訓練のダイナミクスが不安定になり、一般化性能が低下するのかを調査すること。
• 演算子とスキップ接続の探索空間を分離することで、報酬推定の正確性を向上させること。
• FLOPsとパラメータ数を削減しながら、性能を維持または向上させる実用的で効率的なNAS手法を開発すること。
• 精錬されたアーキテクチャの一般化能力が、多様なコンピュータビジョンタスクにおいてどのように機能するかを検証すること。

提案手法

• スキップ接続を固定し、演算子空間のみを最適化するNAR（Neural Architecture Refinement）を提案し、探索空間の次元を低減する。
• 演算子とスキップ接続の最適化を分離し、それぞれを独立した探索ドメインとして扱うことで、報酬のノイズと不安定性を軽減する。
• 階層的探索戦略を採用し、コントローラーが固定されたスキップ接続構造上で最適な演算子を事前に学習する。
• 計算コストを削減するため、データのサブセットを用いたプロキシタスクを採用しつつ、焦点を当てた演算子の精錬によって正確な報酬推定を確保する。
• 方策勾配と交差エントロピー最小化の相関関係を活用し、訓練の安定性を高め、収束性を改善する。
• 再訓練なしに精錬されたアーキテクチャを下流タスクに適用することで、一般化能力と効率性を示す。

実験結果

リサーチクエスチョン

• RQ1 NASにおける演算子とスキップ接続の同時最適化が、なぜ過学習と不安定な訓練を引き起こすのか？
• RQ2 ポリシー勾配法は、どのように演算子とスキップ接続に報酬を暗黙的に割り当てており、なぜスキップ接続に対しては報酬の割り当てがノイズが多くなるのか？
• RQ3 演算子とスキップ接続の最適化を分離することで、NASにおける報酬推定の正確性が向上し、過学習が軽減されるか？
• RQ4 スキップ接続を固定したまま演算子のみを精錬することで、下流タスクにおける一般化性能と効率性が向上するか？
• RQ5 ニューラルネットワークの階層的構造が、演算子とスキップ接続の報酬特性にどのように影響を与えるか？

主な発見

• LFWでは99.56%、CFP-FPでは94.42%の精度を達成し、パラメータ数は3.38×10⁷、FLOPsは4.69×10⁹と、ベースラインのLResNet50E-IRを上回る。
• CIFAR-10では、ResNet-18-16が1.41×10⁹ FLOPsで93.71%の精度を達成し、元のResNet-18と比較してFLOPsを20%削減した。
• 精錬されたモデルはImageNetに対しても良好に一般化し、パラメータ数を減らしたにもかかわらず、ベースライン（69.39%）と同等またはわずかに高いトップ1精度（69.42%）を達成した。
• 複数のベンチマークにおいて、FLOPsを最大20%、パラメータ数を20%削減しながら、性能を維持または向上させた。
• 実験から、スキップ接続は高次元の探索空間のため、報酬のノイズに特に脆弱であることが示され、分離最適化の必要性が裏付けられた。
• 一般化の検証から、あるデータセット（例：Face-Emore V2）で精錬されたアーキテクチャが、他のデータセット（例：Face-Emore V1）に対しても良好に一般化することが確認され、堅牢性が示された。