[論文レビュー] A Preliminary Study on Data Augmentation of Deep Learning for Image Classification

Benlin Hu, Cheng Lei+3 more|arXiv (Cornell University)|Jun 9, 2019

Machine Learning and Data Classification参考文献 16被引用数 5

ひとこと要約

本稿は、画像分類における深層学習の性能にデータ拡張が与える影響を調査し、拡張手法、拡張率、データセットサイズの影響を評価している。幾何変換（例：回転、スケーリング）は光度変換（例：色調調整）を上回り、2–3倍の拡張率が最適であることが判明。小規模なデータセットは拡張の恩恵を最も受ける。実用的なデータ拡張の使用法に関する指針を提示している。

ABSTRACT

Deep learning models have a large number of freeparameters that need to be calculated by effective trainingof the models on a great deal of training data to improvetheir generalization performance. However, data obtaining andlabeling is expensive in practice. Data augmentation is one of themethods to alleviate this problem. In this paper, we conduct apreliminary study on how three variables (augmentation method,augmentation rate and size of basic dataset per label) can affectthe accuracy of deep learning for image classification. The studyprovides some guidelines: (1) it is better to use transformationsthat alter the geometry of the images rather than those justlighting and color. (2) 2-3 times augmentation rate is good enoughfor training. (3) the smaller amount of data, the more obviouscontributions could have.

研究の動機と目的

• データ拡張が画像分類における深層学習モデルの精度に与える影響を調査すること。
• 拡張手法、拡張率、クラスあたりのベースデータセットサイズという3つの変数が、モデルの一般化性能に与える影響を評価すること。
• 限られたラベル付きデータしかない実世界のシナリオにおいて、効果的なデータ拡張の使用法に関する実用的ガイドラインを提供すること。
• 幾何的拡張と光度的拡張の手法の有効性を比較すること。

提案手法

• 実験には、CIFAR-10ではResNet-20、MNISTではLeNet-5を用いた。
• 幾何的（回転、スケーリング、せん断、平行移動）および光度的（色バランス、等化、ソーラライズ、オートコントラスト、カットアウト）の10種類の最先端の拡張手法を適用した。
• クラス数c（c=classes）、クラスあたりの画像数cnum（cnum=images per class）のベースデータセットを用い、各手法を1x～5xの異なる拡張率で適用して拡張済みデータセットを作成した。
• 特徴率（acc_basic - acc_aug_test）を計算するために、元のテストセットおよび拡張済みテストセットでモデルの精度を評価した。この特徴率は、学習されていない画像特徴を示している。
• cnum（クラスあたり500～5000）と拡張率（1x～5x）を変化させた実験により、感度を評価した。
• 特徴率と精度向上の間の統計的相関分析を実施した。

実験結果

リサーチクエスチョン

• RQ1 拡張手法の選択が、画像分類におけるモデル精度にどのように影響するか？
• RQ2 パフォーマンス向上と計算コストのバランスを考慮した場合、最適な拡張率は何か？
• RQ3 クラスあたりのベースデータセットサイズが、データ拡張の有効性に与える影響は何か？
• RQ4 実際にはなぜ幾何的拡張手法が光度的拡張手法を上回るのか？

主な発見

• 幾何的拡張手法（例：回転、スケーリング、平行移動）は、光度的拡張手法（例：色バランス、等化）よりも、モデル精度の向上において一貫して優れていた。
• 特徴率は、特にCIFAR-10において、精度向上と強く正の相関を示した。
• 2–3倍の拡張率が、パフォーマンス向上と計算コストの両者を最適にバランスさせる最良の選択であった。これは、より高い拡張率ではリターンが減少する傾向にあったためである。
• 小規模なベースデータセット（例：クラスあたり500枚）は、拡張によって顕著な精度向上を示した。これは、低データ環境下での拡張の恩恵が大きいことを示している。
• 自動コントラストや等化といった複雑なプロフェッショナル画像処理手法よりも、単純な幾何的変換がより効果的であった。これは、これらの変換が一般的な画像の変化と整合しているためと推測される。
• カットアウトなどのパッチベース手法は中程度の有効性を示したが、標準的な幾何的変換に劣っていた。