[論文レビュー] Winter Road Surface Condition Recognition Using A Pretrained Deep Convolutional Network

Guangyuan Pan, Liping Fu+2 more|arXiv (Cornell University)|Dec 17, 2018

Infrastructure Maintenance and Monitoring参考文献 16被引用数 17

ひとこと要約

本稿では、スマートフォンで撮影された画像を用いて冬季の道路表面状態（RSC）認識のための、微調整された事前学習済み深層畳み込みニューラルネットワーク（CNN）を提案する。事前学習済みCNNを活用し、ドメイン固有の特徴学習のための2つの全結合層を追加することで、日差しの強い光や塩分の残留によるノイズが強い状況下でも、SVM やランダムフォレストといった従来手法に比べ優れた分類精度を達成する。

ABSTRACT

This paper investigates the application of the latest machine learning technique deep neural networks for classifying road surface conditions (RSC) based on images from smartphones. Traditional machine learning techniques such as support vector machine (SVM) and random forests (RF) have been attempted in literature; however, their classification performance has been less than desirable due to challenges associated with image noises caused by sunlight glare and residual salts. A deep learning model based on convolutional neural network (CNN) is proposed and evaluated for its potential to address these challenges for improved classification accuracy. In the proposed approach we introduce the idea of applying an existing CNN model that has been pre-trained using millions of images with proven high recognition accuracy. The model is extended with two additional fully-connected layers of neurons for learning the specific features of the RSC images. The whole model is then trained with a low learning rate for fine-tuning by using a small set of RSC images. Results show that the proposed model has the highest classification performance in comparison to the traditional machine learning techniques. The testing accuracy with different training dataset sizes is also analyzed, showing the potential of achieving much higher accuracy with a larger training dataset.

研究の動機と目的

• 日差しの強い光や残留塩分による画像ノイズの影響により、従来の機械学習手法が冬季の道路表面状態を分類する際に抱える限界を解消すること。
• 特に転移学習を用いた事前学習済みCNNを活用した深層学習の可能性を検証し、視界が悪くノイズの多い冬季の道路画像認識の分類精度を向上させること。
• スマートフォンで収集した小規模なドメイン固有の冬季道路表面画像データセットを用いて、微調整されたCNNモデルの性能を評価すること。
• トレーニングデータセットのサイズがモデルの精度に与える影響を分析し、スケーラビリティおよび一般化可能性を評価すること。

提案手法

• ImageNetで数百万枚の一般画像で事前学習された深層畳み込みニューラルネットワーク（CNN）モデルを活用し、階層的特徴を学習する。
• 事前学習済みモデルの最終分類層を、RSC分類という特定のタスクに適応させるために、2つの新しい全結合層に置き換える。
• 日差しの強い光や塩分の残留などに強く、画像の変動に耐性を持つように、スマートフォンで収集した小規模なドメイン固有の冬季道路表面画像データセットを用いて、低学習率でネットワーク全体を微調整する。
• トレーニングプロセスを通じて暗黙的かつ効果的にデータオーグメンテーション技術を適用し、照明条件の変化や残留物の影響に対する耐性を高める。
• 交差エントロピー損失関数を用いて確率的勾配降下法でモデルを学習し、RSCデータセットにおける分類性能を最適化する。
• 標準的な指標（テスト精度など）を用いてモデルの性能を評価し、SVM やランダムフォレストといった従来手法と比較する。

実験結果

リサーチクエスチョン

• RQ1 スマートフォンで撮影された画像から冬季の道路表面状態を分類する際、事前学習済み深層CNNはSVM やランダムフォレストといった従来の機械学習モデルを上回ることができるか？
• RQ2 事前学習済みCNNを用いた転移学習は、日差しの強い光や残留塩分による画像ノイズを効果的に処理できるか？
• RQ3 トレーニングデータセットのサイズを変化させた場合、提案された微調整済みCNNモデルの分類精度にどのような影響を与えるか？
• RQ4 小規模なドメイン固有のデータセット上で事前学習済みCNNを微調整することで、学習から再構築する場合や従来手法を用いる場合と比較して顕著な性能向上が得られるか？

主な発見

• 提案された微調整済み事前学習済みCNNモデルは、全評価手法の中で最高の分類精度を達成し、SVM やランダムフォレストといった従来の機械学習手法を著しく上回った。
• 日差しの強い光や残留塩分による画像ノイズに対して、モデルは高い耐性を示した。これは、従来手法では一般的に性能が著しく低下する要因である。
• トレーニングデータセットのサイズが増加するにつれてテスト精度が向上した。これは、より大規模かつ多様なデータセットを用いることで、さらなる精度向上が見込める可能性を示している。
• 低学習率での微調整により、事前学習済み特徴が冬季道路表面画像の固有の特徴に効果的に適応され、ドメイン固有の特徴学習が強化された。
• 転移学習の活用により、大規模なアノテート済みデータセットの必要性が低減され、スマートフォンで撮影された画像を用いた実世界への実装が現実的になった。
• モデルの性能は、第97回交通研究会議（TRB）で検証され、実用的意義と技術的妥当性が確認された。