[論文レビュー] Automated Image Data Preprocessing with Deep Reinforcement Learning

Tran Ngoc Minh, Mathieu Sinn+2 more|arXiv (Cornell University)|Jun 15, 2018

Machine Learning and Data Classification参考文献 16被引用数 8

ひとこと要約

本稿では、データセット内の各画像に対して最適で個別化された前処理変換チェーンを自動で学習する深層強化学習フレームワークを提案する。変換シーケンスの反復的・インスタンス固有の探索を通じて、分類器と前処理方策を共同で最適化することにより、特にノイズが多いデータにおいて分類器の精度と耐性を向上させる。

ABSTRACT

Data preparation, i.e. the process of transforming raw data into a format that can be used for training effective machine learning models, is a tedious and time-consuming task. For image data, preprocessing typically involves a sequence of basic transformations such as cropping, filtering, rotating or flipping images. Currently, data scientists decide manually based on their experience which transformations to apply in which particular order to a given image data set. Besides constituting a bottleneck in real-world data science projects, manual image data preprocessing may yield suboptimal results as data scientists need to rely on intuition or trial-and-error approaches when exploring the space of possible image transformations and thus might not be able to discover the most effective ones. To mitigate the inefficiency and potential ineffectiveness of manual data preprocessing, this paper proposes a deep reinforcement learning framework to automatically discover the optimal data preprocessing steps for training an image classifier. The framework takes as input sets of labeled images and predefined preprocessing transformations. It jointly learns the classifier and the optimal preprocessing transformations for individual images. Experimental results show that the proposed approach not only improves the accuracy of image classifiers, but also makes them substantially more robust to noisy inputs at test time.

研究の動機と目的

• データサイエンスプロジェクトの50–80%を占める手動による画像データ前処理の非効率さと、最適でない結果を是正すること。
• すべてのデータインスタンスに一様な変換を適用する従来のデータ拡張手法の限界を克服し、データの肥大化や効果のない前処理を防ぐこと。
• 各画像固有の歪みに応じて最適な変換シーケンス（例：回転、反転）を発見することで、画像ごとの個別化された前処理を可能にすること。
• 自動的かつ説明可能な前処理を通じて、テスト時のノイズの多い入力に対するモデルの汎化性能と耐性を向上させること。
• テキストや時系列データなどの他の非構造化データタイプへも拡張可能なフレームワークの開発

提案手法

• 各画像を一連の変換チェーンで処理する学習済みの変換シーケンスを通じて、画像前処理を逐次意思決定問題として定式化する。
• 状態空間を生の画像または歪んだ画像と定義し、行動空間を離散的な前処理操作（例：±90°回転、水平・垂直反転）とする。
• 分類精度を最大化するように変換を選択する方策を学習するため、DQN（Deep Q-Network）エージェントを用いる。
• 報酬を分類性能に基づいて形状づけ、画像分類器と前処理方策を同時に最適化することでエージェントをエンドツーエンドで訓練する。
• 反復的にフレームワークを適用する：エージェントが変換を選択し、画像が前処理され、収束または最大ステップ数に達するまで繰り返す。
• 各画像に適用された全変換チェーンをログ記録・トレースすることで、説明可能性を確保し、前処理意思決定の検査を可能にする。

実験結果

リサーチクエスチョン

• RQ1 強化学習エージェントは、画像分類器の性能を向上させる有効でインスタンス固有の前処理変換チェーンを自動で発見できるか？
• RQ2 自動的かつ個別化された前処理は、従来のデータ拡張と比較して、ノイズの多い画像データセットにおける精度と耐性においてどのように異なるか？
• RQ3 このフレームワークは、テスト時のノイズの多い入力に対するモデルの耐性をどの程度向上させるか？
• RQ4 このフレームワークは、回転や反転といった単純な操作を超えて、学習可能な回転やオブジェクトレベルの前処理といったより複雑な操作へも一般化可能か？
• RQ5 反復的かつ方策に基づく前処理アプローチは、固定またはグローバルな拡張戦略と比較して、モデルの汎化性能をどのように向上させるか？

主な発見

• 提案された強化学習フレームワークは、画像分類器の精度を顕著に向上させ、Arch3を用いたMNISTデータセットでテスト精度0.9826 ± 0.0014を達成した。これは、標準のニューラルネットワークベースラインの0.7563 ± 0.0024を大きく上回る。
• ノイズの多い入力に対する耐性も向上し、Arch2を用いた歪んだ画像のテスト精度は、RL手法で0.8987 ± 0.0151に達した。これは、標準のNNベースラインの0.7242 ± 0.0011を上回っている。
• 可視化により、対称的な変換チェーンを通じて多くの歪んだ画像が元の状態に回復されていることが示された。
• 高い性能を達成しているものの、誤った変換チェーンにより一部の画像が誤分類されるケースが存在し、より優れた探索戦略や行動空間設計の必要性が示された。
• 繰り返し的かつインスタンス固有のアプローチにより、データの爆発を回避し、元のトレーニングデータセットのサイズを維持しながらモデルの汎化性能を向上させた。
• 各画像に適用された全変換のシーケンスをログ記録・トレースすることで、説明可能性を提供し、前処理意思決定の検査を可能にした。