[論文レビュー] AdaDNNs: Adaptive Ensemble of Deep Neural Networks for Scene Text Recognition

Chun Yang, Xu-Cheng Yin+5 more|arXiv (Cornell University)|Oct 10, 2017

Handwritten Text Recognition Techniques参考文献 33被引用数 7

ひとこと要約

この論文では、異なる学習イテレーションからの深層ニューラルネットワーク（DNN）のコンponentsを選択して組み合わせることで、シーンテキスト認識の性能を向上させる、適応的アンサンブル手法AdaDNNsを提案する。アンサンブルを分類器重み付けのベイジアンフレームワークとして定式化することで、追加の学習コストなしに、ICDARベンチマークで10%以上の相対的改善を達成し、ベースラインDNNや最先端手法を上回る性能を発揮する。

ABSTRACT

Recognizing text in the wild is a really challenging task because of complex backgrounds, various illuminations and diverse distortions, even with deep neural networks (convolutional neural networks and recurrent neural networks). In the end-to-end training procedure for scene text recognition, the outputs of deep neural networks at different iterations are always demonstrated with diversity and complementarity for the target object (text). Here, a simple but effective deep learning method, an adaptive ensemble of deep neural networks (AdaDNNs), is proposed to simply select and adaptively combine classifier components at different iterations from the whole learning system. Furthermore, the ensemble is formulated as a Bayesian framework for classifier weighting and combination. A variety of experiments on several typical acknowledged benchmarks, i.e., ICDAR Robust Reading Competition (Challenge 1, 2 and 4) datasets, verify the surprised improvement from the baseline DNNs, and the effectiveness of AdaDNNs compared with the recent state-of-the-art methods.

研究の動機と目的

• 複雑な背景、照明の変動、歪みの影響を受けるシーンテキスト認識を、深層ニューラルネットワークを用いて解決すること。
• SGDで学習されたDNNの多様性と相補性を活用し、異なる局所最適解に収束し、異なる誤差パターンを示すDNNの特性を活かすこと。
• 追加の学習を必要とせず、1回の学習実行から得られるモデルスナップショットを活用することで、低コストかつ効果的なアンサンブル手法を開発すること。
• アンサンブルプロセスを最適な分類器重み付けと組み合わせのためのベイジアンフレームワークとして定式化すること。

提案手法

• 1つのDNN学習プロセスの各学習イテレーションから得られるすべてのDNNモデルスナップショットを収集する。
• 各モデルスナップショットの予測の信頼性と多様性に基づき、最適な重みを学習するため、アンサンブルをベイジアンフレームワークとして定式化する。
• 最終的な予測は、学習された重みによるスナップショット出力の重み付き平均によって得られる。重みはベイジアン推論によって学習される。
• 推論コストを削減するため、精度を損なわずに最も効果的なスナップショットのみを選択するためのプルーニング戦略を適用する。
• 標準的なSGDを用いて学習され、特別な最適化アルゴリズムや追加の学習を必要としない。
• 本手法は、切り出し済み単語およびボーンデジタルテキスト認識を対象としたICDARロバストリーディングコンペティションのデータセット（チャレンジ1、2、4）で評価されている。

実験結果

リサーチクエスチョン

• RQ1 1つのDNNの異なる学習イテレーションからのモデルスナップショットを効果的に組み合わせることで、シーンテキスト認識の性能向上が達成できるか？
• RQ2 スナップショットの重み付けと組み合わせをベイジアンフレームワークで行うことで、単純な平均化や投票よりも一般化性能が向上するか？
• RQ3 追加の学習や複雑なアーキテクチャ設計なしに、このような適応的アンサンブルが最先端の性能を達成できるか？
• RQ4 標準的なシーンテキスト認識ベンチマークにおいて、AdaDNNsの性能は最近のSOTA手法と比べてどうか？

主な発見

• ICDAR 2013 チャレンジ2のC.R.W（上位）スコアは、ベースラインDNNsの78.63%からAdaDNNsで86.67%に向上し、10%以上の相対的改善を達成した。
• ICDAR チャレンジ1（ボーンデジタル画像）では、C.R.W（上位）がベースラインの84.50%から92.22%に上昇し、最近の提出物を上回った。
• AdaDNNsのプルーニング版（AdaDNNs Pruning）は、チャレンジ2で88.13%のC.R.W（上位）を達成し、多数の既存SOTA手法を上回った。
• チャレンジ4で学習した場合でも、チャレンジ2で競争力のある性能を示し、異なるデータセット間での強力な一般化能力を示した。
• ICDAR RRCウェブサイトに掲載された最新の提出物（Dahua_OCR_v1 や Tencent Youtu など）と比較して、トップパフォーマンスを達成した。
• 結果から、SGDで学習されたDNNの多様性は、適応的アンサンブルによって効果的に活用可能であり、耐障害性と高い正確性を備えたシーンテキスト認識が実現可能であることが示された。