[論文レビュー] Expolring Architectures for CNN-Based Word Spotting.

Eugen Rusakov, Sebastian Sudholt+2 more|arXiv (Cornell University)|Jun 28, 2018

Handwritten Text Recognition Techniques参考文献 23被引用数 3

ひとこと要約

本稿では、IAMおよびGeorge Washingtonデータベースにおいて、TPP-HOCNetをResNet、DenseNet、LeNetと比較することで、CNNアーキテクチャの深さが単語検索に与える影響を評価している。結果は、IAMのような困難なタスクではより深いモデルが性能を向上させるが、George Washingtonのような簡単なベンチマークでは利点が得られないことを示しており、単純なタスクでは複雑さの増加に伴い性能が漸近的になることが示唆されている。

ABSTRACT

The goal in word spotting is to retrieve parts of document images which are relevant with respect to a certain user-defined query. The recent past has seen attribute-based Convolutional Neural Networks take over this field of research. As is common for other fields of computer vision, the CNNs used for this task are already considerably deep. The question that arises, however, is: How complex does a CNN have to be for word spotting? Are increasingly deeper models giving increasingly bet- ter results or does performance behave asymptotically for these architectures? On the other hand, can similar results be obtained with a much smaller CNN? The goal of this paper is to give an answer to these questions. Therefore, the recently successful TPP- PHOCNet will be compared to a Residual Network, a Densely Connected Convolutional Network and a LeNet architecture empirically. As will be seen in the evaluation, a complex model can be beneficial for word spotting on harder tasks such as the IAM Offline Database but gives no advantage for easier benchmarks such as the George Washington Database.

研究の動機と目的

• より深いCNNアーキテクチャが単語検索性能を向上させるかどうかを調査すること。
• 単純で小さなCNNが複雑なモデルと同等の結果を達成できるかどうかを特定すること。
• 異なる単語検索ベンチマークにおけるモデル複雑度と性能のトレードオフを評価すること。
• 最新のアーキテクチャ（例：ResNet、DenseNet、LeNet）と最近開発されたTPP-HOCNetの有効性を比較すること。
• 単語検索タスクにおいて、深さの増加に伴い性能向上が止まる点（飽和点）があるかどうかを特定すること。

提案手法

• 本研究では、単語検索に用いる4つのCNNアーキテクチャ（TPP-HOCNet、ResNet、DenseNet、LeNet）を採用している。
• 各モデルは、2つのベンチマークデータセット（IAMオフラインデータベースおよびGeorge Washingtonデータベース）上で訓練および評価されている。
• 単語検索の性能は、平均平均精度（mAP）などの標準的なリtrievalメトリクスを用いて測定されている。
• 比較は、アーキテクチャの深さや接続パターンがリtrieval精度に与える影響に焦点を当てている。
• 異なる難易度のドキュメント画像データセットにおける実験的評価が行われている。
• モデルの深さや構造が果たす寄与度を評価するためのアブレーション風の比較が分析に含まれている。

実験結果

リサーチクエスチョン

• RQ1 CNNの深さを増やすことで、すべてのデータセットで単語検索性能が一貫して向上するか？
• RQ2 より小さく浅いCNNが、より深いアーキテクチャと同等の性能を達成できるか？
• RQ3 単語検索タスクにおいて、より深いモデルの性能向上が飽和する点があるか？
• RQ4 異なるアーキテクチャ設計（例：残差、畳み込み、平らな構造）は、単語検索ベンチマークでどのように比較されるか？
• RQ5 モデルの複雑さは、簡単なデータセットと困難なデータセットの両方で顕著な利点を提供するか？

主な発見

• IAMオフラインデータベースでは、TPP-HOCNetのような複雑なモデルが単純なアーキテクチャよりも性能優位性を示している。
• George Washingtonデータベースでは、ResNet や DenseNet のようなより深いモデルが、LeNet のような単純なモデルを上回らない。
• 簡単なベンチマークでは、モデルの深さを増すことで得られる性能向上が飽和しており、漸近的挙動が示唆されている。
• 本研究では、アーキテクチャの複雑さが、変動が大きい困難な単語検索タスクにおいてのみ有益であることが判明した。
• LeNet のような小型ネットワークは、単純なデータセットで競争力のある結果を達成しており、より深いモデルが常に必要というわけではないことが示唆されている。
• 結果から、モデル選択は深さそのものではなく、データセットの難易度に応じて行われるべきであると示唆されている。