[論文レビュー] Building Efficient CNN Architecture for Offline Handwritten Chinese Character Recognition

Zhiyuan Li, Nanjun Teng+2 more|arXiv (Cornell University)|Apr 4, 2018

Handwritten Text Recognition Techniques参考文献 8被引用数 7

ひとこと要約

本稿では、全結合層のパラメータを削減するためのグローバル重み付き平均プーリング（GWAP）と、中間層出力を用いた段階的モデルを用いて、オフライン手書き中国漢字認識（HCCR）のための効率的なCNNアーキテクチャを提案する。この手法は、CPU上で3.3MBのストレージと平均6.9msの推論時間で97.1%の精度を達成し、効率性と精度の両面で先行研究を上回っている。

ABSTRACT

Deep convolutional networks based methods have brought great breakthrough in images classification, which provides an end-to-end solution for handwritten Chinese character recognition(HCCR) problem through learning discriminative features automatically. Nevertheless, state-of-the-art CNNs appear to incur huge computation cost, and require the storage of a large number of parameters especially in fully connected layers, which is difficult to deploy such networks into alternative hardware device with the limit of computation amount. To solve the storage problem, we propose a novel technique called Global Weighted Arverage Pooling for reducing the parameters in fully connected layer without loss in accuracy. Besides, we implement a cascaded model in single CNN by adding mid output layer to complete recognition as early as possible, which reduces average inference time significantly. Experiments were performed on the ICDAR-2013 offline HCCR dataset, and it is found that the proposed approach only needs 6.9ms for classfying a chracter image on average, and achieves the state-of-the-art accuracy of 97.1% while requiring only 3.3MB for storage.

研究の動機と目的

• オフライン手書き中国漢字認識（HCCR）における最先端CNNの高い計算コストとストレージコストを低減すること。
• 精度を損なわずに全結合層のパラメータ数を削減すること。
• 中間層出力層を導入することで、入力の大部分を早期に分類可能とし、推論を高速化すること。
• モデル圧縮と量子化を用いて、リソース制限のあるハードウェアへのデプロイを可能とすること。

提案手法

• SqueezeNetのファイアモジュールを採用し、FLOPsとパラメータ数を低減したコンパクトなCNNアーキテクチャを構築する。
• 標準的な全結合層に代わってグローバル重み付き平均プーリング（GWAP）を導入し、パラメータ数を削減しながらも精度を維持する。
• 追加の中間層出力層を備えた段階的CNN構造を実装し、入力の大部分を中間層で早期に分類することで、平均推論時間を短縮する。
• 2段階の訓練戦略を採用：まずベースネットワークと最終分類器を訓練し、その後で中間層出力層を別々に微調整することで、より高い性能を達成する。
• 畳み込み層には8ビット固定小数点量子化、全結合層には4ビット量子化を適用し、モデルサイズをさらに圧縮しつつ、精度の損失を最小限に抑える。
• クラス確率のしきい値（例：0.98）を用いて、信頼度が高い場合に早期推論をトリガーすることで、平均速度を向上させる。

実験結果

リサーチクエスチョン

• RQ1 グローバル重み付き平均プーリング（GWAP）は、HCCRにおける全結合層のパラメータを効果的に削減しつつ、高い認識精度を維持できるか？
• RQ2 単一のCNNアーキテクチャに中間層出力層を導入することで、最終精度を損なわずに平均推論時間を顕著に短縮できるか？
• RQ3 信頼度しきい値に基づく早期停止による段階的推論は、全体の速度と精度のトレードオフにどのように影響を与えるか？
• RQ4 モデル量子化は、HCCRにおいて精度の低下を最小限に抑えつつ、ストレージ要件をどの程度低減できるか？
• RQ5 コンパクトで効率的なCNNアーキテクチャは、ICDAR-2013 HCCRベンチマークで最先端の性能を達成できるか？

主な発見

• 提案された段階的モデルは、ICDAR-2013データセットで97.14%の最先端の認識精度を達成し、従来手法を上回った。
• 入力の約76%が中間層で早期に分類されたことにより、平均推論時間が1キャラクタあたり6.93msにまで短縮され、ベースラインモデル比で25%の改善が得られた。
• 全結合層の4ビット量子化後、モデルのストレージはたったの3.3MBにまで削減され、先行研究と比較して顕著なメモリフットプリントの低減が達成された。
• HCCR-WAPバージョンは、追加パラメータがたった0.03MB増加するだけで96.91%の精度を達成し、GWAPによるパラメータ削減の有効性を示した。
• 中間層分類器と最終分類器を別々に訓練した場合の最終精度（96.91%）は、マルチタスク学習（96.31%）よりも優れており、訓練戦略の妥当性が裏付けられた。
• 最終モデルの計算コストは94MFLOPsにとどまり、CPU搭載デバイスへのデプロイに非常に効率的であることが示された。