[論文レビュー] Recognizing Cuneiform Signs Using Graph Based Methods

Nils M. Kriege, Matthias Fey+3 more|arXiv (Cornell University)|Feb 16, 2018

Graph Theory and Algorithms参考文献 18被引用数 13

ひとこと要約

本稿では、楔形文字の文字認識のための2つのグラフベースの手法を提案する：グラフ編集距離（GED）に基づく最近傍分類器と、グラフ上の深層学習のためのSplineCNNである。SplineCNNは高い精度（データ拡張を用いることで最大95.14％）と効率的な推論を達成するが、GEDアプローチは高い精度を示すが予測コストが高くなる。両手法とも、限られた学習例を有する実世界の楔形文字データセットにおいて有効であることが示された。

ABSTRACT

The cuneiform script constitutes one of the earliest systems of writing and is realized by wedge-shaped marks on clay tablets. A tremendous number of cuneiform tablets have already been discovered and are incrementally digitalized and made available to automated processing. As reading cuneiform script is still a manual task, we address the real-world application of recognizing cuneiform signs by two graph based methods with complementary runtime characteristics. We present a graph model for cuneiform signs together with a tailored distance measure based on the concept of the graph edit distance. We propose efficient heuristics for its computation and demonstrate its effectiveness in classification tasks experimentally. To this end, the distance measure is used to implement a nearest neighbor classifier leading to a high computational cost for the prediction phase with increasing training set size. In order to overcome this issue, we propose to use CNNs adapted to graphs as an alternative approach shifting the computational cost to the training phase. We demonstrate the practicability of both approaches in an extensive experimental comparison regarding runtime and prediction accuracy. Although currently available annotated real-world data is still limited, we obtain a high accuracy using CNNs, in particular, when the training set is enriched by augmented examples.

研究の動機と目的

• 限られたアノテート済み学習データの下で、自動化された楔形文字の文字認識の課題に対処すること。
• 構造的および幾何的特徴を捉える強力なグラフベースのモデルを構築すること。
• GEDベースと深層学習ベースのアプローチの間で、精度と計算効率のトレードオフを比較すること。
• 変動する学習データサイズとデータ拡張を用いた実世界の楔形文字データセット上で性能を評価すること。

提案手法

• ノードが楔の成分を表し、エッジがそれらの間の空間的または幾何的関係を表すグラフモデルを構築する。
• 頂点およびエッジの編集操作に基づいて、楔形文字の文字グラフ間の類似度を計算するための特化したグラフ編集距離（GED）測度を提案する。
• APX1およびAPX2というヒューリスティクスを導入し、GEDを効率的に近似する。APX2は構成のエッジを組み込むことで、精度を向上させた。
• Bスプラインカーネルを用いてノード特徴量とグラフトポロジーを処理するように、SplineCNNをグラフ構造の楔形文字データに適応する。
• SplineCNNの学習中に、ランダムなアフィン変換を適用することで、多様な学習例を生成するためのデータ拡張を実施する。
• 予測時間は学習データサイズに比例するため、最近傍分類器はGEDを距離指標として使用し、学習データサイズに比例して増加する。

実験結果

リサーチクエスチョン

• RQ1 特化したヒューリスティクスを用いたGEDは、計算コストが高めでも、楔形文字の分類において高い精度を達成できるか？
• RQ2 SplineCNNのような幾何的深層学習アプローチは、小さな楔形文字データセットにおいても一般化性能を示せるか、特にデータ拡張を施した場合に顕著か？
• RQ3 学習データサイズが増加するに従い、GEDベースとCNNベースの手法の実行時間特性はどのように比較されるか？
• RQ4 配置エッジと幾何的文脈は、分類性能にどの程度影響を与えるか？

主な発見

• SplineCNNは、全データセットで最高の平均精度95.14％を達成し、すべてのGEDベースの手法を上回った。
• データ拡張を施した場合、SplineCNNは95.14％の精度を達成したが、拡張なしの学習では50/50の分割で90.23％に低下した。
• 正確なGED手法は93.40％の精度を達成したが、APX2（配置エッジを含む）はAPX1（含まない）よりも1.79ポイント高い性能を示し、構造的文脈の重要性が浮き彫りになった。
• SplineCNNの学習時間は全データセットで6.66秒、推論時間は13.99msで、予測フェーズにおける高い効率性が示された。
• GEDベースの予測時間は学習データサイズに比例して増加し、100％の学習サイズで222.2msに達した。これは、大規模データセットではSplineCNNに比べてスケーラビリティに劣ることを示している。
• テスト分割のサイズが小さい（約27グラフ）場合、精度のばらつきが著しく（例：±3.70ポイントの変動）現れ、特に小さなテストセットに依存する敏感さが示された。