[논문 리뷰] Recognizing Cuneiform Signs Using Graph Based Methods

Nils M. Kriege, Matthias Fey외 3명|arXiv (Cornell University)|2018. 02. 16.

Graph Theory and Algorithms참고 문헌 18인용 수 13

한 줄 요약

이 논문은 메오그라프 기반의 두 가지 방법을 제안한다: 그래프 편집 거리(GED) 기반의 최근접 이웃 분류기와 그래프에서의 딥러닝을 위한 SplineCNN. SplineCNN는 높은 정확도(데이터 증강을 통해 최대 95.14%)와 빠른 추론을 달성하였고, GED 방법은 높은 정확도를 보였지만 예측 비용이 높았다. 두 방법 모두 훈련 예제가 제한된 실제 메오그라프 데이터셋에서 효과를 보였다.

ABSTRACT

The cuneiform script constitutes one of the earliest systems of writing and is realized by wedge-shaped marks on clay tablets. A tremendous number of cuneiform tablets have already been discovered and are incrementally digitalized and made available to automated processing. As reading cuneiform script is still a manual task, we address the real-world application of recognizing cuneiform signs by two graph based methods with complementary runtime characteristics. We present a graph model for cuneiform signs together with a tailored distance measure based on the concept of the graph edit distance. We propose efficient heuristics for its computation and demonstrate its effectiveness in classification tasks experimentally. To this end, the distance measure is used to implement a nearest neighbor classifier leading to a high computational cost for the prediction phase with increasing training set size. In order to overcome this issue, we propose to use CNNs adapted to graphs as an alternative approach shifting the computational cost to the training phase. We demonstrate the practicability of both approaches in an extensive experimental comparison regarding runtime and prediction accuracy. Although currently available annotated real-world data is still limited, we obtain a high accuracy using CNNs, in particular, when the training set is enriched by augmented examples.

연구 동기 및 목표

• 제한된 애너테이션 훈련 데이터를 바탕으로 한 자동 메오그라프 기호 인식의 과제를 해결하기 위해.
• 메오그라프 기호의 구조적 및 기하학적 특징을 포괄하는 강력한 그래프 기반 모델을 개발하기 위해.
• GED 기반 및 딥러닝 기반 접근법 간 정확도와 계산 효율성의 상호 상충 관계를 비교하기 위해.
• 다양한 훈련 세트 크기와 데이터 증강 조건에서 실제 메오그라프 데이터셋에서의 성능을 평가하기 위해.

제안 방법

• 노드는 육각형 성분을, 엣지는 그들 간의 공간적 또는 기하학적 관계를 나타내는 그래프 모델을 구성한다.
• 정점 및 엣지 편집 연산을 기반으로 한 맞춤형 그래프 편집 거리(GED) 측정법을 제안하여 메오그라프 기호 간 유사도를 계산한다.
• GED를 효율적으로 근사하기 위한 히우리스틱을 도입하였으며, APX1 및 APX2가 포함되며, APX2는 정렬 엣지를 포함하여 정확도를 향상시켰다.
• B-스플라인 커널을 사용하여 노드 특징 및 그래프 구조를 처리하기 위해 SplineCNN를 메오그라프 구조 데이터에 적응시켰다.
• SplineCNN 훈련 중에 무작위 아핀 변환을 적용하여 다양한 훈련 예제를 생성함으로써 데이터 증강을 적용하였다.
• 예측 시간이 훈련 세트 크기에 비례하여 증가하는 최근접 이웃 분류기를 GED를 거리 메트릭으로 사용하여 구현하였다.

실험 결과

연구 질문

• RQ1 맞춤형 히우리스틱을 적용한 그래프 편집 거리(GED)가 높은 계산 비용에도 불구하고 메오그라프 기호 분류에서 높은 정확도를 달성할 수 있는가?
• RQ2 SplineCNN와 같은 기하학적 딥러닝 접근법이 소규모 메오그라프 데이터셋에서 잘 일반화될 수 있는가, 특히 데이터 증강이 적용된 경우에 대해?
• RQ3 훈련 세트 크기가 증가함에 따라 GED 기반 및 CNN 기반 방법의 런타임 특성이 어떻게 비교되는가?
• RQ4 정렬 엣지와 기하학적 맥락이 분류 성능에 얼마나 큰 영향을 미치는가?

주요 결과

• SplineCNN는 전체 데이터셋에서 평균 정확도 95.14%를 기록하여 모든 GED 기반 방법을 능가하였다.
• 데이터 증강을 적용한 결과 SplineCNN는 95.14%의 정확도를 달성하였고, 증강 없이 훈련한 경우 50/50 분할에서 정확도가 90.23%로 떨어지는 등 뚜렷한 향상이 있었으며,
• 정확한 GED 방법은 93.40%의 정확도를 기록하였고, APX2(정렬 엣지를 포함)는 APX1(미포함)보다 1.79%p 높은 성능을 보이며, 구조적 맥락의 중요성을 입증하였다.
• SplineCNN 훈련은 전체 데이터셋 기준 6.66초로 매우 짧았고, 추론 시간은 13.99ms로 예측 단계에서 매우 높은 효율성을 보였다.
• GED 기반 예측 시간은 훈련 세트 크기에 따라 선형적으로 증가하여, 100% 훈련 크기에서 222.2ms에 도달하였으며, 이는 대규모 데이터셋에서는 SplineCNN보다 확장성이 떨어짐을 시사한다.
• 작은 테스트 세트(약 27개 그래프)에서의 정확도 변동성이 크며(예: ±3.70%p의 변동), 특히 작은 테스트 세트일 경우 데이터 분할 선택에 민감함을 보였다.