[논문 리뷰] The relationship between Fully Connected Layers and number of classes for the analysis of retinal images

Ajna Ram, Constantino Carlos Reyes‐Aldasoro|arXiv (Cornell University)|2020. 04. 07.

Retinal Imaging and Analysis참고 문헌 11인용 수 14

한 줄 요약

이 연구는 ODIR-2019 데이터셋의 망막 기저막 영상에서 분류 성능에 대해 완전히 연결된(FC) 레이어의 수가 미치는 영향을 분석한다. 네 가지 클래스(정상, 백내장, AMD, 근시)를 대상으로 하며, 복잡하고 겹치는 데이터에서는 FC 레이어를 늘일수록 성능 저하가 발생하고, 네트워크가 종종 단일 클래스 예측으로 붕괴되는 경향을 발견한다. 반면 간단한 선형으로 분리 가능한 데이터는 추가 FC 레이어로 인해 유의미하게 향상될 수 있다.

ABSTRACT

This paper experiments with the number of fully-connected layers in a deep convolutional neural network as applied to the classification of fundus retinal images. The images analysed corresponded to the ODIR 2019 (Peking University International Competition on Ocular Disease Intelligent Recognition) [9], which included images of various eye diseases (cataract, glaucoma, myopia, diabetic retinopathy, age-related macular degeneration (AMD), hypertension) as well as normal cases. This work focused on the classification of Normal, Cataract, AMD and Myopia. The feature extraction (convolutional) part of the neural network is kept the same while the feature mapping (linear) part of the network is changed. Different data sets are also explored on these neural nets. Each data set differs from another by the number of classes it has. This paper hence aims to find the relationship between number of classes and number of fully-connected layers. It was found out that the effect of increasing the number of fully-connected layers of a neural networks depends on the type of data set being used. For simple, linearly separable data sets, addition of fully-connected layer is something that should be explored and that could result in better training accuracy, but a direct correlation was not found. However as complexity of the data set goes up(more overlapping classes), increasing the number of fully-connected layers causes the neural network to stop learning. This phenomenon happens quicker the more complex the data set is.

연구 동기 및 목표

• 완전히 연결된(FC) 레이어의 수와 망막 영상 분석을 위한 CNN의 분류 정확도 간의 관계를 분석한다.
• 클래스의 수와 겹침 정도로 측정되는 데이터 복잡도가 추가 FC 레이어의 유용성에 미치는 영향을 평가한다.
• FC 레이어 수를 늘일 경우 특징 매핑 향상 또는 훈련 불안정성 유발 여부를 확인한다.
• 두 클래스(NC), 세 클래스(NCA), 네 클래스(NCAM) 구성의 다양한 클래스 수를 가진 다수의 데이터 서브셋 간 네트워크 성능을 비교한다.
• 특히 AMD 및 근시와 같은 어려운 클래스에 대해 망막 질환 분류에 최적의 FC 레이어 구성 설정을 규명한다.

제안 방법

• 동일한 컨볼루션 특징 추출기와 함께 다양한 수의 완전히 연결된(FC) 레이어(2~6개)를 가진 여러 CNN 아키텍처를 망막 영상 데이터로 훈련시켰다.
• ODIR-2019 데이터셋을 사용하였으며, 정상, 백내장, 노인성 황반변성(AMD), 근시의 네 가지 클래스만 선택하였다.
• 세 가지 데이터 분할(NC: 2개 클래스, NCA: 3개 클래스, NCAM: 4개 클래스)을 평가하였으며, 각각 다른 클래스 분리 가능성 특성을 가졌다.
• 정확도, 정밀도, 재현율, F1 점수, 진짜/거짓 양성/음성 수와 같은 표준 지표를 사용해 성능을 측정하였다.
• 수렴 상태와 단일 클래스 예측 이상 현상 등을 모니터링하여 네트워크 붕괴 여부를 감지하였다.
• 다양한 실행 횟수에 걸쳐 평균 정확도 및 클래스별 지표를 보고하여 연구 결과의 신뢰성 확보를 도모하였다.

실험 결과

연구 질문

• RQ1 완전히 연결된 레이어의 수를 늘일 경우, 망막 영상 분석을 위한 CNN의 분류 정확도에 어떤 영향을 미치는가?
• RQ2 추가 FC 레이어의 성능 영향은 데이터 복잡도와 클래스 겹침 정도에 따라 달라지는가?
• RQ3 추가 FC 레이어가 모델 성능 저하 또는 훈련 실패를 유발하기 시작하는 시점은 언제인가?
• RQ4 더 많은 FC 레이어가 비선형적으로 분리되지 않는 망막 질환 클래스의 특징 매핑을 향상시킬 수 있는가?
• RQ5 훈련 도중 일부 네트워크가 단일 클래스로 예측하는 이유는 무엇이며, 이는 FC 레이어 수와 데이터 복잡도와 어떤 관련이 있는가?

주요 결과

• 선형적으로 분리 가능한 두 클래스(NC) 데이터셋(정상 대 백내장)에서는 FC 레이어 수를 늘여도 성능 저하가 없었으며, 훈련 정확도는 높게 유지되었다(최대 81.3%까지 NN-2에서 기록).
• 세 클래스(NCA) 데이터셋(정상, 백내장, AMD)에서는 최고 성능을 보인 네트워크는 NN-2(2개 FC 레이어)였으며, 평균 정확도는 0.858을 기록하였다. 반면 더 많은 FC 레이어를 가진 네트워크(NN-3, NN-4)는 유의미하게 낮은 성능을 보였다.
• 네 클래스(NCAM) 데이터셋(정상, 백내장, AMD, 근시)에서는 NN-2가 가장 높은 평균 정확도 0.883을 기록하였고, NN-3, NN-4, NN-6는 모두 단일 클래스 예측으로 붕괴되어 정확도가 25%에 그쳤다.
• 더 많은 FC 레이어를 가진 네트워크(특히 NN-3, NN-4, NN-6)는 심각한 훈련 불안정성을 보였으며, 훈련 도중 자주 한 종류의 클래스만 예측하는 경향을 보여, 클래스 간 구분 학습에 실패함을 시사했다.
• NN-5는 NCAM에서 53%의 정확도를 보였지만, 백내장에 대해선 높은 정밀도(0.948)와 재현율(0.702)을 기록하여, 정상, AMD, 근시 클래스에 대한 일반화 능력이 떨어지는 이상 행동을 보였다.
• FC 레이어 수와 정확도 간 직접적인 상관관계는 발견되지 않았지만, 복잡하고 겹치는 데이터에서는 FC 레이어 수 증가가 성능 저하를 일관되게 유도하며, 클래스 복잡도가 높을수록 붕괴가 더 빠르게 발생하는 경향을 관찰하였다.