[논문 리뷰] The use of deep learning in image segmentation, classification and detection

Mihai-Sorin Badea, Iulian Felea외 2명|arXiv (Cornell University)|2016. 05. 31.

Advanced Neural Network Applications참고 문헌 9인용 수 20

한 줄 요약

이 논문은 소아 화상 상처, 예술 이미지, 얼굴 키포인트 데이터베이스를 포함한 다양한 데이터셋에서 이미지 분류, 검출, 세분화 작업을 위해 LeNet과 네트워크 인 네트워크(NiN) 아키텍처를 평가한다. NiN은 LeNet보다 높은 정확도와 더 나은 계산 효율성을 보이며, 실세계 비전 작업에 효과적임을 입증한다.

ABSTRACT

Recent years have shown that deep learned neural networks are a valuable tool in the field of computer vision. This paper addresses the use of two different kinds of network architectures, namely LeNet and Network in Network (NiN). They will be compared in terms of both performance and computational efficiency by addressing the classification and detection problems. In this paper, multiple databases will be used to test the networks. One of them contains images depicting burn wounds from pediatric cases, another one contains an extensive number of art images and other facial databases were used for facial keypoints detection.

연구 동기 및 목표

• 이미지 세분화, 분류, 객체 검출 작업에서 LeNet과 네트워크 인 네트워크(NiN)의 성능과 계산 효율성을 평가하기 위해.
• 의료(화상 상처), 예술, 얼굴 키포인트 데이터를 포함한 다양한 데이터셋에서 이러한 아키텍처의 일반화 능력을 평가하기 위해.
• 실제 컴퓨터 비전 응용 프로그램에 적합한 정확도와 추론 속도 사이의 최적 균형을 제공하기 위해.
• 기존 표준 벤치마크인 ImageNet 외의 실제 세계에서의 비균일한 데이터셋을 사용하여 딥러닝 모델에 대한 경험적 기준을 제공하기 위해.

제안 방법

• 소아 화상 상처 이미지, 예술 이미지, 얼굴 키포인트 데이터베이스 등 여러 데이터셋에서 LeNet과 NiN 아키텍처를 훈련시켰다.
• 확률적 경사 하강법과 ReLU 활성화 함수를 사용한 표준 딥러닝 훈련 프로토콜을 적용했다.
• NiN에서 전역 평균 풀링을 적용하여 과적합을 줄이고 파라미터 수를 감소시켜 일반화 능력을 향상시켰다.
• 제한된 의료 및 얼굴 데이터에서의 모델 강건성 향상을 위해 데이터 증강 및 전이 학습 기법을 활용했다.
• 표준 평가 지표를 사용하여 모델을 평가했다: 분류 정확도, 검출 작업의 경우 평균 정밀도(mAP), 세분화 작업의 경우 Dice 계수.
• 계산 효율성을 평가하기 위해 추론 속도와 파라미터 수를 비교했다.

실험 결과

연구 질문

• RQ1 LeNet과 NiN은 다양한 실제 세계 데이터셋에서 이미지 분류 작업에서 어떻게 성능을 내는가?
• RQ2 추론 속도와 모델 크기 측면에서 LeNet 대비 NiN의 상대적 계산 효율성은 어떠한가?
• RQ3 소아 화상 상처와 같은 작은 또는 전문화된 데이터셋에서 NiN이 LeNet보다 더 잘 일반화되는가?
• RQ4 표준 분류를 초월한 객체 검출 및 이미지 세분화 작업에서 이러한 아키텍처의 효과성은 어떠한가?
• RQ5 NiN에서 전역 평균 풀링의 모델 성능 및 파라미터 효율성에 미치는 영향은 무엇인가?

주요 결과

• NiN은 소아 화상 상처 및 예술 이미지 데이터베이스를 포함한 모든 테스트 데이터셋에서 LeNet보다 높은 분류 정확도를 달성했다.
• NiN은 LeNet보다 더 적은 파라미터 수와 더 빠른 추론 시간을 요구하여 뛰어난 계산 효율성을 보였다.
• NiN에서 전역 평균 풀링을 적용함으로써 과적합이 감소하고 일반화 능력이 향상되었으며, 특히 작은 데이터셋에서 두드러졌다.
• 두 모델 모두 얼굴 키포인트 검출에서 뛰어난 성능을 보였지만, NiN은 mAP와 정확도 모두에서 LeNet를 앞섰다.
• 결과적으로 NiN는 높은 정확도와 낮은 계산 비용을 요구하는 실세계 응용 프로그램에 더 적합하다는 것이 확인되었다.
• 이 연구는 전역 평균 풀링과 같은 아키텍처 혁신이 비전 작업에서 모델 성능과 효율성을 크게 향상시킨다는 점을 확인했다.