[논문 리뷰] Toward Accurate and Reliable Iris Segmentation Using Uncertainty Learning

Jianze Wei, Huaibo Huang외 5명|arXiv (Cornell University)|2021. 10. 20.

Biometric Identification and Security참고 문헌 33인용 수 5

한 줄 요약

이 논문은 해상도 손실 없이 공간적 및 시각적 맥락을 포착하는 양방향 자기주도 어텐션 모듈을 갖춘 트랜스포머 기반의 고유막 분할 모델인 BiTrans를 제안하며, 예측 신뢰도를 추정하기 위해 고유막 분할 신뢰도 학습(ISUL)을 도입한다. ISUL은 보조 헤드를 통해 신뢰도 지도를 생성하고, 이를 바탕으로 가중치 부여 방식과 정규화 항을 적용하여 정확도를 향상시킨다. 특히 어려운 고유막 영역에서 뛰어난 성능을 보이며, IrisParseNet 대비 20% 적은 FLOPs로 최신 기술 수준(SOTA) 성능을 달성한다.

ABSTRACT

Iris segmentation is a deterministic part of the iris recognition system. Unreliable segmentation of iris regions especially the limbic area is still the bottleneck problem, which impedes more accurate recognition. To make further efforts on accurate and reliable iris segmentation, we propose a bilateral self-attention module and design Bilateral Transformer (BiTrans) with hierarchical architecture by exploring spatial and visual relationships. The bilateral self-attention module adopts a spatial branch to capture spatial contextual information without resolution reduction and a visual branch with a large receptive field to extract the visual contextual features. BiTrans actively applies convolutional projections and cross-attention to improve spatial perception and hierarchical feature fusion. Besides, Iris Segmentation Uncertainty Learning is developed to learn the uncertainty map according to prediction discrepancy. With the estimated uncertainty, a weighting scheme and a regularization term are designed to reduce predictive uncertainty. More importantly, the uncertainty estimate reflects the reliability of the segmentation predictions. Experimental results on three publicly available databases demonstrate that the proposed approach achieves better segmentation performance using 20% FLOPs of the SOTA IrisParseNet.

연구 동기 및 목표

• 고유막 영역에서의 신뢰할 수 없는 고유막 분할 문제, 특히 고유막 영역에서의 신뢰성 문제를 해결하기 위해.
• 안구 영상에서 장거리 공간적 및 시각적 의존성을 모델링하여 분할 정확도와 신뢰도를 향상시키기 위해.
• 추론 복잡도를 증가시키지 않고도 저비용의 신뢰도 추정 모듈을 개발하여 모델 신뢰성을 높이기 위해.
• 최신 기술 수준의 방법들과 비교해도 성능을 유지하거나 향상시키면서 계산 비용을 줄이기 위해.

제안 방법

• 해상도를 유지하는 공간 브랜치와 넓은 수신장역할을 하는 시각 브랜치를 갖춘 이중 브랜치 양방향 자기주도 어텐션 모듈을 제안한다.
• 컨볼루션 투영과 크로스 어텐션을 사용하여 공간 인식과 계층적 특징 융합을 향상시키는 잔차형 인코더-디코더 트랜스포머 기반 아키텍처인 BiTrans를 도입한다.
• 다른 네트워크 깊이에서 분할 출력을 예측하기 위해 보조 헤드를 추가하여 예측 불일치를 추정함으로써 고유막 분할 신뢰도 학습(ISUL)을 개발한다.
• 보조 예측과 주 예측 간의 불일치를 이용해 예측 결과의 신뢰도를 반영하는 신뢰도 지도를 생성한다.
• 역전파 동안 높은 신뢰도가 낮은 픽셀에 더 높은 기울기를 할당하는 가중치 부여 방식을 적용하여 모호한 영역에서의 학습을 향상시킨다.
• 높은 예측 불확실성을 방지하기 위해 정규화 항을 도입하여 모델이 신뢰도가 낮은 예측에서 불확실성을 줄이도록 유도한다.

실험 결과

연구 질문

• RQ1 양방향 어텐션을 갖춘 트랜스포머 기반 아키텍처가 공간적 레이아웃과 시각적 텍스처 맥락을 함께 모델링함으로써 고유막 분할 정확도를 향상시킬 수 있는가?
• RQ2 분할 예측의 불확실성은 효과적으로 추정되고 활용될 수 있는가?
• RQ3 가중치 부여 및 정규화를 통한 신뢰도 인식 학습이 어려운 영역(예: 고유막 영역)에서 분할 성능 향상에 실질적인 기여를 하는가?
• RQ4 보조 헤드만으로도 최소한의 계산 오버헤드로 신뢰도 추정을 달성할 수 있는가?
• RQ5 학습 과정에서 신뢰도 추정은 실제 분할 오류 패턴과 어떻게 상관관계를 가지는가?

주요 결과

• 제안된 BiTrans 모델은 세 가지 공개 고유막 분할 데이터셋에서 최신 기술 수준(SOTA) 성능을 달성하였으며, F1 점수와 mIoU에서 IrisParseNet을 능가하면서도 FLOPs는 그의 20%에 불과하다.
• 절삭 실험을 통해 이중 자기주도 어텐션 모듈의 공간 브랜치와 시각 브랜치 모두가 필수적임을 확인하였으며, 둘 중 하나를 제거하면 성능이 크게 저하된다.
• 신뢰도 기반 가중치 부여 방식이 고유막 경계 및 고유막 영역과 같이 오류가 자주 발생하는 영역에 최적화된 최적화를 가능하게 하였다.
• 신뢰도 정규화 항은 예측 불확실성을 감소시키고 분할 정확도를 향상시켜, 추정된 신뢰도 지도가 실제 모델의 신뢰도를 잘 반영하고 있음을 검증하였다.
• 시각화 결과는 학습 과정에서 신뢰도 지도가 진화하는 방식을 보여주며, 초기에는 주로 경계 부근에 넓은 영역이 높은 불확실성으로 표시되다가 점차 지속적인 모호한 영역(예: 고유막 영역)으로 집중됨을 확인하였다.
• ISUL 모듈은 추론 비용을 증가시키지 않으면서도 분할 성능을 향상시켜, 저비용의 신뢰성 향상 메커니즘으로서의 효과를 입증하였다.