[논문 리뷰] Two-Dimensional Quantum Material Identification via Self-Attention and Soft-labeling in Deep Learning

Xuan-Bac Nguyen, Apoorva Bisht외 4명|arXiv (Cornell University)|2022. 05. 31.

Advanced Neural Network Applications인용 수 6

한 줄 요약

이 논문은 2D 양자재료 탐지에서 인스턴스 세분화 성능을 향상시키기 위해 자기주의(self-attention)와 소프트 레이블링을 결합한 프레임워크를 제안한다. 이는 부족한 애너테이션 문제를 해결하기 위해 오류로 간주되는 음성 예측물체를 자동으로 식별하고, 주의 기반 손실을 통해 그 기여도를 줄인다. 이 방법은 최신 기술 수준의 성능을 달성하여 다양한 2D 재료 데이터셋에서 기존 방법 대비 AP50 최대 5% 향상되고 AP 최대 5.7% 향상된다.

ABSTRACT

In quantum machine field, detecting two-dimensional (2D) materials in Silicon chips is one of the most critical problems. Instance segmentation can be considered as a potential approach to solve this problem. However, similar to other deep learning methods, the instance segmentation requires a large scale training dataset and high quality annotation in order to achieve a considerable performance. In practice, preparing the training dataset is a challenge since annotators have to deal with a large image, e.g 2K resolution, and extremely dense objects in this problem. In this work, we present a novel method to tackle the problem of missing annotation in instance segmentation in 2D quantum material identification. We propose a new mechanism for automatically detecting false negative objects and an attention based loss strategy to reduce the negative impact of these objects contributing to the overall loss function. We experiment on the 2D material detection datasets, and the experiments show our method outperforms previous works.

연구 동기 및 목표

• 2D 양자재료 탐지에서 애너테이션 누락 문제로 인해 모델의 재현율과 성능이 제한되는 문제를 해결하기 위해.
• 지표 없는 애너테이션을 가진 오류로 간주되는 물체를 자동으로 식별할 수 있는 엔드 투 엔드 학습 가능한 메커니즘을 개발하기 위해.
• 자기주의 기반 손실 함수와 소프트 레이블링을 통해 오류로 간주되는 물체가 모델 학습에 미치는 부정적 영향을 줄이기 위해.
• 광학 현미경 영상 기반 2D 플레이크 인스턴스 세분화에서 탐지 정확도와 재현율을 향상시키기 위해.
• 그래핀, hBN, MoS2, WTe2를 포함한 다양한 2D 재료에서 표준 COCO 지표를 사용해 방법을 검증하기 위해.

제안 방법

• 지표 없는 잠재적 물체를 식별하기 위해 영역 제안 네트워크에 자기주의 메커니즘을 통합하여, 기울기 전파가 가능한 엔드 투 엔드 방식으로 오류로 간주되는 음성 예측물체를 식별한다.
• 검출된 오류로 간주되는 음성 예측물체에 소프트 레이블을 할당하기 위해 주의 기반 손실 함수를 도입하여 역전파 동안 기여도를 줄인다.
• 주어진 주의 모듈과 탐지 헤드가 함께 최적화되는 다중 작업 학습 프레임워크를 사용해 모델을 훈련한다.
• 이 방법은 영상 조각을 처리하고 이를 1차원 배열로 펼치며, 색상 프로파일 기반으로 두께를 회귀 예측하여 소프트 레이블링 과정에 정보를 제공한다.
• 오류로 간주되는 물체 탐지의 신뢰도를 제어하기 위해 임계값(t = 0.6, 0.8, 0.9)을 사용하며, t = 0.8에서 최적의 성능을 기록했다.
• 프레임워크는 표준 COCO 지표(AP50, AP75, AP)를 사용해 네 가지 2D 재료인 그래핀(G), hBN(BN), MoS2(M), WTe2(W)에서 평가된다.

실험 결과

연구 질문

• RQ1 지표 없는 애너테이션 없이도 자기주의 기반 메커니즘이 광학 현미경 영상에서 오류로 간주되는 2D 플레이크 인스턴스를 효과적으로 식별할 수 있는가?
• RQ2 훈련 데이터에 애너테이션 누락이 있을 경우 주의 기반 소프트 레이블링 손실 함수가 모델 성능에 어떻게 기여하는가?
• RQ3 다양한 2D 재료에서 세분화 성능을 최대화하는 데 가장 적합한 오류로 간주되는 물체 탐지의 임계값은 무엇인가?
• RQ4 제안된 방법이 기준 모델 및 기존 최신 기술 수준의 방법 대비 재현율과 평균 정밀도를 얼마나 향상시키는가?
• RQ5 색상 프로파일과 두께 특성이 다양한 2D 재료 간에서 이 방법이 일반화되는 정도는 어느 정도인가?

주요 결과

• 제안된 방법은 WTe2 재료에서 기준 모델 대비 평균 정밀도(AP)를 5.7% 향상시켰으며, AP는 55.0에서 61.8로 상승했다.
• 그래핀의 경우 t=0.8 임계값을 사용할 때 AP50는 86.3에서 87.8로, AP는 72.4에서 75.7로 향상되었다.
• 모든 재료에서 BRL [15]보다 약 2%의 평균 정밀도 향상을 기록했으며, 특히 MoS2에서 가장 높은 성과를 기록했다(55.1 vs. 53.7).
• 탐지 신뢰도에 가장 적합한 임계값은 t=0.8로, 모든 지표와 재료에서 최고의 성능을 기록했다.
• hBN에서 훈련 및 테스트를 수행했을 때 두께 예측 오차를 4.0 nm로 줄였으며, 모든 테스트된 재료 조합 중에서 가장 낮은 오차를 기록했다.
• 그림 3의 정성적 결과는 제안된 모델이 기준 모델보다 더 정확하고 완전한 세분화 마스크를 생성함을 보여주며, 특히 밀도가 높은 플레이크 영역에서 두드러진 성능 향상을 보였다.