[논문 리뷰] Mini-batch graphs for robust image classification

Arnab Kumar Mondal, Vineet Jain외 1명|arXiv (Cornell University)|2021. 04. 22.

Adversarial Robustness in Machine Learning참고 문헌 35인용 수 8

한 줄 요약

이 논문은 미니배치 내 유사한 이미지 간의 특징을 집계하기 위해 그래프 컬러이션 네트워크를 사용하는 미니배치 그래프 신경망(MBGNNs)을 제안한다. 이는 추가적인 손실 항목 없이 분류 정확도를 향상시키고, 적대적 공격 및 이미지 편향에 대한 강건성을 높인다. 이 방법은 최소한의 계산 오버헤드를 유발하며, 모드 붕괴를 줄여 GAN 훈련을 향상시킨다.

ABSTRACT

Current deep learning models for classification tasks in computer vision are trained using mini-batches. In the present article, we take advantage of the relationships between samples in a mini-batch, using graph neural networks to aggregate information from similar images. This helps mitigate the adverse effects of alterations to the input images on classification performance. Diverse experiments on image-based object and scene classification show that this approach not only improves a classifier's performance but also increases its robustness to image perturbations and adversarial attacks. Further, we also show that mini-batch graph neural networks can help to alleviate the problem of mode collapse in Generative Adversarial Networks.

연구 동기 및 목표

• 미니배치 내 샘플 간 상호관계를 활용하여 적대적 공격 및 입력 편향에 대한 이미지 분류의 강건성을 향상시키기 위해.
• 대trastive 및 유사도 기반 손실 방법의 한계를 극복하기 위해 그래프 기반 특징 집계를 통해 유사 임베딩을 암묵적으로 장려하기 위해.
• 미니배치 그래프 학습을 통해 특징 다양성을 향상시켜 GAN의 모드 붕괴를 완화하기 위해.
• 표준 딥러닝 파ip라인과 호환되며, 이미지 분류를 초과하는 응용에 적용 가능한 모듈형이고 계산 효율적인 방법을 개발하기 위해.

제안 방법

• 특징 유사도를 기반으로 간선을 정의하여 각 미니배치에 대해 샘플 수준의 그래프를 구성한다.
• 그래프 컬러이션 네트워크(GCNs)를 적용하여 미니배치 그래프 내 노드(이미지) 간의 특징을 집계하고, 유사한 샘플 간 메시지 전달을 가능하게 한다.
• 그래프 네트워크의 출력을 각 이미지의 개선된 표현으로 사용하고, 이를 분류기 헤드로 전달한다.
• 표준 CNN의 최종 레이어에 MBGNN을 플러그인 모듈로 통합하여, 아키텍처 수정을 최소화한다.
• Attn-MBGNN에서 주의 메커니즘을 사용하여 그래프 내 이웃 노드의 기여도를 동적으로 가중하여 적응성을 향상시킨다.
• MC-MBGNN(미니배치 대비 MBGNN)를 통해 GAN 훈련 중 MBGNN 모듈을 활용하여 생성기의 다양성을 향상시키고 모드 붕괴를 감소시킨다.

실험 결과

연구 질문

• RQ1 미니배치 내 그래프 기반 특징 집계가 이미지 분류 성능과 편향에 대한 강건성 향상에 기여하는가?
• RQ2 MBGNNs를 통한 암묵적 유사도 학습이 대비 손실 또는 유사도 기반 손실 함수에 비해 강건성과 정확도 측면에서 더 우수한가?
• RQ3 MBGNNs가 생성 샘플의 다양성을 증진시켜 GAN 훈련 중 모드 붕괴를 효과적으로 줄일 수 있는가?
• RQ4 표준 ResNet 기반 모델 대비 MBGNN 모듈이 블랙박스 적대적 공격에서 어떻게 성능을 발휘하는가?
• RQ5 기존 딥러닝 파이프라인에 MBGNNs를 통합할 경우 계산 및 아키텍처 오버헤드는 어느 정도인가?

주요 결과

• MBGNNs는 국소적 가우시안 블러링 및 픽셀 단위의 가우시안 노이즈 조건에서 CIFAR-10에서 최대 2%의 테스트 정확도 향상을 보이며, 이미지 편향에 대한 강건성을 입증했다.
• 가장 우수한 성능을 보인 MBGNN 변종은 적대적 공격 조건에서 기준 ResNet 대비 1.5~2% 높은 정확도를 기록했으며, 성공적인 공격에 도달하기까지의 중앙값 쿼리 수가 상당히 높았다(일부 경우 10배 이상).
• 주의 기반 향상된 MBGNNs(Attn-MBGNN)는 표준 MBGNNs보다 강건성이 향상되었지만, 주의 가중치의 입력 편향에 대한 민감도가 누적되면서 표준 MBGNNs에 비해 성능이 떨어졌다.
• MC-MBGNN는 바닐라 GAN 대비 NDB 점수를 최대 30% 감소시켜 모드 붕괴 감소와 더 나은 샘플 다양성 향상을 나타냈다.
• 이 방법은 최소한의 계산 오버헤드를 유발하였으며, 추가 파rameter 수가 소수에 불과했고, 표준 CNN 아키텍처와 호환되었다.
• MBGNN 모듈은 CIFAR-10, CelebA 등 다양한 데이터셋과 아키텍처에서 효과적이었으며, 일관된 성능 향상과 강건성 향상을 보였다.