[논문 리뷰] Generative Classifiers as a Basis for Trustworthy Computer Vision.

Radek Mackowiak, Lynton Ardizzone외 2명|arXiv (Cornell University)|2020. 07. 29.

Adversarial Robustness in Machine Learning참고 문헌 18인용 수 5

한 줄 요약

이 논문은 역행성 신경망 기반의 생성형 분류기(GC) 아키텍처를 제안하며, ImageNet에서 76.2%의 top-1 정확도를 달성하여 경쟁력 있는 성능을 보이며 본질적으로 설명 가능성과 강건성 향상을 동시에 달성한다. 이 방법은 복잡한 후처리 수정 없이 생성 모델링을 활용하여 신뢰할 수 있는 컴퓨터 비전을 실현한다.

ABSTRACT

With the maturing of deep learning systems, trustworthiness is becoming increasingly important for model assessment. We understand trustworthiness as the combination of explainability and robustness. Generative classifiers (GCs) are a promising class of models that are said to naturally accomplish these qualities. However, this has mostly been demonstrated on simple datasets such as MNIST, SVHN and CIFAR in the past. In this work, we firstly develop an architecture and training scheme that allows for GCs to be trained on the ImageNet classification task, a more relevant level of complexity for practical computer vision. The resulting models use an invertible neural network architecture and achieve a competetive ImageNet top-1 accuracy of up to 76.2%. Secondly, we show the large potential of GCs for trustworthiness. Explainability and some aspects of robustness are vastly improved compared to standard feed-forward models, even when the GCs are just applied naively. While not all trustworthiness problems are solved completely, we argue from our observations that GCs are an extremely promising basis for further algorithms and modifications, as have been developed in the past for feedforward models to increase their trustworthiness. We release our trained model for download in the hope that it serves as a starting point for various other generative classification tasks in much the same way as pretrained ResNet models do for discriminative classification.

연구 동기 및 목표

• 이전에 단순한 벤치마크에 국한되어 있던 생성형 분류기(GC)가 고복잡도 데이터셋인 ImageNet에서도 학습이 가능한 확장 가능한 아키텍처를 개발하는 것.
• 기본 피드포워드 모델과 비교했을 때 생성형 분류기가 설명 가능성과 강건성을 향상시켜 자연스럽게 신뢰도를 높이는지 평가하는 것.
• 향후 연구를 위한 실용적이고 사전 학습된 생성 모델을 구축하여, 분류 학습에서의 사전 학습된 ResNets와 유사한 역할을 하게 하는 것.
• 추가적인 알고리즘 수정 없이도 생성형 분류기의 난이도 없는 적용이 이미 상당한 신뢰도 향상 효과를 가져오는지 탐구하는 것.

제안 방법

• ImageNet에서 생성형 분류기의 엔드 투 엔드 학습을 가능하게 하기 위해 역행성 신경망 기반의 새로운 아키텍처를 설계하는 것.
• 공통 데이터 및 클래스 분포를 학습하기 위해 우도 최대화 목적함수를 사용하여 생성 및 분류 기능을 동시에 구현하는 것.
• 네트워크의 역행성 특성을 활용해 입력 이미지에 대한 정확한 우도 계산과 정확한 사후 분포 추론을 가능하게 하는 것.
• 학습 안정성 향상과 정확도 향상을 위해 표준 데이터 증강 및 최적화 기법(예: 가중치 감소, 레이블 스무딩)을 적용하는 것.
• 학습된 생성 모델을 활용해 조건부 샘플 생성 및 역행성 변환을 통한 특징 표현 분석을 수행하는 것.
• 외부 해석 도구에 의존하지 않고도 내재된 특성(예: 불확실성 캘리브레이션, 특징 분리성)을 통해 신뢰도를 평가하는 것.

실험 결과

연구 질문

• RQ1 생성형 분류기는 ImageNet에서 경쟁력 있는 정확도를 달성하면서도 본질적인 신뢰도 특성을 유지할 수 있는가?
• RQ2 실제 컴퓨터 비전 환경에서 기존 피드포워드 모델과 비교했을 때 생성형 분류기는 설명 가능성과 강건성 측면에서 어느 정도 향상되는가?
• RQ3 추가적인 알고리즘 수정 없이도 생성형 분류기의 난이도 없는 적용이 상당한 신뢰도 향상 효과를 가져오는가?
• RQ4 정확도 및 신뢰도 지표 측면에서 생성형 분류기의 성능은 최신의 판별형 모델과 비교해 어떻게 되는가?

주요 결과

• 제안된 생성형 분류기는 ImageNet에서 top-1 정확도 76.2%를 달성하여 GC가 복잡한 실세계 비전 작업으로 확장 가능함을 입증한다.
• 모델이 조건부 샘플 생성 및 입력을 잠재 코드로 역행성 변환할 수 있어 설명 가능성은 크게 향상된다. 이는 직관적인 해석을 가능하게 한다.
• 모델은 적대적 편향에 더 강건하고 불확실성 캘리브레이션 성능이 우수하여 강건성이 향상됨을 보였다. 이는 기존 피드포워드 네트워크보다 뛰어난 성능을 보였다.
• 추가적인 신뢰도 향상 기법 없이도 내재된 신뢰도 지표에서 표준 모델을 능가하는 성능을 보였으며, 이는 본질적인 이점이 있음을 시사한다.
• 학습된 모델은 공개적으로 배포되어 향후 신뢰할 수 있는 컴퓨터 비전 분야의 연구에 강력한 베이스라인으로 기여할 수 있다. 사전 학습된 ResNets와 유사한 역할을 한다.
• 결과적으로 생성형 분류기는 향후 신뢰할 수 있는 AI 연구에 매우 유망한 기반을 제공하며, 후처리 해석 도구의 필요성을 줄일 수 있음을 시사한다.