[논문 리뷰] Not all Failure Modes are Created Equal: Training Deep Neural Networks for Explicable (Mis)Classification

Alberto Olmo, Sailik Sengupta외 1명|arXiv (Cornell University)|2020. 06. 26.

Adversarial Robustness in Machine Learning인용 수 5

한 줄 요약

이 논문은 인간의 기대와 관련된 의미적 유사도 기반으로 잘못 분류를 보상하는 가중 손실 함수를 사용하여 깊이 신경망을 훈련시키는 방법을 제안한다. 이는 설명할 수 없는 오류를 줄이고, 기존 방법에 비해 레이블링 비용을 낮추면서도 높은 정확도를 유지한다. 인간이 수작업으로 구성한 지식 기반 자료(예: WordNet)를 활용해 클래스 수준의 의미적 거리를 정의함으로써, 특히 심각한 실패 사례에 대해 모델의 설명 가능성을 향상시킨다.

ABSTRACT

Deep Neural Networks are often brittle on image classification tasks and known to misclassify inputs. While these misclassifications may be inevitable, all failure modes cannot be considered equal. Certain misclassifications (eg. classifying the image of a dog to an airplane) can perplex humans and result in the loss of human trust in the system. Even worse, these errors (eg. a person misclassified as a primate) can have odious societal impacts. Thus, in this work, we aim to reduce inexplicable errors. To address this challenge, we first discuss methods to obtain the class-level semantics that capture the human's expectation ($M^h$) regarding which classes are semantically close {\em vs.} ones that are far away. We show that for popular image benchmarks (like CIFAR-10, CIFAR-100, ImageNet), class-level semantics can be readily obtained by leveraging either human subject studies or publicly available human-curated knowledge bases. Second, we propose the use of Weighted Loss Functions (WLFs) to penalize misclassifications by the weight of their inexplicability. Finally, we show that training (or fine-tuning) existing classifiers with the proposed methods lead to Deep Neural Networks that have (1) comparable top-1 accuracy, (2) more explicable failure modes on both in-distribution and out-of-distribution (OOD) test data, and (3) incur significantly less cost in the gathering of additional human labels compared to existing works.

연구 동기 및 목표

• 딥 신경망에서 인간의 기대 또는 사회적 규범을 위반하는 설명할 수 없는 오류를 줄이기 위해.
• 인간이 어떤 클래스 오분류가 합리적이거나 심각한지에 대한 기대를 모델링하여 분류 실패의 설명 가능성 개념을 체계화하기 위해.
• 개별 예측 레이블링이 필요 없는, 저비용이고 확장 가능한 방법으로 인간의 지식 기반 의미적 기대를 DNN 훈련에 통합하기 위해.
• 분류기의 실패 모드를 인간의 인지적 및 의미적 유사성 이해와 일치시킴으로써 모델 신뢰도를 향상시키기 위해.

제안 방법

• 인간의 기대를 클래스 유사도의 의미적 거리로 표현하며, 인간의 주관적 연구나 사전에 존재하는 언어 지식 기반 자료(예: WordNet)에서 유도한다.
• 인간의 인지에서 한 클래스가 다른 클래스와 얼마나 가까운지 또는 먼지를 수량화하는 클래스 수준의 의미적 유사도 행렬 $ M^h $ 를 구성한다.
• 의미적 거리가 먼 클래스로의 잘못 분류에 더 높은 페널티를 주는 새로운 가중 손실 함수인 EKL(의미적 설명 가능성 고려 손실)을 제안한다.
• EKL 손실은 표준 모델(예: ResNet, Inception-ResNet-v2)의 훈련 또는 미세조정 과정에서 적용되며, 기존의 다중 분류 교차 엔트로피 손실을 의미적 거리 반영 방식으로 수정한다.
• CIFAR-10, CIFAR-100, ImageNet에서 평가되었으며, 설명 가능성 측정을 위해 하드 및 소프트 메트릭을 모두 사용하였다.
• 인간 평가를 위해 Amazon Mechanical Turk를 활용하여, EKL로 훈련된 모델이 표준 CCE나 다른 기준 모델보다 더 설명 가능하게 인식됨을 검증하였다.

실험 결과

연구 질문

• RQ1 인간이 수작업으로 구성한 지식 기반 자료에서 유도된 클래스 수준의 의미적 유사도가, 인간이 어떤 오분류를 설명 가능하고 어떤 오분류를 심각하게 보는지에 대한 인간의 기대를 효과적으로 표현할 수 있는가?
• RQ2 의미적 거리가 먼 오분류에 더 높은 페널티를 주는 가중 손실 함수를 어떻게 설계할 수 있는가? 이를 통해 모델의 실패 모드를 인간 중심의 이해와 더 잘 일치시킬 수 있는가?
• RQ3 이러한 손실 함수로 훈련하면, 분포 내 및 분포 외 데이터 모두에서 정확도를 유지하면서 실패 모드의 설명 가능성은 크게 향상되는가?
• RQ4 인간 평가를 통해, 제안된 방법으로 훈련된 모델이 표준 교차 엔트로피 손실로 훈련된 모델보다 더 설명 가능하게 인식되는 정도는 어느 정도인가?

주요 결과

• ImageNet에서 EKL로 훈련된 Inception-ResNet-v2 모델은 인간 평가 점수 2.897을 기록했으며, 표준 CCE 기준 모델(1.456)의 점수를 두 배 이상 상회하여 설명 가능성 향상이 뚜렷하게 확인되었다.
• 상위 1위 정확도가 0.95% 감소했음에도 불구하고, EKL 모델은 설명 가능성 메트릭에서 상당한 향상을 보였으며, 정확도와 설명 가능성 간의 균형이 효과적으로 달성됨을 보여주었다.
• CIFAR-10+에서 EKL로 훈련된 ResNet-v2 모델은 인간 평가 점수 1.743을 기록하여 CCE 기준 모델(0.741)을 능가했으며, 오류의 합리성에 대한 인식 향상이 일관되게 관찰되었다.
• 인간 평가 결과, EKL로 훈련된 모델가 CCE나 다른 기준 모델보다 더 설명 가능하게 인식됨을 확인하였으며, 이는 메트릭 기반 평가 결과와 일치하였다.
• 기울기 시각화 분석 결과, EKL 모델이 더 관련 있는 이미지 영역에 집중하는 경향을 보였으며, 이는 의미적으로 중요한 특징에 더 잘 주목하고 있음을 시사한다.
• 개별 예측에 대한 인간 레이블링이 필요 없는, 사전에 존재하는 클래스 수준의 의미적 지식을 기반으로 하므로, 기존의 인스턴스 수준 레이블링 접근법에 비해 레이블링 비용을 줄일 수 있었다.