[논문 리뷰] Watermarking for Out-of-distribution Detection

Qizhou Wang, Feng Liu외 5명|arXiv (Cornell University)|2022. 10. 27.

Anomaly Detection Techniques and Applications인용 수 5

한 줄 요약

이 논문은 테스트 입력에 학습 가능한 데이터 수준 워터마크 패턴을 통합함으로써 미리 훈련된 딥 모델을 재프로그래밍하여 분포 외(OOD) 데이터 탐지 성능을 향상시키는 새로운 워터마킹 방법을 제안한다. 모델 가중치를 수정하지 않고도 워터마크가 분포 내 및 OOD 데이터 간의 점수 갭을 증가시켜 OOD 탐지 성능을 향상시키며, 다양한 벤치마크에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Out-of-distribution (OOD) detection aims to identify OOD data based on representations extracted from well-trained deep models. However, existing methods largely ignore the reprogramming property of deep models and thus may not fully unleash their intrinsic strength: without modifying parameters of a well-trained deep model, we can reprogram this model for a new purpose via data-level manipulation (e.g., adding a specific feature perturbation to the data). This property motivates us to reprogram a classification model to excel at OOD detection (a new task), and thus we propose a general methodology named watermarking in this paper. Specifically, we learn a unified pattern that is superimposed onto features of original data, and the model's detection capability is largely boosted after watermarking. Extensive experiments verify the effectiveness of watermarking, demonstrating the significance of the reprogramming property of deep models in OOD detection.

연구 동기 및 목표

• OOD 데이터가 희귀하고 모델 재훈련이 비용이 많이 드는 안전이 중요한 딥 러닝 시스템에서 OOD 탐지 문제를 해결하기 위해.
• 딥 모델의 재프로그래밍 성질—입력을 변형하여 모델을 재사용할 수 있는 성질—이 OOD 탐지에 활용될 수 있는지 탐색하기 위해.
• 모델 파라미터를 수정하지 않고도 OOD 탐지 점수를 향상시키는 데이터 수준 워터마킹 기법을 개발하기 위해.
• 입력의 의미적 내용을 유지하면서 탐지 성능을 향상시키는 통합적이고 정적 워터마크 패턴을 학습하기 위해.

제안 방법

• 추론 중에 입력 특징에 학습 가능한 워터마크 패턴이 중첩되며, 원본 입력의 의미적 구조를 유지하면서도 분류 가능한 패턴을 통합한다.
• 워터마크는 사전 정의된 점수 함수(예: 자유 에너지, 소프트맥스) 하에서 분포 내 및 OOD 데이터 간의 점수 갭을 최대화하는 미분 가능한 목적 함수를 통해 최적화된다.
• 최적화 과정은 워터마크가 의미적으로 모델에 유의미하지 않더라도, 분포 내 입력에 대해 높은 신뢰도를, OOD 입력에 대해 낮은 신뢰도를 부여하도록 보장한다.
• 모델이 워터마크를 유효한 분포 내 패턴으로 인식하지 않도록 방지하기 위해 정규화 손실을 사용하여 강건성을 유지한다.
• 이 프레임워크는 다양한 점수 함수(예: 로짓, 기울기, 임베딩 기반) 및 데이터셋(CIFAR-10, CIFAR-100, SVHN, Places365, iSUN, 텍스처)과도 호환되며 일반적인 적용이 가능하다.
• 초기화 파rameter는 검증 세트(예: tiny-ImageNet)를 사용하여 튜닝되며, 다양한 워터마크 영역의 기여도를 확인하기 위해 아블레이션 스터디가 수행된다.

실험 결과

연구 질문

• RQ1 사전 훈련된 딥 모델의 재프로그래밍 성질이 모델 미세조정 없이도 OOD 탐지 성능 향상에 활용될 수 있는가?
• RQ2 학습 가능한 데이터 수준 워터마크가 분포 내 및 분포 외 입력 간의 점수 분離를 향상시킬 수 있는가?
• RQ3 워터마크의 공간 분포(중심 대비 가장자리)가 OOD 탐지 성능에 미치는 영향은 어떠한가?
• RQ4 이 워터마킹 기법은 다양한 점수 함수 및 데이터셋에 일반화되는가?
• RQ5 워터마크 강도와 희소성의 영향은 탐지 성능에 어떤가?

주요 결과

• 자유 에너지 점수 함수를 사용한 CIFAR-10에서, 워터마킹은 FPR95를 기준선의 55.00%에서 29.75%로 감소시키며 AUROC를 89.69%에서 95.16%로 증가시켰다.
• CIFAR-100에서는 워터마킹을 적용한 평균 AUROC가 76.47%로, 적용하지 않은 경우 73.77%보다 높아 일관된 향상이 확인되었다.
• 가장 큰 크기의 워터마크 성분 중 10%만 마스킹(χ₁=0.10)했을 경우 AUROC가 94.41%로 크게 하락하여 전체 워터마크 패턴이 필수적임을 시사했다.
• iSUN, SVHN, Places365, LSUN 등 다양한 벤치마크에서 기준선 OOD 탐지 방법보다 성능이 뛰어나 FPR95, AUROC, AUPR 모두에서 일관된 향상이 이루어졌다.
• 자유 에너지, 소프트맥스 등 다양한 점수 함수에서도 성능 향상이 유지되어 메서드의 일반화 능력이 확인되었다.
• 아블레이션 스터디 결과, 워터마크의 중심 영역과 가장자리 영역 모두 탐지 성능 향상에 기여하며, 가장자리 패턴은 숨겨진 지식을 인코딩하여 OOD 구분 능력을 향상시킨다.