[논문 리뷰] Deep Intellectual Property Protection: A Survey

Yuchen Sun, Tianpeng Liu외 7명|arXiv (Cornell University)|2023. 04. 28.

Adversarial Robustness in Machine Learning인용 수 6

한 줄 요약

이 종합적 서베이는 딥 뉴럴 네트워크(DNN)에서의 딥 지적재산권(IP) 보호에 대해 심층적으로 분석하며, 워터마킹 및 지문 기반 기법을 중심으로 다룹니다. 통합된 분류 체계를 제시하고, 정밀도, 내구성, 수용 능력, 효율성 등의 기준에서 190개 이상의 방법을 평가하며, 실생활 응용에서 DNN의 도용 및 위조로부터 보호하기 위한 핵심 과제와 향후 연구 방향을 규명합니다.

ABSTRACT

Deep Neural Networks (DNNs), from AlexNet to ResNet to ChatGPT, have made revolutionary progress in recent years, and are widely used in various fields. The high performance of DNNs requires a huge amount of high-quality data, expensive computing hardware, and excellent DNN architectures that are costly to obtain. Therefore, trained DNNs are becoming valuable assets and must be considered the Intellectual Property (IP) of the legitimate owner who created them, in order to protect trained DNN models from illegal reproduction, stealing, redistribution, or abuse. Although being a new emerging and interdisciplinary field, numerous DNN model IP protection methods have been proposed. Given this period of rapid evolution, the goal of this paper is to provide a comprehensive survey of two mainstream DNN IP protection methods: deep watermarking and deep fingerprinting, with a proposed taxonomy. More than 190 research contributions are included in this survey, covering many aspects of Deep IP Protection: problem definition, main threats and challenges, merits and demerits of deep watermarking and deep fingerprinting methods, evaluation metrics, and performance discussion. We finish the survey by identifying promising directions for future research.

연구 동기 및 목표

• 고가의, 학습에 많은 비용이 소요되는 DNN 모델이 불법 도용, 재배포, 악용되는 것을 방지하기 위한 점점 증가하는 수요를 해결하기 위해.
• DNN IP 보호의 두 주요 접근 방식인 딥 워터마킹과 지문 기반 기법에 대한 체계적이고 종합적인 서베이를 제공하기 위해.
• 내구성, 정밀도, 수용 능력, 효율성 등의 핵심 기준을 바탕으로 기존 방법들을 비교할 수 있도록 통합된 분류 체계와 평가 프레임워크를 수립하기 위해.
• 표준화된 평가 부족과 복잡한 모델 및 학습 패러다임에 대한 지원 부족을 포함한 DNN IP 보호 분야의 핵심 과제와 열린 문제를 규명하기 위해.
• 신뢰할 수 있고 집행 가능한 DNN IP 보호를 가능하게 하기 위해 통합된 기술적, 법적, 정책적 접근 방식을 제안하기 위해 — 예를 들어, 보안 파이프라인, 신뢰할 수 있는 공증 플랫폼, 표준화를 포함하여.

제안 방법

• 워터마킹 및 지문 기반 기법을 입력, 모델 파라미터, 출력 등의 임bedding 위치와 식별 메커니즘 기반으로 분류하는 체계적 분류 체계를 제안합니다.
• 문제 정의, 위협 요소, 기술적 장점과 한계, 평가 지표, 다양한 공격에 대한 성능 등 여러 차원에서 190개 이상의 연구 기여 사례를 검토합니다.
• 모델 정확도(정밀도), 제거 공격에 대한 저항성(내구성), 임베딩 용량, 계산 효율성 등의 핵심 성능 지표 간의 상호 상충 관계를 분석합니다.
• 다각도 평가 벤치마크 프레임워크를 도입하며, 공정하고 재현 가능한 비교를 가능하게 하기 위해 표준화된 데이터셋, 지표, 공격 세트의 도입을 주장합니다.
• 기본적인 저작권 확인을 넘어서, 승인된 모델 수정을 위한 반파괴적 워터마킹과 무결성 검증과 같은 고도 기능을 탐색합니다.
• 활동적 방어, 자동화된 침해 감지, 신뢰할 수 있는 공증 플랫폼, 치명적인 잊음 현상 기반의 분포 체인 추적을 포함한 보안 파이프라인 구성 요소를 제안합니다.

실험 결과

연구 질문

• RQ1 딥 워터마킹 및 지문 기반 기법은 정밀도, 내구성, 용량, 효율성 등의 핵심 성능 차원에서 어떻게 체계적으로 분류되고 비교될 수 있는가?
• RQ2 DNN 모델의 도용, 도난, 무단 재배포로부터 보호하기 위해 직면하는 주요 위협과 과제는 무엇인가?
• RQ3 왜 DNN IP 보호 분야에서 표준화된 평가 기준의 부재가 진전과 실용적 구현의 저해 요소가 되는가?
• RQ4 DNN IP 보호는 이미지 분류를 넘어서 복잡한 작업, 예를 들어 객체 검출, 이미지 생성(GAN, 확산 모델), 강화 학습 등으로 어떻게 확장될 수 있는가?
• RQ5 실세계 시스템에서 장기적으로 신뢰할 수 있고 집행 가능한 DNN IP 보호를 확보하기 위해 필요한 기술적, 법적, 정책적 프레임워크는 무엇인가?

주요 결과

• 190개 이상의 DNN IP 보호 관련 연구 기여 사례를 서베이한 결과, 접근 방식의 다양성은 뚜렷하지만 평가 기준의 일관성 부족이 드러났습니다.
• 딥 워터마킹은 모델를 수정하는 침습적 기법이며, 지문 기반 기법은 결정 경계와 같은 모델 고유의 특성을 이용하는 비침습적 기법입니다.
• 제거 공격에 대한 내구성은 여전히 핵심 과제이며, 연구 간에 통합된 벤치마크나 평가 프로토콜이 널리 채택되지 않았습니다.
• 대부분의 기존 기법은 이미지 분류에 집중되어 있으며, 객체 검출, 이미지 생성, 다중모odal 학습과 같은 복잡한 작업을 다루는 기법은 소수에 불과합니다.
• 향후 방향성으로는 승인된 커스터마이제이션을 위한 반파괴적 워터마킹, 침해 감지를 위한 보안 파이프라인, 신뢰할 수 있는 공증 플랫폼 개발이 포함됩니다.
• 표준화, 케르코프스의 원칙 준수, 법적 프레임워크 확립은 DNN IP 보호 기법의 장기적 보안성과 집행 가능성을 보장하기 위해 필수적입니다.