[논문 리뷰] Decentralized Attribution of Generative Models

Changhoon Kim, Yi Ren외 1명|arXiv (Cornell University)|2020. 10. 27.

Generative Adversarial Networks and Image Synthesis참고 문헌 50인용 수 6

한 줄 요약

이 논문은 사용자별 키를 사용하여 분산형 할당 체계를 제안함으로써 확장 가능하고 증명 가능한 신뢰성 있는 모델 식별을 가능하게 한다. 기하 조건을 만족하는 키를 설계하여 구분 가능성과 할당 가능성 확보함으로써, 공격자에 의한 후처리 조건에서도 생성 품질을 유지하면서 생성 콘텐츠를 정확히 분류함을 보장한다.

ABSTRACT

Growing applications of generative models have led to new threats such as malicious personation and digital copyright infringement. One solution to these threats is model attribution, i.e., the identification of user-end models where the contents under question are generated from. Existing studies showed empirical feasibility of attribution through a centralized classifier trained on all user-end models. However, this approach is not scalable in reality as the number of models ever grows. Neither does it provide an attributability guarantee. To this end, this paper studies decentralized attribution, which relies on binary classifiers associated with each user-end model. Each binary classifier is parameterized by a user-specific key and distinguishes its associated model distribution from the authentic data distribution. We develop sufficient conditions of the keys that guarantee an attributability lower bound. Our method is validated on MNIST, CelebA, and FFHQ datasets. We also examine the trade-off between generation quality and robustness of attribution against adversarial post-processes.

연구 동기 및 목표

• 중앙 집중식 모델 할당 접근 방식에서의 확장성 문제와 할당 가능성 보장의 부족을 해결한다.
• 모든 모델에 대해 훈련된 중앙 분류기 의존 없이 분산형 사용자별 모델 할당을 가능하게 한다.
• 다수의 모델에 걸쳐 할당 가능성에 하한을 보장하기 위해 사용자별 키에 필요한 조건을 제공한다.
• 할당 체계에서 생성 품질과 공격자에 의한 후처리에 대한 강건성 간 균형을 확보한다.
• 검증 가능한 보장을 갖춘 실세계 적용을 위한 실용적 프레임워크를 개발한다.

제안 방법

• 사용자별 키로 파arameterized된 이진 선형 분류기를 사용하여 각 사용자 모델을 진짜 데이터 분포와 구분한다.
• 모델의 구분 가능성은 해당 분류기가 생성 샘플과 진짜 데이터를 식별하는 정확도로 정의한다.
• 키에 대한 충분한 조건을 설정: 키 간 상호 각도는 데이터에 따라 결정되는 임계값을 초과해야 하며, 예를 들어 MNIST, CelebA, FFHQ의 경우 90° 이상이어야 한다.
• 데이터 민감도 행렬 M의 고유벡터를 사용하여 키를 계산하며, 작은 고유값은 민감도가 낮고 생성 품질이 높은 방향을 나타낸다.
• FID 점수(생성 품질)와 공격자에 의한 후처리에 대한 강건성 간의 트레이드오프 분석을 도입한다.
• 원래 모델의 생성 품질에서의 편차를 측정하기 위해 평균 출력 편향의 l2 노름을 사용한다.

실험 결과

연구 질문

• RQ1 사용자별 키에 대해 어떤 충분한 조건이 다수의 사용자 모델에 걸쳐 집합적 할당 가능성에 하한을 보장하는가?
• RQ2 키를 어떻게 설계하여 높은 생성 품질을 유지하면서도 모델의 구분 가능성과 할당 가능성을 확보할 수 있는가?
• RQ3 공격자에 의한 생성 콘텐츠 후처리 상황에서 할당 체계가 얼마나 강건하게 유지될 수 있는가?
• RQ4 키 방향(민감도 행렬 M의 작은 고유벡터)과 생성 품질 간의 관계는 어떠한가?
• RQ5 키 각도에 대한 기하학적 제약 조건이 생성 콘텐츠를 정확히 할당할 수 있는 능력에 어떤 영향을 미치는가?

주요 결과

• 서로 다른 키 간의 상호 각도가 90°를 초과하면 할당 가능성에 하한이 보장되며, 이 임계값은 MNIST, CelebA, FFHQ 모두에 대해 충분하다.
• 민감도 행렬 M의 작은 고유벡터와의 키 정렬도와 최대 편향 감소(d_max) 간 피어슨 상관계수는 MNIST의 경우 0.33, CelebA의 경우 0.53이다.
• 민감도 행렬 M의 가장 큰 고유벡터를 키로 사용할 경우 더 높은 품질의 생성 결과를 얻을 수 있으나, 가장 작은 고유벡터를 사용할 경우 랜덤 노이즈와 유사한 출력이 생성된다.
• 유사한 키 설계 원칙을 사용함으로써 공격자에 의한 후처리 상황에서도 강건한 할당이 가능하나, 생성 품질에 다소의 트레이드오프가 수반된다.
• 제안된 조건 하에서 생성 콘텐츠는 일항 분류 결과를 유지하고 진짜 데이터는 영벡터를 출력함으로써 정확한 할당을 보장한다.
• 제안된 체계는 중앙 집중식 접근 방식이 그러한 보장을 결여하고 있는 것과 달리, 검증 가능한 보장을 갖춘 분산형 확장 가능한 모델 할당을 가능하게 한다.