[논문 리뷰] Diffusion Art or Digital Forgery? Investigating Data Replication in Diffusion Models
요약: 이 논문은 확산 모델이 훈련 데이터를 복제하는지 테스트하기 위한 복제 탐지기를 개발했고, 작은/중간 데이터셋에서 복제가 일반적이지만 큰 다양성 데이터셋인 ImageNet처럼 큰 데이터셋에서는 크게 나타나지 않으며, Stable Diffusion은 특정 조건에서 주목할 만한 복제를 보인다.
Cutting-edge diffusion models produce images with high quality and customizability, enabling them to be used for commercial art and graphic design purposes. But do diffusion models create unique works of art, or are they replicating content directly from their training sets? In this work, we study image retrieval frameworks that enable us to compare generated images with training samples and detect when content has been replicated. Applying our frameworks to diffusion models trained on multiple datasets including Oxford flowers, Celeb-A, ImageNet, and LAION, we discuss how factors such as training set size impact rates of content replication. We also identify cases where diffusion models, including the popular Stable Diffusion model, blatantly copy from their training data.
연구 동기 및 목표
- 상업용 미술에 사용되는 확산 모델에서 데이터 복제에 대한 윤리적 및 법적 문제를 제기한다.
- 확산 모델의 출력이 학습 데이터를 복제하는 시점을 식별하기 위한 복제 탐지 방법을 개발하고 벤치마크한다.
- 크기와 다양성이 다른 데이터셋으로 학습된 확산 모델에서 복제 비율을 정량화한다.
- 대규모 학습이 복제를 완화하는지 혹은 특정 모델(예: Stable Diffusion)이 계속 복제를 수행하는지 탐구한다.
제안 방법
- 복제 탐지를 위해 SSL 및 이미지 검색 문헌에서 10개의 특징 추출기를 구성하고 벤치마크한다.
- 제어된 복제 평가를 위한 5개의 합성 데이터셋을 생성한다(예: IN-Cutmix, IN-Dif-Patch, IN-Dif-Diagonal, MSCOCO Segmix, VOC Segmix).
- Celeb-A와 Oxford Flowers에서 서로 다른 데이터셋 크기로 DDPM을 학습시키고 생성 이미지와 학습 샘플 간의 유사성을 평가한다.
- 내적 및 분할적 곱 유사도 지표를 적용하고, DINO 및 SSCD와 함께하는 분할곱이 강력한 복제 탐지을 제공함을 확인한다.
- 현실 세계 모델(ImageNet Latent Diffusion Model, Stable Diffusion)을 분석하여 클래스 수준 및 모집단 수준의 복제를 평가한다.

실험 결과
연구 질문
- RQ1확산 모델이 훈련 데이터의 내용을 재현하는가, 그리고 어떤 조건(데이터셋 크기, 모델 유형)에서 이러한 현상이 발생하는가?
- RQ2어떤 복제 탐지 방법이 확산 모델과 데이터셋 전반에서 복제된 콘텐츠를 가장 잘 식별하는가?
- RQ3Celeb-A, Oxford Flowers, Stable Diffusion과 같은 확산 모델에서 학습 데이터 크기가 복제 비율에 어떤 영향을 미치는가?
- RQ4복제가 클래스 조건부인지 텍스트 조건부 확산 모델에서 더 만연한가, 그리고 어떤 요인들이 영향을 미치는가(예: 캡션 샘플링, 데이터 중복 등)?
주요 결과
- 작고 중간 규모의 데이터셋으로 학습된 확산 모델에서 복제가 자주 발생하지만 더 크고 다양한 데이터셋으로는 감소하며, 다만 특정 조건에서 Stable Diffusion은 명확한 복제를 보인다.
- 분할곱이 있는 DINO가 데이터셋 전반에서 가장 강력한 탐지기이며, Swin Transformer은 실제 데이터에서 선두를 차지하고 SSCD는 합성 데이터에서 뛰어나다.
- Stable Diffusion의 경우 12M LAION-Aesthetics 6+ 탐색 공간에서 유사도 ≥ 0.5인 생성의 약 1.88%에서 복제가 발생한다.
- ImageNet Latent Diffusion Model은 클래스 및 모집단 차원에서 복사 여부가 제한적으로 보이며, 전반적인 복제 신호는 Stable Diffusion보다 약하다.
- 복제는 픽셀 수준이거나 재구성일 수 있으며, 특정 구문이 포함된 프롬프트가 정확한 복제나 매우 유사한 출력으로 이어질 수 있다(예: 특정 그림들).
- LAION 데이터셋에서 중복 학습 이미지는 Stable Diffusion의 복제 성향 증가와 상관관계가 있다.

이 논문 읽기
누빈트 뷰어에서 원문을 열고, 읽으면서 궁금한 곳을 바로 물어보세요.
누빈트에서 이 논문 읽기이 리뷰는 AI가 논문 원문을 바탕으로 만들었습니다. 인용하기 전에 원문을 확인해 주세요.