[논문 리뷰] How to Stop Playing Whack-a-Mole: Mapping the Ecosystem of Technologies Facilitating AI-Generated Non-Consensual Intimate Images

Michelle L. Ding, Harini Suresh외 1명|arXiv (Cornell University)|2026. 02. 04.

Gender, Feminism, and Media인용 수 0

한 줄 요약

본 논문은 AIG-NCII 기술 생태계의 최초 포괄 지도를 구축하여 Creation, Distribution, Proliferation, Infrastructure, Monetization에 걸친 11개 범주를 식별하고 Grok를 포함한 사례 연구를 통해 그 활용 가능성을 시연한다.

ABSTRACT

The last decade has witnessed a rapid advancement of generative AI technology that significantly scaled the accessibility of AI-generated non-consensual intimate images (AIG-NCII), a form of image-based sexual abuse that disproportionately harms women and girls. There is a patchwork of commendable efforts across industry, policy, academia, and civil society to address AIG-NCII. However, these efforts lack a shared, consistent mental model that situates the technologies they target within the context of a large, interconnected, and ever-evolving technological ecosystem. As a result, interventions remain siloed and are difficult to evaluate and compare, leading to a reactive cycle of whack-a-mole. We contribute the first comprehensive AIG-NCII technological ecosystem that maps and taxonomizes 11 categories of technologies facilitating the creation, distribution, proliferation and discovery, infrastructural support, and monetization of AIG-NCII. First, we build and visualize the ecosystem through a synthesis of over a hundred primary sources from researchers, journalists, advocates, policymakers, and technologists. Next, we demonstrate how stakeholders can use the ecosystem as a tool to 1) understand new incidents of harm via a case study of Grok and 2) evaluate existing interventions via three more case studies. We conclude with three actionable recommendations, namely that stakeholders should 1) use the ecosystem to map out state, federal, and international laws to produce a clearer policy landscape, 2) collectively develop a database that dynamically tracks the 11 technologies in the ecosystem to better evaluate interventions, and 3) adopt a relational approach to researching AIG-NCII to better understand how the ecosystem technologies interact.

연구 동기 및 목표

• AIG-NCII를 가능하게 하는 기술을 매핑하기 위해 광범위한 소스를 합성한다.
• 정책, 산업, 시민사회 전반의 이해관계자들에게 공유된 프레임워크와 용어를 제공한다.
• 생태계가 피해 사례의 이해와 개입 평가에 어떻게 도움이 되는지 시연한다.
• 정책, 데이터 추적 및 관계 연구 접근법을 개선하기 위한 실행 가능한 권고안을 제시한다.

제안 방법

• 학계, 언론, 옹호, 정책, 산업 전반의 >100개 소스에서 문헌 및 산출물 합성을 수행한다.
• 역할별로 묶인 11개의 기술 분류체계를 개발한다(생성, 배포, 확산/발견, 인프라, 수익화).
• 주장과 기술적 산출물, 서비스 약관 및 플랫폼 문서를 삼각측정하고 생태계 역할을 검증하기 위한 제한적 1차 확인(예: 테스트 계정)을 수행한다.
• 지도(Figure 1)와 서술적 사례 연구로 생태계를 시각화한다.
• 정밀성과 일반화를 유지하기 위해 개발자 플랫폼 및 인프라에 대한 추가 소스를 모색하여 간격을 반복적으로 채운다.

Figure 1. The ecosystem of technologies that facilitate AI-generated non-consensual intimate images (AIG-NCII) via A. Creation (1. training datasets, 2. generative AI models, and 3. generative AI interfaces), B. Distribution (4. distribution channels), C. Proliferation & Discovery (5. deepfake creat

실험 결과

연구 질문

• RQ1 AIG-NCII의 생성, 배포, 수익화를 함께 가능하게 하는 기술 구성 요소는 무엇인가?
• RQ2 통일된 생태계 지도가 새로운 AIG-NCII 사건의 이해를 어떻게 개선하고 개입 설계에 정보를 제공할 수 있는가?
• RQ3 정책, 데이터 인프라, 관계 연구를 포함한 어떤 조치가 AIG-NCII에 대한 반응적이고 일시적인(whack-a-mole) 대응을 가장 효과적으로 줄일 수 있는가?

주요 결과

• 생성, 배포, 확산/발견, 인프라, 수익화에 걸친 11개 기술 범주를 식별한다.
• 각 범주에 대한 시각적 생태계 맵(Figure 1)과 역사적 맥락이 담긴 설명을 제공한다.
• Grok를 사례 연구로 활용하여 생태계가 피해를 설명하고 플랫폼 대응의 한계(예: 접속 제한)를 보여준다.
• 생태계가 주(state)·연방·국제 법률에 걸친 정책 환경 매핑을 어떻게 이끌 수 있는지 시연한다.
• 개입 평가를 지원하기 위해 11개 기술을 추적하는 중앙집중식의 동적 데이터베이스를 제안한다.
• 기술 간 상호 작용을 이해하기 위해 생태계의 경계에 초점을 맞춘 관계 연구 접근을 옹호한다.

Figure 2. Screenshot of grok.com/plans . Accessed January 11, 2026.