[논문 리뷰] A Pathway Towards Responsible AI Generated Content

Chen Chen, Jie Fu외 1명|arXiv (Cornell University)|2023. 03. 02.

Artificial Intelligence in Healthcare and Education인용 수 23

한 줄 요약

이 논문은 AI Generated Content(AIGC)의 8가지 핵심 위험을 조사하고 프라이버시, 편향, 지식 재산권, 견고성, 오픈 소스, 남용, 동의/크레딧, 환경 이슈를 다뤄 책임 있는 AIGC 개발 방향을 제시한다.

ABSTRACT

AI Generated Content (AIGC) has received tremendous attention within the past few years, with content generated in the format of image, text, audio, video, etc. Meanwhile, AIGC has become a double-edged sword and recently received much criticism regarding its responsible usage. In this article, we focus on 8 main concerns that may hinder the healthy development and deployment of AIGC in practice, including risks from (1) privacy; (2) bias, toxicity, misinformation; (3) intellectual property (IP); (4) robustness; (5) open source and explanation; (6) technology abuse; (7) consent, credit, and compensation; (8) environment. Additionally, we provide insights into the promising directions for tackling these risks while constructing generative models, enabling AIGC to be used more responsibly to truly benefit society.

연구 동기 및 목표

• 책임 있는 AIGC 배치를 저해하는 여덟 가지 주요 우려를 식별한다(프라이버시, 편향/독성/허위정보, IP, 견고성, 오픈 소스 및 설명가능성, 기술 남용, 동의/크레딧/보상, 환경).
• 생성 모델의 구축 및 배치에서 이러한 위험을 완화하기 위한 통찰과 방향을 제시한다.
• 기반 모델이 AIGC를 가능하게 하는 방식과 위험이 모듈(모달리티) 간에 어떻게 전이되는지(텍스트, 이미지, 비디오, 오디오)를 논의한다.

제안 방법

• AIGC 위험에 관한 기존 문헌과 산업 관행을 검토하고 종합한다.
• 위험 범주를 구체적 완화 전략에 매핑한다(데이터 선별/정제, 필터링, 워터마킹, 접근 제어, 거버넌스).
• 생애주기 전반에 걸친 책임 있는 AIGC를 위한 정책, 기술, 사회적 접근에 대한 논의를 제안한다.
• 위험 영역을 설명하기 위한 대표적 모델과 데이터셋을 강조한다(프라이버시 누출, 데이터셋 편향, 기억화, IP 문제).

Figure 1: The scope of responsible AIGC. Note that some icons are from Shutterstock.

실험 결과

연구 질문

• RQ1 프라이버시, 편향/독성/허위정보, IP, 견고성, 오픈 소스, 남용, 동의/크레딧, 환경에 걸친 AI Generated Content와 관련된 주요 위험은 무엇인가?
• RQ2 이러한 위험을 완화하면서 AIGC의 유익한 활용을 가능하게 하려면 어떤 방향과 전략을 추구할 수 있는가?
• RQ3 기반 모델이 위험에 어떤 기여를 하며 위험 완화를 모델 설계 및 배치에 어떻게 통합할 수 있는가?

주요 결과

• AIGC는 프라이버시, 편향, 허위정보, IP, 견고성, 개방성, 남용 및 환경 영향에 걸친 상호 연결된 위험에 직면해 있다.
• 완화 방법은 데이터 필터링, 중복 제거, 워터마킹, 출력 필터링, 모델 재조정 및 거버넌스 메커니즘을 포함한다.
• 콘텐츠 소유권과 IP 저작권 표기는 여전히 법적으로 해결되지 않아 DMCA 제거 정책, 워터마킹, 저작 표기 고려와 같은 관행을 촉발한다.
• 환각과 허위정보는 훈련 데이터 품질, 과적합, 프롬프트 설계에서 비롯된다; 정기적인 데이터 업데이트와 사용자 피드백이 이를 감소시키는 데 도움이 될 수 있다.
• 오픈 소스 투명성은 논쟁의 대상이다; 개방성은 설명에 도움이지만 악용 위험과 경쟁적 우려를 제기한다.
• 데이터 기여자들이 AIGC 학습 데이터로부터 이익을 얻을 수 있도록 거버넌스, 동의 및 보상 모델이 필요하다.
• 대규모 모델의 환경 비용은 더 얇은 모델과 효율성 중심 연구를 모색하게 한다.

Figure 2: A comparison between training images and generated images (by Stable Diffusion). Top row : generated images. Bottom row : closest matches in the training dataset (LAION). The comparison shows that Stable Diffusion is able to replicate training data by combining foreground and background ob