[논문 리뷰] A Survey on ChatGPT: AI-Generated Contents, Challenges, and Solutions

Yuntao Wang, Yanghe Pan외 3명|arXiv (Cornell University)|2023. 05. 25.

Artificial Intelligence in Healthcare and Education인용 수 16

한 줄 요약

이 설문은 ChatGPT에 초점을 맞춘 AI 생성 콘텐츠(AIGC)를 조사하며 작동 원리, 보안/개인정보 위협, 지식재산권 보호, 워터마킹, 그리고 향후 연구 방향을 자세히 다룹니다.

ABSTRACT

With the widespread use of large artificial intelligence (AI) models such as ChatGPT, AI-generated content (AIGC) has garnered increasing attention and is leading a paradigm shift in content creation and knowledge representation. AIGC uses generative large AI algorithms to assist or replace humans in creating massive, high-quality, and human-like content at a faster pace and lower cost, based on user-provided prompts. Despite the recent significant progress in AIGC, security, privacy, ethical, and legal challenges still need to be addressed. This paper presents an in-depth survey of working principles, security and privacy threats, state-of-the-art solutions, and future challenges of the AIGC paradigm. Specifically, we first explore the enabling technologies, general architecture of AIGC, and discuss its working modes and key characteristics. Then, we investigate the taxonomy of security and privacy threats to AIGC and highlight the ethical and societal implications of GPT and AIGC technologies. Furthermore, we review the state-of-the-art AIGC watermarking approaches for regulatable AIGC paradigms regarding the AIGC model and its produced content. Finally, we identify future challenges and open research directions related to AIGC.

연구 동기 및 목표

• AIGC 및 일반 아키텍처를 가능하게 하는 기술과 ChatGPT가 AIGC 생태계에 어떻게 적합하는지 설명합니다.
• AIGC 생명주기 전반에 걸친 보안, 개인정보, 신뢰 및 윤리 위협을 특징짓습니다.
• AIGC 콘텐츠와 모델의 지적 재산권 보호, 워터마킹 접근법, 규정을 검토합니다.
• 녹색, 설명 가능하고 신뢰할 수 있는 AIGC 시스템을 위한 향후 도전과 열린 방향을 논의합니다.

제안 방법

• 인프라, 엔진, 서비스 계층으로 구성된 AIGC-서비스(as-a-Service)의 3층 일반 아키텍처를 제시합니다.
• 데이터, 모델, 사용 측면의 보안/개인정보 위협에 대한 분류와 대응책을 포함합니다.
• AIGC 모델과 출력물에 대한 지적 재산권 보호 및 워터마킹 기법을 조사합니다.
• AIGC를 PGC/UGC와 비교하고 대형 AI 모델이 가능하게 하는 지식 표현/사용의 변화를 논의합니다.
• 가능한 기술(생성 알고리즘, 사전학습된 대형 모형, 다중 모달성, RLHF)과 작동 모드(도움 받는 vs 자율적)를 요약합니다.

실험 결과

연구 질문

• RQ1 AIGC의 핵심 작동 원리와 아키텍처는 무엇이며 ChatGPT가 그것들을 어떻게 구현하는가?
• RQ2 AIGC 생명주기에서 어떤 보안, 개인정보, 신뢰, 윤리적 위협이 발생하며 어떤 방어책이 존재하거나 실현 가능한가?
• RQ3 AIGC 모델과 생성물에 대한 IP 보호는 어떻게 달성될 수 있으며 관련 규제 도전 과제는 무엇인가?
• RQ4 향후 연구 방향은 초록적이고 설명 가능하며 규제 가능한 AIGC 서비스를 보장할 수 있는가?

주요 결과

• AIGC는 대규모 데이터, 대규모 모델, 대규모 컴퓨팅 파워에 의해 주도되어 빠르고 질 높은 다중 모달 콘텐츠를 대규모로 생성할 수 있다.
• 보안, 개인정보, 신뢰 및 윤리 문제는 AIGC 생애주기 전반에 걸쳐 만연하며 다양한 방어 메커니즘이 필요하다.
• 워터마킹 기반의 AIGC 모델 및 출력물에 대한 지적 재산권 보호가 주요 초점이며 위협과 대응책에 대한 논의가 지속된다.
• AIGC 아키텍처는 3계층 서비스 모델로 구성되며 프라이버시와 출처를 고려한 ToB 및 ToC 배치를 지원한다.
• 두 가지 주요 작동 모드—도움 받는(content creation)과 자율적(content creation)—은 속도, 비용 및 콘텐츠 품질에 영향을 준다.
• 이 설문은 데이터베이스와 검색에서 대형 AI 모델 기반 검색 및 생성으로의 지식 표현 패러다임의 진화를 강조하며 AIGC를 위치시킨다.