[논문 리뷰] The Ethical Need for Watermarks in Machine-Generated Language

Alexei Grinbaum, Laurynas Adomaitis|arXiv (Cornell University)|2022. 09. 07.

Ethics and Social Impacts of AI인용 수 12

한 줄 요약

이 논문은 등간격 문자열을 사용하여 AI 생성 텍스트에 비침습적이고 기계로 판독 가능한 워터마크를 삽입함으로써 윤리적으로 합성 텍스트와 인간이 작성한 언어를 구분하는 방법을 제안한다. 이 방법은 독해력에 영향을 주지 않으면서도 탐지 가능하게 하여, 대규모 언어 모델의 무의미성으로 인한 속임수, 정서적 조작 및 오락성 정보 유포의 위험을 해결한다.

ABSTRACT

Watermarks should be introduced in the natural language outputs of AI systems in order to maintain the distinction between human and machine-generated text. The ethical imperative to not blur this distinction arises from the asemantic nature of large language models and from human projections of emotional and cognitive states on machines, possibly leading to manipulation, spreading falsehoods or emotional distress. Enforcing this distinction requires unintrusive, yet easily accessible marks of the machine origin. We propose to implement a code based on equidistant letter sequences. While no such code exists in human-written texts, its appearance in machine-generated ones would prove helpful for ethical reasons.

연구 동기 및 목표

• 인간의 글과 구분되지 않는 AI 생성 텍스트의 윤리적 위험을 해결하기 위해.
• 기계가 생성한 콘텐츠의 기원을 명확히 하여 정서적 조작과 오락성 정보 유포를 방지하기 위해.
• 인간과 AI 저자성을 유지함으로써 디지털 커뮤니케이션에 대한 인간의 신뢰를 유지하기 위해.
• 비침습적이지만 자연어 출력에서 탐지 가능한 워터마킹 기법을 개발하기 위해.
• 언어의 본질적 구조적 패턴을 활용하여 의미를 변경하지 않고 기계 원천을 신호로 전달하는 시스템을 구현하기 위해.

제안 방법

• 등간격 문자열(Equidistant Letter Sequences, ELS) 기반의 워터마킹 기법을 제안하며, 이는 인간이 작성한 텍스트에는 존재하지 않는 패턴이다.
• 출력 시퀀스에서 고정 간격으로 문자를 선택하여 생성 과정 중에 워터마크를 삽입한다.
• 독자에게는 인지되지 않지만 계산적으로는 탐지 가능한 워터마크를 확보한다.
• 정적 알고리즘을 사용해 워터마크를 삽입하고 검증함으로써 신뢰할 수 있는 기원 확인이 가능하다.
• 다시 표현하거나 미세한 텍스트 수정에도 강건한 워터마크를 설계한다.
• 대규모 언어 모델 출력에 이 방법을 적용하여 윤리적 투명성을 유지한다.

실험 결과

연구 질문

• RQ1 기계로 생성된 텍스트를 어떻게 윤리적으로 표시할 수 있을까? 이는 인간이 작성한 콘텐츠와의 구분을 유지하기 위함이다.
• RQ2 어떤 워터마킹 메커니즘이 자연어에서 비침습적이면서도 신뢰성 있게 탐지 가능한가?
• RQ3 왜 인간 글쓰기에서 등간격 문자열이 나타나지 않는 것이 워터마킹에 유리한가?
• RQ4 AI 생성 텍스트가 인간의 글과 구분되지 않을 경우 발생하는 윤리적 위험은 무엇인가?
• RQ5 워터마킹은 AI에 대해 잘못된 인지적 및 정서적 상태를 부여당하는 조작 가능성을 어떻게 완화할 수 있는가?

주요 결과

• 등간격 문자열은 인간이 작성한 텍스트에서 자연스럽게 발생하지 않으며, 따라서 기계 원천을 신뢰할 수 있는 표시로 사용할 수 있다.
• 워터마킹 기법은 텍스트의 유창성과 독해력을 유지하면서도 합성 콘텐츠의 탐지가 가능하다.
• 이 접근법은 스케일링이 가능하고 결정론적인 솔루션을 제공하여 대규모 AI 생성 언어를 식별하는 데 유용하다.
• 사용자와 시스템이 생성된 텍스트의 기원을 검증할 수 있도록 윤리적 투명성을 지원한다.
• 이 방법은 속임수, 오락성 정보 유포 및 정서적 조작과 관련된 핵심 윤리적 우려를 해결한다.
• 워터마크는 재작성 및 미세한 텍스트 수정에도 강건하여 장기적인 탐지 가능성을 확보한다.