[논문 리뷰] Who Writes the Review, Human or AI?

Panagiotis C. Theocharopoulos, Spiros V. Georgakopoulos외 2명|arXiv (Cornell University)|2024. 05. 30.

Artificial Intelligence in Healthcare and EducationMedicine인용 수 3

한 줄 요약

이 연구는 실제 및 비쿠나(Vicuna) 생성 리뷰로 구성된 고유 데이터셋을 사용하여 AI 생성 및 인간이 작성한 도서 리뷰를 구분하기 위한 전이학습 기반 딥러닝 모델을 제안한다. 이 방법은 텍스트 소스를 식별하는 데 96.86%의 정확도를 달성하여 다양한 주제와 글쓰기 스타일에서 합성 텍스트를 식별하는 데 높은 효과성을 보였다.

ABSTRACT

With the increasing use of Artificial Intelligence in Natural Language Processing, concerns have been raised regarding the detection of AI-generated text in various domains. This study aims to investigate this issue by proposing a methodology to accurately distinguish AI-generated and human-written book reviews. Our approach utilizes transfer learning, enabling the model to identify generated text across different topics while improving its ability to detect variations in writing style and vocabulary. To evaluate the effectiveness of the proposed methodology, we developed a dataset consisting of real book reviews and AI-generated reviews using the recently proposed Vicuna open-source language model. The experimental results demonstrate that it is feasible to detect the original source of text, achieving an accuracy rate of 96.86%. Our efforts are oriented toward the exploration of the capabilities and limitations of Large Language Models in the context of text identification. Expanding our knowledge in these aspects will be valuable for effectively navigating similar models in the future and ensuring the integrity and authenticity of human-generated content.

연구 동기 및 목표

• 자연어에서 AI 생성 텍스트를 탐지하기 위한 강력한 방법론을 개발하는 것. 도서 리뷰를 대표적 도메인으로 삼는다.
• 다양한 주제와 글쓰기 스타일에 걸쳐 모델 일반화 능력을 향상시키는 데 전이학습의 효과를 조사하는 것.
• 디지털 콘텐츠에서 위성 정보 및 진위성에 대한 우려가 증가하는 상황에서 합성 텍스트 탐지의 증가하는 과제를 다루는 것.
• 특히 인간과 AI가 생성한 텍스트 간 어휘 유사도가 높은 경우에 발생하는 오류 패턴과 한계를 분석하는 것.
• 향후 다른 텍스트 유형, 예를 들어 트윗 등에 적용 가능한 탐지 시스템의 기반을 마련하는 것.

제안 방법

• 오픈소스 비쿠나 언어 모델을 사용하여 인간이 작성한 도서 리뷰 1,000건과 AI가 생성한 리뷰 1,000건으로 균형 잡힌 데이터셋을 구축하였다.
• 사전 학습된 트랜스포머 기반 모델을 전이학습을 통해 텍스트 소스 분류라는 구체적인 작업에 적응시켰다.
• 전이학습을 활용해 특징 추출 능력을 향상시키고 다양한 글쓰기 스타일과 어휘 사용에 걸쳐 탐지 성능을 개선하였다.
• 과적합을 방지하고 최적의 일반화를 확보하기 위해 검증 손실 기반 조기 정지 기법을 적용하여 모델을 훈련시켰다.
• 은닉 상태 표현의 시각화 및 클래스 간 분리 가능성 평가를 위해 t-SNE 차원 감소 기법을 적용하였다.
• 결과의 강건성과 신뢰성을 확보하기 위해 통계적 평가와 95% 신뢰구간을 포함한 100회의 독립적인 훈련 런을 수행하였다.

Figure 1: Schematic overview of this study. Titles and book reviews have been collected from the Kaggle Dataset. The titles of the selected books have been prompted to the Vicuna model, which returned the AI-written reviews based on their title. The study involved text cleaning and data representati

실험 결과

연구 질문

• RQ1 전이학습이 AI 생성 리뷰와 인간이 작성한 도서 리뷰를 구분하는 정확도를 상당히 향상시킬 수 있는가?
• RQ2 다양한 주제와 글쓰기 스타일에서 일반화 및 강건성 측면에서 모델의 성능은 어떠한가?
• RQ3 주요 오분류 원인은 무엇이며, 인간과 AI가 생성한 텍스트 간 어휘 유사도가 탐지에 어떤 영향을 미치는가?
• RQ4 신뢰구간과 통계적 검증이 탐지 성능 지표의 신뢰성을 얼마나 보장할 수 있는가?
• RQ5 모델이 추가 미세조정 없이도 다른 텍스트 유형, 예를 들어 소셜 미디어 콘텐츠에 일반화될 수 있는가?

주요 결과

• 제안된 모델은 도서 리뷰의 소스를 식별하는 데 평균 96.86%의 정확도를 달성하였으며, 95% 신뢰구간 [0.9647, 0.9726]을 기록하였다.
• 모델은 모든 지표에서 뛰어난 성능를 보였으며, F1 점수는 0.9685, AUC는 0.9687로 높은 정밀도와 재현율을 나타내었다.
• 높은 정확도에도 불구하고, 60건의 인간이 작성한 텍스트가 AI 생성 텍스트로 잘못 분류되었고, 117건의 AI 생성 텍스트가 인간이 작성한 것으로 잘못 분류되어 모호한 케이스에서 지속적인 과제가 있음을 시사했다.
• 워드클라우드 및 빈도 분석을 통해 오분류된 텍스트가 유사한 어휘를 공유하고 있음을 확인하여, 어휘 겹침이 혼동의 주요 원인임을 밝혔다.
• t-SNE 시각화 결과, 대부분의 인간 및 AI 생성 문장은 잘 분리되어 있었지만, 은닉 상태 표현에서 일부 겹침이 발생하여 모호하거나 스타일적으로 유사한 샘플이 존재함을 확인하였다.
• 전이학습의 사용은 성능 향상에 상당한 기여를 하였으며, 전이학습 없이 92.72%였던 정확도가 전이학습을 적용한 후 96.87%로 상승하여 도메인 적응에서의 효과성을 입증하였다.

Figure 2: Frequencies of the top 20 words on both original and AI-generated reviews.