[논문 리뷰] A Recipe For Arbitrary Text Style Transfer with Large Language Models

Emily Reif, Daphne Ippolito외 4명|arXiv (Cornell University)|2021. 09. 08.

Topic Modeling인용 수 6

한 줄 요약

이 논문은 대규모 언어 모델이 피팅 훈련이나 대상 스타일의 예시 없이도 임의의 텍스트 스타일 전환을 수행할 수 있도록 하는 보완된 제로샷 학습을 소개한다. 단일 유연한 프롬프트 템플릿을 사용하고 다양한 재작성 예시를 포함함으로써, 이 방법은 표준 스타일뿐 아니라 비표준 스타일(예: 더 코믹하게, 더 비극적으로, 또는 은유적으로 만들기)에서도 뛰어난 성능을 달성한다. 인간 평가에서 높은 유창성과 후보 선택을 통한 향상된 자동 평가 지표를 입증한다.

ABSTRACT

In this paper, we leverage large language models (LMs) to perform zero-shot text style transfer. We present a prompting method that we call augmented zero-shot learning, which frames style transfer as a sentence rewriting task and requires only a natural language instruction, without model fine-tuning or exemplars in the target style. Augmented zero-shot learning is simple and demonstrates promising results not just on standard style transfer tasks such as sentiment, but also on arbitrary transformations such as "make this melodramatic" or "insert a metaphor."

연구 동기 및 목표

• 라벨이 붙은 병렬 데이터나 스타일 전용 예시가 필요한 기존 스타일 전환 방법의 한계를 해결하기 위해.
• 자연어 지시어만으로도 레이블 없이 제로샷, 레이블 없는 스타일 전환을 가능하게 하여 데이터 및 훈련 요구 사항을 줄이기 위해.
• 감정이나 공손성과 같은 표준 카테고리 외에도 은유 삽입이나 '풍선'이라는 단어 삽입과 같은 창의적 변형을 포함해 지원 스타일의 범위를 확장하기 위해.
• 대규모 언어 모델과 즉시 작동하는 단순하고 제어 가능하며 일반적인 프롬프팅 프레임워크를 개발하기 위해.

제안 방법

• 다양한 변형(예: '더 묘사적으로' 또는 '은유 포함')을 포함한 여러 문장 재작성 예시를 포함한 고정된 프롬프트 템플릿을 사용한다.
• 모델은 원하는 스타일 전환을 지시하는 자연어 지시어로 프롬프트되며, 이어 수정이 필요한 입력 문장이 제공된다.
• 다양한 예시 변형에서 학습함으로써 모델이 새로운 스타일 전환 작업에 일반화할 수 있도록 프롬프트 구조를 설계한다.
• 특히 GPT-3와 같은 대규모 언어 모델의 인라인 학습 능력을 활용하여 피팅 훈련 없이도 새로운 스타일 전환 작업으로 확장한다.
• 모델 출력은 16개의 연속으로 생성되며, 후보 선택 기법을 적용해 원래 문장과 가장 높은 BLEU 점수를 기록한 출력을 선택함으로써 어휘 유사도를 향상시킨다.
• 이 방법은 감정, 공손성, 창의적 변형을 포함한 표준 및 비표준 스타일 전환 작업 모두에 적용된다.

실험 결과

연구 질문

• RQ1 대규모 언어 모델은 대상 스타일의 피팅 훈련이나 예시 없이도 임의의 스타일로 제로샷 텍스트 스타일 전환을 수행할 수 있는가?
• RQ2 보완된 제로샷 학습은 유창성과 스타일 전환 품질 측면에서 제로샷 및 소수 샘플 프롬프팅과 비교해 어떻게 다른가?
• RQ3 이 방법은 은유 삽입이나 '풍선'이라는 단어 삽입과 같은 비표준 창의적 스타일 변형으로도 일반화 가능한가?
• RQ4 후보 선택 기법이 유창성이나 의미 유지 손실 없이 BLEU와 같은 자동 평가 지표를 얼마나 향상시키는가?
• RQ5 실제 사용자 인터페이스 애플리케이션, 예를 들어 AI 기반 텍스트 편집기에서 이 방법은 어떻게 작동하는가?

주요 결과

• 인간 평가 결과, 보완된 제로샷 학습은 여섯 가지 비표준 스타일에서 평균 유창성 점수 133/150을 기록했으며, 제로샷 프롬프팅(81)과 소수 샘플(110) 기준보다 유의미하게 뛰어났다.
• 감정 전환 작업에서 LLM-128B 모델은 79.6%의 정확도 점수를 기록했으며, 제로샷(69.7%) 및 오차 샘플(83.2%) 기준보다 뛰어났다.
• 후보 선택을 적용한 결과 BLEU 점수가 크게 향상되었으며, 보완된 제로샷의 경우 16.1에서 49.3으로, LLM-128B-대화 버전의 경우 10.4에서 40.6으로 상승했다.
• 창의적 변형에 대해서도 높은 품질의 출력을 성공적으로 생성했으며, '더 코믹하게'(평균 길이 116자) 및 '더 비극적으로'(124자) 스타일에서 높은 인간 평가 유창성 점수를 기록했다.
• 실제 AI 에디터 UI에서의 사용자 연구 결과, 높은 참여도와 인식된 품질이 확인되었으며, 사용자들은 자연어 프롬프트로 다양한 스타일 편집을 성공적으로 적용했다.
• 이 방법은 이전 방법이 일반적으로 다루지 않는 스타일, 예를 들어 특정 단어 삽입이나 은유 구성 등에도 강건하게 작동함을 입증했다.