[논문 리뷰] A Lexical, Syntactic, and Semantic Perspective for Understanding Style in Text

Gaurav Verma, B. Srinivasan|arXiv (Cornell University)|2019. 09. 18.

Authorship Attribution and Profiling참고 문헌 64인용 수 13

한 줄 요약

이 논문은 어휘, 문법, 의미적 시각에서 글쓰기 스타일을 분석하기 위한 언어학적으로 기반을 둔 다수준 프레임워크를 제안한다. 정량적 언어적 직관을 사용하여 소셜 미디어, 리뷰, 법적 문서와 같은 다양한 텍스트 도메인에서 저자 특정, 정서 예측, 저자 스타일 분석 성능을 향상시킨다.

ABSTRACT

With a growing interest in modeling inherent subjectivity in natural language, we present a linguistically-motivated process to understand and analyze the writing style of individuals from three perspectives: lexical, syntactic, and semantic. We discuss the stylistically expressive elements within each of these levels and use existing methods to quantify the linguistic intuitions related to some of these elements. We show that such a multi-level analysis is useful for developing a well-knit understanding of style - which is independent of the natural language task at hand, and also demonstrate its value in solving three downstream tasks: authors' style analysis, authorship attribution, and emotion prediction. We conduct experiments on a variety of datasets, comprising texts from social networking sites, user reviews, legal documents, literary books, and newswire. The results on the aforementioned tasks and datasets illustrate that such a multi-level understanding of style, which has been largely ignored in recent works, models style-related subjectivity in text and can be leveraged to improve performance on multiple downstream tasks both qualitatively and quantitatively.

연구 동기 및 목표

• 작업에 종속되지 않고 언어학적으로 동기를 부여한 글쓰기 스타일 이해를 개발하여 작업 특화 가정을 초월한다.
• 어휘, 문법, 의미 수준에서 스타일적 요소를 식별하고 정량화하여 스타일 변동의 전반적인 스펙트럼을 포괄한다.
• 이 다수준 스타일 표현 방식이 저자 특정 및 정서 예측과 같은 후행 NLP 작업 성능 향상에 기여하는 바를 입증한다.
• 주제 및 콘텐츠 요인으로부터 스타일 영향을 분리하는 구조적이고 해석 가능한 스타일 표현을 제공한다.
• 기존 심리언어학 및 계산 언어학 원칙에 기반한 특징을 활용하여 언어학적 직관과 데이터 기반 모델링 간 격차를 메운다.

제안 방법

• 스틸리스틱 요소를 세 수준으로 분류한다: 어휘(어휘 선택, 예: 공식적 대비 비공식적, 주관적 대비 객관적), 문법(문장 구조, 예: 능동형 대비 피동형, 산산이 흩어진 문장 대비 주기적 문장), 의미(의미 수준 특성, 예: 정서, 공식성, 예절).
• 기존 계산 방법을 사용해 스타일 직관을 정량화한다. 예를 들어, 의미적 특징은 단어 임베딩을, 문법 패턴은 의존성 파싱을, 어휘적 주관성은 정서 어휘 사전을 활용한다.
• 어휘, 문법, 의미 차원의 특징을 통합하여 다수준 스타일 표현을 구성함으로써 종합적인 스타일 프로파일을 형성한다.
• 이러한 다수준 스타일 특징을 최신 저자 특정 및 정서 예측 모델에 통합하여 성능 향상을 평가한다.
• 다섯 명의 유명한 영어 저자에 대해 프레임워크를 적용하여 세 수준에서의 글쓰기 차이를 정성적 및 정량적 분석으로 분석한다.
• 소셜 미디어(Facebook, Twitter), 사용자 리뷰(IMDb), 법적 문서, 문학 텍스트, 뉴스 기사(Reuters) 등 다양한 데이터셋을 대상으로 평가하여 도메인 일반화 능력을 확보한다.

실험 결과

연구 질문

• RQ1 어떻게 언어학적으로 동기를 부여한 기준을 사용하여 글쓰기 스타일을 어휘, 문법, 의미 수준으로 체계적으로 분해할 수 있는가?
• RQ2 내용 전용 또는 단일 수준 스타일 기반 모델 대비 다수준 스타일 특징이 저자 특정 및 정서 예측 성능 향상에 얼마나 기여하는가?
• RQ3 통합적이고 해석 가능한 스타일 표현은 소셜 미디어, 법적 텍스트, 문학 작품과 같은 다양한 도메인에서의 스타일 변동을 포괄할 수 있는가?
• RQ4 어휘 선택, 문장 구조, 의미적 정서와 같은 스타일 요소는 공식성, 정서성, 예절성과 같은 심리언어학적 개념과 어떻게 관련이 있는가?
• RQ5 각 스타일 수준(어휘, 문법, 의미)이 후행 NLP 작업에서 글쓰기 스타일을 모델링하는 데 기여하는 상대적 기여도는 얼마인가?

주요 결과

• 다수준 스타일 표현은 전통적인 n-그램 및 기능어 빈도를 넘어서 구조적이고 해석 가능한 스타일 특징을 통합함으로써 저자 특정 성능 향상에 크게 기여한다.
• 문장 유형(산산이 흩어진 대비 주기적 문장) 및 의미적 주관성과 같은 문법 및 의미 특징의 포함은 어휘 정서 특징과 결합될 경우 정서 예측 성능에 측정 가능한 향상을 이끈다.
• 프레임워크는 다섯 명의 주요 영어 저자 간의 스타일 차이를 성공적으로 포착하여 그들의 작품에서 어휘 선택, 문법 복잡성, 의미 톤의 명확한 패턴을 드러냈다.
• 소셜 미디어, 리뷰, 법적 문서, 문학 작품, 뉴스 기사 등 다양한 도메인에서의 실험 결과, 다수준 접근 방식이 잘 일반화되고 주제 및 장르 변화에 뛰어난 내성성을 보임을 확인했다.
• 연구는 스타일 특징이 정서 및 공식성과 관련이 있을 뿐 아니라 주제 및 콘텐츠를 제어한 후에도 독립적으로 모델 성능에 기여한다는 것을 입증했다.
• 정량적 결과는 제안된 방법이 저자 특정 및 정서 예측 작업에서 기존 최고 수준의 모델을 모두 능가함을 보여주며, 언어학적으로 기반을 둔 다수준 스타일 분석의 가치를 입증한다.