[논문 리뷰] DeepTingle

Ahmed Khalifa, Gabriella A. B. Barros외 1명|arXiv (Cornell University)|2017. 05. 09.

Video Analysis and Summarization인용 수 11

한 줄 요약

DeepTingle는 찰리 티링거의 환상적이고 노골적이며 스타일적으로 특수한 게이 에로티카 전집을 훈련 데이터로 사용한 텍스트 예측 및 생성 시스템이다. LSTM 기반 모델과 GloVe 임베딩을 사용하여 초현실적이고 티링거 스타일의 내러티브를 생성하며, 전통적인 문학을 그의 어조로 재해석함으로써 주류 AI 글쓰기 도구에 내재된 숨겨진 규범을 드러낸다. 이는 도구의 '중립성'이라는 가정을 뒤집는 것이다.

ABSTRACT

DeepTingle is a text prediction and classification system trained on the collected works of the renowned fantastic gay erotica author Chuck Tingle. Whereas the writing assistance tools you use everyday (in the form of predictive text, translation, grammar checking and so on) are trained on generic, purportedly "neutral" datasets, DeepTingle is trained on a very specific, internally consistent but externally arguably eccentric dataset. This allows us to foreground and confront the norms embedded in data-driven creativity and productivity assistance tools. As such tools effectively function as extensions of our cognition into technology, it is important to identify the norms they embed within themselves and, by extension, us. DeepTingle is realized as a web application based on LSTM networks and the GloVe word embedding, implemented in JavaScript with Keras-JS.

연구 동기 및 목표

• 매우 비중립적이며 스타일적으로 일관된 코퍼스를 사용함으로써 훈련 데이터의 규범이 AI 글쓰기 보조 도구에 어떻게 영향을 미치는지 조사하기 위해.
• 의도적으로 이질적인 문학 데이터셋을 사용해 예측 텍스트 및 문법 검사 도구의 '중립성'이라는 가정을 도전하기 위해.
• 찰리 티링거의 독특한 목소리로 텍스트를 생성하는 기능적인 글쓰기 보조 도구를 구축하여, AI 모델 내에 내재된 스타일적 및 주제적 편향을 드러내기 위해.
• 주류 규범을 강요하는 것이 아니라, 독특하거나 뒤집거나 소외된 목소리를 강화하는 AI 도구의 잠재력을 탐색하기 위해.
• 표준 영어 텍스트를 티링거의 세계관으로 변환하는 단어 치환과 임베딩 전이를 통해 구현된 '티링거 번역기'를 개발하기 위해.

제안 방법

• 시퀀스 모델링을 위해 장기적 단기 기억(LSTM) 네트워크를 사용한 여섯 층의 딥 네ural 네트워크를 훈련시켰다.
• 티링거 코퍼스에서 추출한 의미적 및 문법적 패턴을 연속 벡터 공간에 표현하기 위해 GloVe 단어 임베딩을 적용했다.
• Keras-JS를 사용해 실시간 예측 텍스트 인터페이스를 구현하여, 맥락에 기반한 실시간 단어 제안 기능을 제공했다.
• 비어 있는 어휘 집합(OOV) 단어를 티링거 스타일의 등가로 매핑하는 단어 치환 메커니즘을 구현하여, 생성된 출력이 항상 티링거의 스타일적 세계관 내에 머무르도록 보장했다.
• 하이브리드 생성 전략을 적용: OOV 단어를 건너뛰거나, 의미적으로 타당한 티링거 스타일의 대체어로 교체하는 방식.
• 표준 영어 텍스트를 티링거의 내러티브 스타일로 변환하는 데 목적이 있는 '티링거 번역기' 프로토타입을 개발하여, 임베딩 공간 매핑 및 스타일 전이 기법을 적용했다.

실험 결과

연구 질문

• RQ1 찰리 티링거의 매우 비중립적이며 특수한 문학 코퍼스를 기반으로 예측 텍스트 모델을 훈련시킬 경우, 주류 AI 글쓰기 도구에 내재된 규범이 어떻게 드러나는가?
• RQ2 규범적인 문법, 내러티브 구조, 주제를 거부하는 코퍼스에서 신경망이 얼마나 잘 일관되고 스타일적으로 일관된 텍스트를 학습하고 생성할 수 있는가?
• RQ3 단어 치환 메커니즘이 의미를 효과적으로 유지하면서도 티링거의 독특한 스타일 세계관으로 텍스트를 변형시키는 데 얼마나 효과적인가?
• RQ4 주류가 아닌 코퍼스로 훈련된 글쓰기 보조 도구를 사용할 경우, 정량적 측정치 외의 질적이고 인지적 효과는 어떠한가?
• RQ5 이러한 시스템이 인간의 창의성과 언어 표현을 형성하는 데 있어 AI의 역할을 어떻게 도전하거나 재정의할 수 있는가?

주요 결과

• 시스템은 '공룡 성관계'나 '초콜릿 밀 우유 캐릭터' 같은 초현실적이고 노골적인 내용까지 포함해, 찰리 티링거의 목소리로 일관되고 유의미한 내러티브를 성공적으로 생성했다.
• 비어 있는 어휘 집합(OOV) 단어로 인한 생성 중단을 방지하기 위해 단어 치환 기법이 유의미하게 효과를 발휘했으며, 치환된 출력과 치환되지 않은 출력 간의 비교를 통해 이를 입증했다.
• 예시로는 '내 이름을 이슈마엘이라고 불러라' 같은 고전 문학 문장조차도, 강렬한 게이 성관계, 신체 공포 요소, 그리고 비현실적인隐喩를 포함한 티링거 스타일의 내러티브로 변형되는 것을 확인했다.
• 다양한 입력에 대해 스타일 일관성이 유지되었으며, 이는 티링거의 글쓰기 방식이 비록 이질적이지만 강력한 내부 논리성과 내러티브 리듬을 지닌다는 것을 시사한다.
• 티링거 번역기 프로토타입은 비티링거 단어를 스타일적으로 적절한 대체어로 교체함으로써 표준 영어 텍스트를 티링거의 세계관으로 성공적으로 매핑했으며, 내러티브 흐름을 유지했다.
• 저자들은 DeepTingle의 주요 가치가 정량적 지표가 아니라, 직접적인 경험적 상호작용을 통해 AI 글쓰기 도구에 내재된 규범에 대한 성찰을 유도할 수 있다는 데 있다.