[论文解读] DeepTingle

Ahmed Khalifa, Gabriella A. B. Barros+1 more|arXiv (Cornell University)|May 9, 2017

Video Analysis and Summarization被引用 11

一句话总结

DeepTingle 是一个基于查克·廷格尔全部奇幻、露骨且风格独特的同性恋色情文学作品语料库训练的文本预测与生成系统。该系统采用基于LSTM的模型与GloVe词嵌入，生成超现实、具有廷格尔风格的叙事，并将经典文学作品重新诠释为他的文风，通过颠覆主流AI写作工具所假设的中立性，揭示其内在隐含的规范。

ABSTRACT

DeepTingle is a text prediction and classification system trained on the collected works of the renowned fantastic gay erotica author Chuck Tingle. Whereas the writing assistance tools you use everyday (in the form of predictive text, translation, grammar checking and so on) are trained on generic, purportedly "neutral" datasets, DeepTingle is trained on a very specific, internally consistent but externally arguably eccentric dataset. This allows us to foreground and confront the norms embedded in data-driven creativity and productivity assistance tools. As such tools effectively function as extensions of our cognition into technology, it is important to identify the norms they embed within themselves and, by extension, us. DeepTingle is realized as a web application based on LSTM networks and the GloVe word embedding, implemented in JavaScript with Keras-JS.

研究动机与目标

• 通过使用高度非中立、风格一致的语料库，研究训练数据规范如何塑造AI写作助手。
• 通过在故意怪异的文学数据集上进行训练，挑战预测性文本和语法检查工具‘中立性’的假设。
• 构建一个功能性写作辅助工具，能够以查克·廷格尔的独特文风生成文本，凸显AI模型中风格与主题的偏见。
• 探索AI工具支持创造力的潜力——不是通过强制推行主流规范，而是通过放大独特、颠覆性或边缘化的声音。
• 开发一个‘廷格尔翻译器’，通过词汇替换与嵌入迁移，将标准英语文本映射到廷格尔的宇宙之中。

提出的方法

• 使用长短期记忆（LSTM）网络进行序列建模，训练了一个六层深度神经网络。
• 采用GloVe词嵌入在连续向量空间中表示词语，捕捉廷格尔语料库中的语义与句法模式。
• 使用Keras-JS实现一个实时预测性文本界面，基于上下文提供即时词元建议。
• 实施一种词汇替换机制，将未登录词映射为廷格尔风格的对应词，确保所有生成输出保持在廷格尔的风格宇宙之内。
• 采用混合生成策略：要么跳过未登录词，要么用语义上合理的廷格尔风格替代词进行替换。
• 构建了一个‘廷格尔翻译器’原型，通过嵌入空间映射与风格迁移技术，将标准英语文本转换为廷格尔的叙事风格。

实验结果

研究问题

• RQ1 在高度非中立、极具个性化的文学语料库（如查克·廷格尔的作品）上训练预测性文本模型，如何揭示主流AI写作工具中嵌入的规范？
• RQ2 神经网络在面对违背常规语法、叙事结构与主题内容的语料时，能在多大程度上学习并生成连贯、风格一致的文本？
• RQ3 词汇替换机制能否在将文本转化为独特风格宇宙（如廷格尔的风格）的同时，有效保持语义意义？
• RQ4 与使用‘中立’语料训练的写作助手相比，使用基于颠覆性、非主流语料训练的写作助手，其定性与感知效果有何不同？
• RQ5 此类系统如何挑战或重构AI在塑造人类创造力与语言表达中的角色？

主要发现

• 该系统成功生成了连贯、风格一致的廷格尔风格叙事，包括超现实且露骨的内容，如‘恐龙性爱’和‘巧克力牛奶牛仔’。
• 词汇替换显著提升了连贯性，防止因未登录词导致生成中断，对比显示替换与非替换输出的差异明显。
• 示例表明，即使是经典文学名句如‘叫我以实玛利’，也被转化为包含强烈同性性爱、身体恐怖与荒诞隐喻的廷格尔风格叙事。
• 该模型在多样化输入下保持了风格一致性，表明尽管廷格尔的写作风格怪异，但其内部仍具有强烈的逻辑结构与叙事韵律。
• ‘廷格尔翻译器’原型通过将非廷格尔词汇替换为风格恰当的替代词，成功将标准英语文本映射到廷格尔的宇宙中，同时保持了叙事流畅性。
• 作者们总结认为，DeepTingle的主要价值不在于量化指标，而在于其通过直接、体验式互动，引发人们对AI写作工具中隐含规范的反思。