[论文解读] Writing Assistants Should Model Social Factors of Language

Vivek Kulkarni, Vipul Raheja|arXiv (Cornell University)|Mar 28, 2023

AI in Service Interactions被引用 4

一句话总结

本文主张，由大语言模型驱动的写作助手必须整合社会因素——如人口统计特征、个性、社会关系、时间/地理背景以及交际意图——以提升个性化程度、有效性及用户采纳率。通过建模这些社会维度，写作助手能够提供更具情境适切性、细致入微且更具包容性的语言建议，超越纯粹以信息为导向的文本生成。

ABSTRACT

Intelligent writing assistants powered by large language models (LLMs) are more popular today than ever before, but their further widespread adoption is precluded by sub-optimal performance. In this position paper, we argue that a major reason for this sub-optimal performance and adoption is a singular focus on the information content of language while ignoring its social aspects. We analyze the different dimensions of these social factors in the context of writing assistants and propose their incorporation into building smarter, more effective, and truly personalized writing assistants that would enrich the user experience and contribute to increased user adoption.

研究动机与目标

• 为解决当前写作助手性能欠佳及采纳率有限的问题，识别出一个关键疏漏：语言建模中忽视了社会因素。
• 主张语言不仅是信息，更是一种受人口统计特征、个性、社会关系及语境影响的社会建构。
• 提出建模这些社会维度将使写作助手更加智能、更具个性化且更有效。
• 强调在建模语言的社会方面时，亟需新的评估基准和伦理考量。
• 呼吁开展关于写作助手系统中社会因素的多模态及非语言建模的研究。

提出的方法

• 采用先前社会语言学研究中的语言社会因素分类体系，以指导写作助手的设计。
• 在语言建模中整合人口统计因素（如年龄、性别、种族），以定制用词和句式，同时避免偏见。
• 建模个性特征（如外向性）以根据用户的个人偏好定制语言建议。
• 整合社会关系与规范（如正式程度、敬语使用、俚语使用）以根据对话双方关系调整语气与结构。
• 考虑时间、地理及领域特定的语言差异（如“zucchini”与“courgette”），以提升情境准确性。
• 根据目标场景（学术、创意、对话等）将建议与用户的交际意图（如说明、说服或娱乐）对齐。

实验结果

研究问题

• RQ1 写作助手如何更好地建模年龄、性别和种族等人口统计影响，以改进语言建议？
• RQ2 个性特征如何在语言模型中编码，以实现个性化的写作建议？
• RQ3 社会关系与规范如何影响语言使用，写作助手又如何适应这些因素？
• RQ4 时间、地理及领域层面的语言差异如何影响写作助手的性能，又该如何建模？
• RQ5 如何设计写作助手，使其在不同语境下与用户的交际意图保持一致？

主要发现

• 建模社会因素的写作助手可通过根据用户的人口统计与关系背景调整语气、用词与结构，显著提升个性化与用户体验。
• 整合基于个性的语言模式可实现更准确、更个性化的写作建议，例如根据个性特征偏好使用社交性或正式用语。
• 社会关系建模使写作助手能够恰当地调整正式程度，合理使用俚语或敬语，例如在给亲密朋友的消息中省略问候语。
• 考虑地理与时间的语言差异可避免情感识别与用词错误，例如因历史语义演变而将“awesome”误判为负面情绪。
• 整合交际意图可使写作助手推荐特定语境的结构，例如在学术写作中采用论证性框架，或在营销内容中使用说服性表达。
• 当前评估基准中缺乏对社会因素的建模，限制了研究进展，凸显了构建新型、基于社会现实的评估框架的必要性。