[论文解读] Verbal Disinhibition towards Robots is Associated with General Antisociality

Megan Strait, Virginia Contreras+1 more|arXiv (Cornell University)|Aug 2, 2018

Hate Speech and Cyberbullying Detection被引用 6

一句话总结

本研究通过分析40名Twitter用户与两款知名机器人（Bina48和Sophia）的互动，调查针对机器人言语虐待是否反映更广泛的反社会倾向。基于用户与机器人互动前50条推文的语言分析，研究发现对机器人的虐待行为与用户在更广泛社交媒体活动中的言语去抑制显著相关，表明此类攻击行为源于个体在反社会性上的差异，而非仅由情境因素所致。

ABSTRACT

The emergence of agentic technologies (e.g., robots) in increasingly public realms (e.g., social media) has revealed surprising antisocial tendencies in human-agent interactions. In particular, there is growing indication of people's propensity to act aggressively towards such systems - without provocation and unabashedly so. Towards understanding whether this aggressive behavior is anomalous or whether it is associated with general antisocial tendencies in people's broader interactions, we examined people's verbal disinhibition towards two artificial agents. Using Twitter as a corpus of free-form, unsupervised interactions, we identified 40 independent Twitter users who tweeted abusively or non-abusively at one of two high-profile robots with Twitter accounts (TMI's Bina48 and Hanson Robotics' Sophia). Analysis of 50 of each user's tweets most proximate to their tweet at the respective robot (N=2,000) shows people's aggression towards the robots to be associated with more frequent abuse in their general tweeting. The findings thus suggest that disinhibition towards robots is not necessarily a pervasive tendency, but rather one driven by individual differences in antisociality. Nevertheless, such unprovoked abuse highlights a need for attention to the reception of agentic technologies in society, as well as the necessity of corresponding capacities to recognize and respond to antisocial dynamics.

研究动机与目标

• 检验针对机器人言语虐待是否反映人类-代理交互中的更广泛反社会倾向。
• 探究对代理技术的无端攻击是否与人格差异或暂时情绪有关。
• 评估建模用户特定行为模式是否能提升对人机交互中攻击行为的检测与预测能力。
• 强调代理系统需识别并响应公共、非监督交互中的反社会动态的必要性。
• 探讨此类行为对未来机器人和AI代理社会融合与伦理设计的影响。

提出的方法

• 收集了40名独立用户与两款知名机器人（Bina48，由TMI开发；Sophia，由Hanson Robotics开发）互动的公开Twitter数据。
• 基于语言内容和语境线索，识别针对机器人的虐待与非虐待推文。
• 提取每位用户与机器人互动前的50条推文，以评估其一般性发推行为。
• 对2,000条推文（每位用户50条 × 40名用户）进行语言学与情感分析，量化言语去抑制与攻击频率。
• 使用统计建模检验用户在更广泛Twitter活动中的一般性虐待频率与其对机器人虐待行为之间的关联。
• 探讨两种解释：稳定的反社会人格特质 vs. 暂时的负面情绪作为攻击的驱动因素。

实验结果

研究问题

• RQ1 用户在社交媒体中对机器人言语去抑制是否与更广泛的反社会行为相关？
• RQ2 用户一般性发推中滥用语言的频率是否能预测其虐待机器人的可能性？
• RQ3 观察到的对机器人的攻击行为更多反映持久的人格特质，还是短暂的情绪状态？
• RQ4 建模个体用户行为是否能提升对人机交互中攻击行为的检测与预测能力？
• RQ5 对机器人无端虐待行为对设计具备社会响应能力的代理系统有何启示？

主要发现

• 发现用户在Twitter活动中的一般性言语去抑制与其对机器人实施虐待行为之间存在显著关联。
• 虐待机器人的用户在更广泛发推行为中表现出频繁滥用语言的可能性，是未虐待用户的两倍以上。
• 研究发现，对机器人的言语虐待并非情境特异性异常，而是与人际沟通中持久的反社会倾向相关。
• 研究结果表明，此类攻击行为更可能源于稳定的反社会性个体差异，而非暂时的情绪状态。
• 建模用户个体行为（而不仅分析语言内容）可显著提升对人机交互中潜在攻击行为的检测能力。
• 结果强调，代理系统需整合用户特定行为模型，以主动识别并响应反社会动态。