[論文レビュー] Verbal Disinhibition towards Robots is Associated with General Antisociality

Megan Strait, Virginia Contreras+1 more|arXiv (Cornell University)|Aug 2, 2018

Hate Speech and Cyberbullying Detection被引用数 6

ひとこと要約

本研究では、40名のTwitterユーザーがBina48（TMI製）およびSophia（Hanson Robotics製）という2体の高知名度ロボットと対話した際の言語的分析を通じて、ロボットに対する言語的いじめが、広範な反社会的傾向を反映しているかどうかを調査した。ユーザーがロボットと対話する直前の50件のツイートを分析した結果、ロボットへの攻撃的行動は、ユーザーの一般的なソーシャルメディア活動における言語的抑制の欠如と強く関連しており、こうした攻撃的行動は状況要因に起因するのではなく、反社会的傾向の個人差に起因している可能性を示唆している。

ABSTRACT

The emergence of agentic technologies (e.g., robots) in increasingly public realms (e.g., social media) has revealed surprising antisocial tendencies in human-agent interactions. In particular, there is growing indication of people's propensity to act aggressively towards such systems - without provocation and unabashedly so. Towards understanding whether this aggressive behavior is anomalous or whether it is associated with general antisocial tendencies in people's broader interactions, we examined people's verbal disinhibition towards two artificial agents. Using Twitter as a corpus of free-form, unsupervised interactions, we identified 40 independent Twitter users who tweeted abusively or non-abusively at one of two high-profile robots with Twitter accounts (TMI's Bina48 and Hanson Robotics' Sophia). Analysis of 50 of each user's tweets most proximate to their tweet at the respective robot (N=2,000) shows people's aggression towards the robots to be associated with more frequent abuse in their general tweeting. The findings thus suggest that disinhibition towards robots is not necessarily a pervasive tendency, but rather one driven by individual differences in antisociality. Nevertheless, such unprovoked abuse highlights a need for attention to the reception of agentic technologies in society, as well as the necessity of corresponding capacities to recognize and respond to antisocial dynamics.

研究の動機と目的

• 人間-エージェント相互作用におけるロボットへの言語的いじめが、広範な反社会的傾向を反映しているかどうかを検証すること。
• 能動的技術に対する誘発的攻撃が、性格の個人差または一時的な感情状態と関連しているかどうかを調査すること。
• ユーザー固有の行動パターンをモデル化することで、人間-ロボット相互作用における攻撃の検出および予測が改善されるかどうかを評価すること。
• 公共的で監視のない相互作用において、エージェント系が反社会的ダイナミクスを認識し、それに応答する必要性を強調すること。
• 未誘発のロボットへの攻撃行動が、将来的なロボットおよびAIエージェントの社会的統合と倫理的設計に与える影響を検討すること。

提案手法

• TMIが開発したBina48およびHanson Roboticsが開発したSophiaという2体の高知名度ロボットと対話した、40名の独立したユーザーの公開Twitterデータを収集した。
• 言語的コンテンツおよび文脈的手がかりに基づいて、ロボットへの攻撃的でないツイートと攻撃的ツイートを特定した。
• 各ユーザーのロボットとの対話の直前に発信された50件のツイートを抽出し、一般のツイート行動を評価した。
• 全2,000件のツイート（1ユーザーあたり50件 × 40名）に対して言語的分析およびセンチメント分析を実施し、言語的抑制の欠如と攻撃的頻度を定量化した。
• ユーザーの一般的なTwitter活動における攻撃的頻度と、ロボットへの攻撃的行動との関連性を統計的モデリングで検証した。
• 2つの解釈を検討した：安定した反社会的パーソナリティ特性、または一時的な否定的感情状態が攻撃の原因であるか。

実験結果

リサーチクエスチョン

• RQ1 ユーザーの一般的なソーシャルメディア相互作用における反社会的行動と、ロボットに対する言語的抑制の欠如は関連しているか？
• RQ2 ユーザーの一般的なツイートにおける攻撃的言語の頻度は、ロボットへの攻撃的行動の可能性を予測できるか？
• RQ3 観察されたロボットへの攻撃的行動は、持続的な性格的特徴の反映であるか、一時的な感情状態の反映であるか？
• RQ4 ユーザー固有の行動をモデル化することで、人間-エージェント相互作用における攻撃の検出および予測が向上するか？
• RQ5 ロボットへの未誘発の攻撃行動が、社会的対応性を持つエージェント系の設計に与える影響は何か？

主な発見

• ユーザーの一般的なTwitter活動における言語的抑制の欠如と、ロボットへの攻撃的行動との間に有意な関連が確認された。
• ロボットを攻撃したユーザーは、攻撃的でないユーザーと比較して、一般のツイート行動において頻繁に攻撃的言語を使用している可能性が2倍以上高かった。
• 本研究では、ロボットへの言語的いじめが一時的な文脈的要因による異常ではなく、人間関係における持続的な反社会的傾向と関連していることが判明した。
• 研究結果は、こうした攻撃的行動が一時的な感情状態よりも、反社会的傾向の安定した個人差に起因している可能性が高いことを示唆している。
• 言語的コンテンツの分析を超えて、ユーザー固有の行動パターンをモデル化することで、人間-ロボット相互作用における攻撃の検出が著しく向上することが可能である。
• 結果は、エージェント系が反社会的ダイナミクスを事前に認識し、それに応答できるよう、ユーザー固有の行動モデルを統合する必要性を強調している。