[論文レビュー] Artificial intelligence in communication impacts language and social relationships

Jess Hohenstein, Dominic DiFranzo+7 more|arXiv (Cornell University)|Feb 10, 2021

Misinformation and Its Impacts被引用数 6

ひとこと要約

本研究は、1,036名の参加者を対象に実施した2つのランダム化比較実験を用いて、リアルタイムメッセージングにおけるAI搭載スマートリプライの社会的・言語的影響を調査した。スマートリプライは通信の効率性と肯定的な感情表現を向上させるが、利用者がそれを使っていると疑われる場合、ユーザーはより否定的に評価されるという逆説的傾向が明らかになった。これは、AIが対話の質を向上させる一方で、誠実さの認識を損なう可能性を示している。

ABSTRACT

Artificial intelligence (AI) is now widely used to facilitate social interaction, but its impact on social relationships and communication is not well understood. We study the social consequences of one of the most pervasive AI applications: algorithmic response suggestions ("smart replies"). Two randomized experiments (n = 1036) provide evidence that a commercially-deployed AI changes how people interact with and perceive one another in pro-social and anti-social ways. We find that using algorithmic responses increases communication efficiency, use of positive emotional language, and positive evaluations by communication partners. However, consistent with common assumptions about the negative implications of AI, people are evaluated more negatively if they are suspected to be using algorithmic responses. Thus, even though AI can increase communication efficiency and improve interpersonal perceptions, it risks changing users' language production and continues to be viewed negatively.

研究の動機と目的

• AIを介したコミュニケーション、特にスマートリプライが対人コミュニケーションおよび社会的認識に与える影響を理解すること。
• アルゴリズムによる返信提案の使用が、リアルタイムメッセージングにおける言語生成、感情的トーン、関係評価に与える影響を検討すること。
• AIの二面的効果を調査すること：通信の効率性と肯定性を高める一方で、誠実さや信頼性を損なう可能性があること。
• 特に、ユーザーがAI利用を疑う状況において、人間同士のコミュニケーションにおけるAIの社会的影響を明らかにすること。
• 日常的なコミュニケーションに広く導入されているAIツール（例：スマートリプライ）の社会的影響について、実証的証拠を提供すること。

提案手法

• 1,036名の参加者を対象に、独自開発のウェブベースのメッセージングアプリを用いてリアルタイムテキスト会話のシミュレーションを行う2つのランダム化比較実験を実施。
• 異なる条件でスマートリプライの有無および種別（肯定的、否定的、Googleが生成した、なし）を操作。
• 会話のメッセージにおける感情的トーンを測定するために、VADERおよびLIWCを用いた自動感情分析を実施。
• 会話終了後に標準化された尺度（改訂版対人形容語尺度、認識された協力性）を用いて対人認識データを収集。
• 個人レベルでのスマートリプライ条件が言語および認識結果に与える影響を分析するため、クラスターロバスト標準誤差を用いた線形回帰分析を実施。
• VADERに基づく発見の妥当性を検証するため、代替の感情分析ツール（LIWC）を用いた妥当性チェックを実施。

実験結果

リサーチクエスチョン

• RQ1 AI生成スマートリプライの使用が、通信の効率性およびメッセージの感情的トーンに与える影響は何か？
• RQ2 スマートリプライを使用する人物が、相手がAI利用を疑う場合にどのように評価されるか？
• RQ3 肯定的、否定的、商業的に提供されたスマートリプライが、対人認識および会話の感情的トーンに与える差別の影響は何か？
• RQ4 スマートリプライの存在が、認識された協力性および支配的・協調的といった対人的特徴に与える影響は何か？
• RQ5 相手がAIを使って返信を生成していると信じられた場合、誠実さや信頼性の認識はどのように変化するか？

主な発見

• スマートリプライの使用は、参加者がより迅速にメッセージを送信し、認知的負荷が低下するなど、通信の効率性を顕著に向上させた。
• スマートリプライを含む会話では、肯定的な感情表現のレベルが上昇し、感情スコアの標準化効果量が27.2％（Cohen’s d = 0.272）に達した（p < 0.001）。
• スマートリプライを使用した参加者は、特にGoogleが生成したまたは肯定的なスマートリプライを使用した場合、より協力的かつ協調的であると評価された。
• 参加者が相手がスマートリプライを使っていると疑った場合、その相手に対する評価がより否定的になった。これは、AIを介したコミュニケーションに対するステグマ効果を示している。
• 否定的スマートリプライは会話の感情的トーンに顕著な悪影響を及ぼし、コントロール条件と比較して大きな効果量（Cohen’s d = 0.454、p < 0.001）を示した。
• 感情分析ツールの違いに関わらず、VADERおよびLIWCの両方とも、スマートリプライが会話全体の感情的トーンおよび肯定性を高めることを確認した。