[論文レビュー] Social and Emotional Etiquette of Chatbots: A Qualitative Approach to Understanding User Needs and Expectations

Ekaterina Svikhnushina, Pearl Pu|arXiv (Cornell University)|Jun 24, 2020

AI in Service Interactions参考文献 57被引用数 8

ひとこと要約

本研究は、18件の半構造的インタビューを通じて、ユーザーが感情知能を備えたチャットボットに対して抱く期待を定性的に調査した。その結果、単なる感情検出よりも、共感的で文脈に配慮した感情への対応をユーザーがより重視することが明らかになった。主な貢献は、ユーザーの信頼と関与を高めるために、反応的な共感と社会的マナーを重視する設計ガイドラインおよびインタラクションパターンのセットを提示することにある。

ABSTRACT

As chatbots are becoming increasingly popular, we often wonder what users perceive as natural and socially accepted manners of interacting with them. Some researchers maintain that humans should avoid engaging in emotional conversations with chatbots, while others have started building empathetic chatting machines using the latest deep learning techniques. To understand if chatbots should comprehend and display emotions, we conducted semi-structured interviews with 18 participants. Our analysis revealed their overall enthusiasm towards emotionally aware agents. More importantly, users' intention to accept emotional chatbots seem to hinge on how these agents respond to our specific emotions, rather than just the ability to detect human emotions. Our findings also disclosed the specific application domains where emotionally intelligent technology could improve user experience. To conclude, we summarized a set of emotion interaction patterns that inspire users' intention to adopt such technology as well as guidelines useful for the development of emotionally intelligent chatbots.

研究の動機と目的

• チャットボットにおける感情的および社会的マナーに関するユーザーの期待とニーズを理解すること。
• ユーザーが感情知能を備えたチャットボットを望ましいと感じるかどうか、およびその条件を調査すること。
• ユーザーの受容性と信頼を高める特定の感情的インタラクションパターンを同定すること。
• ユーザー主導のインサイトに基づいて、感情知能を備えたチャットボットのための設計ガイドラインを策定すること。
• 感情知能がユーザー体験を顕著に向上させる可能性のある応用分野を探索すること。

提案手法

• 多様な参加者を対象に18件の半構造的インタビューを実施し、感情的なチャットボットとの対話についての将来志向の期待を引き出した。
• 400件の定性的な回答ノートに対してアフィニティノート分析を実施し、繰り返し現れるテーマと感情的インタラクションパターンを同定した。
• 定性的なテーマ分析を用いて、ユーザーの懸念事項、望ましい感情的行動、信頼要因を抽出した。
• 共感、対応性、社会的マナーに焦点を当て、ユーザーの期待を設計原則にマッピングした。
• ユーザーが報告した感情的対応戦略および透明性に関する好みに基づき、ガイドラインを策定した。
• ユーザー中心の原則に基づいて、感情知能を備えたオープンドメインチャットボットの設計を支援するフレームワークに統合した。

実験結果

リサーチクエスチョン

• RQ1 ユーザーは、社会的および感情的対話において、チャットボットに対してどのような感情的行動を期待するか？
• RQ2 ユーザーは、共感と感情的対応性が、チャットボットの好まれやすさと信頼をどのように高めるかをどのように認識しているか？
• RQ3 ユーザーが感情知能を備えたチャットボットに最も適しているとみなす応用分野はどれか？
• RQ4 どのような感情的対応パターンが、ユーザーが感情知能を備えたチャットボットを採用しようとする意図を高めるか？
• RQ5 ユーザーは、感情知能を備えたチャットボットに関して、特にプライバシーと操作の懸念をどのように表明しているか？

主な発見

• ユーザーは、単に感情を検出するのではなく、反応的な共感を示す感情知能を備えたチャットボットに対して強い関心を示している。
• ユーザー受容の主な要因は、感情検出そのものではなく、悲しみやイライラといった特定の感情状態に対してチャットボットがどのように対応するかにある。
• ユーザーは、適切な感情的反応と文脈に配慮した対話を求め、励ましを提供したり、関心を示したりし、不適切な反応を避けることを期待している。
• 感情知能を備えたチャットボットにとって最も有望な応用分野は、メンタルヘルス支援、伴侶的役割、感情の点検であり、ユーザーは感情的承認とつながりを求めることが多い。
• ユーザーは、プライバシー、データの不正利用、隠れた意図に関する懸念を強く示しており、信頼を築くために透明性と善意ある設計の必要性を強調している。
• ユーザー受容の鍵をなす12の感情的インタラクションパターンが同定された。これには、能動的聴取、感情の承認、適切なユーモアが含まれる。