[论文解读] Towards Designing a ChatGPT Conversational Companion for Elderly People

Abeer Alessa, Hend S. Al‐Khalifa|arXiv (Cornell University)|Apr 18, 2023

Digital Mental Health Interventions被引用 4

一句话总结

本文提出了一种基于ChatGPT的对话伴侣，专为老年人设计，旨在缓解孤独感与社会孤立。该系统以老年人角色为设计核心，在初步评估中表现出相关性，但偏见、错误信息以及隐私等伦理问题仍是实际部署中亟需解决的关键局限。

ABSTRACT

Loneliness and social isolation are serious and widespread problems among older people, affecting their physical and mental health, quality of life, and longevity. In this paper, we propose a ChatGPT-based conversational companion system for elderly people. The system is designed to provide companionship and help reduce feelings of loneliness and social isolation. The system was evaluated with a preliminary study. The results showed that the system was able to generate responses that were relevant to the created elderly personas. However, it is essential to acknowledge the limitations of ChatGPT, such as potential biases and misinformation, and to consider the ethical implications of using AI-based companionship for the elderly, including privacy concerns.

研究动机与目标

• 应对老年人孤独与社会孤立日益增长的公共卫生问题。
• 设计一种基于ChatGPT的对话式AI伴侣，使其对老年人用户而言可访问且具有意义。
• 评估系统根据老年人用户角色生成上下文相关且富有同理心回应的能力。
• 识别在老年人AI陪伴中潜在的伦理风险，如偏见、错误信息及隐私侵犯。
• 为符合老年人认知、情感与社交需求的AI伴侣提供设计指南。

提出的方法

• 系统利用OpenAI基于GPT-3.5的ChatGPT模型，生成类人、上下文感知的回应。
• 通过创建用户角色来模拟多样化的老年人群体，包括年龄、健康状况与社交背景，以指导回应生成。
• 通过与模拟互动的初步定性研究，评估回应的相关性与情感适当性。
• 设计中采用简化语言与结构化对话流程，以提升老年人用户的可用性。
• 在系统架构中整合伦理考量，包括数据隐私与AI交互透明度。
• 评估框架聚焦于回应的连贯性、同理心以及与老年人用户角色的一致性。

实验结果

研究问题

• RQ1 基于ChatGPT的系统在多大程度上能生成对老年人用户角色相关且富有同理心的回应？
• RQ2 在将大型语言模型作为老年人陪伴者部署时，关键的伦理风险（如偏见、错误信息或隐私侵犯）是什么？
• RQ3 老年人用户在情感连接与信任方面如何感知并回应AI生成的陪伴？
• RQ4 基于角色的提示在多大程度上能提升AI回应对老年人的个性化与相关性？
• RQ5 应遵循哪些设计原则，以确保AI伴侣在老年人群体中安全、包容且有益？

主要发现

• 在初步评估中，基于ChatGPT的系统成功生成了与所创建老年人角色相符、上下文相关的回应。
• 用户表示对话流程自然且具有吸引力，表明存在建立情感连接的潜力。
• 系统在处理敏感话题时存在局限，偶尔产生事实性错误或刻板印象的回应。
• 伦理问题尤为突出，特别是在数据隐私、可能强化年龄相关刻板印象以及AI决策过程缺乏透明度方面。
• 观察到训练数据中的偏见，当与特定角色场景互动时，回应偶尔反映出性别或文化刻板印象。
• 本研究强调，在老年护理场景中部署此类系统时，必须进行严格的“人在回路”验证与持续监控。