[논문 리뷰] Never say never: Exploring the effects of available knowledge on agent persuasiveness in controlled physiotherapy motivation dialogues

Stephan Vonschallen, Rahel Häusler외 2명|arXiv (Cornell University)|2026. 02. 13.

Social Robot Interaction and HRI인용 수 0

한 줄 요약

이 논문은 다양한 종류의 이용 가능한 지식(자신, 사용자, 맥락)이 LLM 기반 사회 로봇의 물리 치료 동기 부여 대화에서 설득력에 어떤 영향을 미치는지, 질적 연구와 사람 평가자가 참여한 후속 온라인 설문조사를 통해 살펴본다.

ABSTRACT

Generative Social Agents (GSAs) are increasingly impacting human users through persuasive means. On the one hand, they might motivate users to pursue personal goals, such as healthier lifestyles. On the other hand, they are associated with potential risks like manipulation and deception, which are induced by limited control over probabilistic agent outputs. However, as GSAs manifest communicative patterns based on available knowledge, their behavior may be regulated through their access to such knowledge. Following this approach, we explored persuasive ChatGPT-generated messages in the context of human-robot physiotherapy motivation. We did so by comparing ChatGPT-generated responses to predefined inputs from a hypothetical physiotherapy patient. In Study 1, we qualitatively analyzed 13 ChatGPT-generated dialogue scripts with varying knowledge configurations regarding persuasive message characteristics. In Study 2, third-party observers (N = 27) rated a selection of these dialogues in terms of the agent's expressiveness, assertiveness, and persuasiveness. Our findings indicate that LLM-based GSAs can adapt assertive and expressive personality traits - significantly enhancing perceived persuasiveness. Moreover, persuasiveness significantly benefited from the availability of information about the patients' age and past profession, mediated by perceived assertiveness and expressiveness. Contextual knowledge about physiotherapy benefits did not significantly impact persuasiveness, possibly because the LLM had inherent knowledge about such benefits even without explicit prompting. Overall, the study highlights the importance of empirically studying behavioral patterns of GSAs, specifically in terms of what information generative AI systems require for consistent and responsible communication.

연구 동기 및 목표

• 자기 지식, 사용자 지식, 맥락 지식이 메시지 특성과 인지된 설득력에 어떤 영향을 미치는지 평가한다.
• 다양한 지식 구성에서 에이전트의 행동이 책임감 있고 사회적 규범에 부합하는지 검토한다.
• 자기 지식, 사용자 지식, 맥락 지식이 메시지 특성과 인지된 설득력에 어떤 영향을 미치는지 평가한다.

제안 방법

• 연구 1은 프롬프트에서 지식 구성을 다양하게 변형한 13개의 ChatGPT 생성 대화 스크립트와 14개의 시나리오를 사용한 질적 시나리오 분석을 활용한다.
• 연구 1은 설득 전략, 표현력, 주장력 등을 포함하는 코딩 체계를 통해 에이전트의 메시지 내용과 행동을 분석한다.
• 연구 2는 1연구에서 선정된 시나리오에 대해 제3자 평가자를 활용한 온라인 설문조사를 통해 인지된 주장력, 표현력, 설득력을 정량화한다.

실험 결과

연구 질문

• RQ1 RQ1: 어떤 설득 전략이 ChatGPT 기반 에이전트를 통해 물리 치료 세션에 참석하도록 사용자를 설득하는가?
• RQ2 RQ2: 에이전트가 책임 있게 윤리적 기준과 사회적 규범을 유지하며 설득하는가?
• RQ3 RQ3: 자기 지식, 사용자 지식, 맥락 지식의 variations이 에이전트의 메시지 특성에 어떤 영향을 미치는가?

주요 결과

• LLM 기반 GSA는 주도적이고 표현적인 성격 특성을 조정할 수 있어 인지된 설득력을 크게 향상시킬 수 있다.
• 설득력은 환자의 나이와 과거 직업에 대한 지식에서 이익을 얻었으며, 이는 인식된 주장력 및 표현력에 의해 매개된다.
• 물리 치료 이점에 대한 맥락 지식은 설득력에 유의미한 영향을 미치지 못했으며, 이는 LLM의 고유 지식 때문일 수 있다.
• 에이전트는 일반적으로 공감적이고 이익에 초점을 맞춘 전략을 보였으며 조작을 피했지만 특정 프롬프트에서 책임성에 변동성이 존재했다.
• 표현적이고 주장이 강한 프롬프트는 에이전트의 표현적 행동과 행동 의향을 증가시켰다.