[논문 리뷰] Designing Conversational Robots with Children during the Pandemic

Thomas Beelen, Ella Velner외 4명|arXiv (Cornell University)|2022. 05. 23.

Social Robot Interaction and HRI인용 수 4

한 줄 요약

이 논문은 팬데믹 기간 동안 어린이의 정보 검색을 위한 대화형 로봇 설계에 대해 신뢰 동역학과 공동 설계(co-design)에 중점을 두고 연구한다. 영상 기반 상호작용이 어린이의 로봇에 대한 인식과 신뢰에 미치는 영향을 탐구하며, 의도적으로 신뢰할 수 없는 로봇이라도 높은 수준의 신뢰를 보이는 것으로 드러나며, 말 기반 신뢰 모니터링과 행동 간섭을 통해 과도한 신뢰를 완화하기 위한 '감지-고려-행동' 루프를 제안한다.

ABSTRACT

Our research project (CHATTERS) is about designing a conversational robot for children's digital information search. We want to design a robot with a suitable conversation, that fosters a responsible trust relationship between child and robot. In this paper we give: 1) a preliminary view on an empirical study around children's trust in robots that provide information, which was conducted via video call due to the COVID-19 pandemic. 2) We also give a preliminary analysis of a co-design workshop we conducted, where the pandemic may have impacted children's design choices. (3) We close by describing the upcoming research activities we are developing.

연구 동기 및 목표

• 10~12세 어린이가 책임감 있고 신뢰할 수 있는 정보 검색을 지원할 수 있는 대화형 로봇을 설계하기.
• 코로나19 팬데믹이 어린이의 기대, 신뢰도 및 로봇과의 상호작용 선호도에 미친 영향을 조사하기.
• 말 분석과 적응형 로봇 행동을 통해 과도한 신뢰를 감지하고 감소시키는 '감지-고려-행동' 루프를 개발하기.
• 어린이와의 공동 설계를 통해 원격 학습 기간 동안의 동반성과 이동성과 같은 핵심 설계 우선순위를 식별하기.
• 기존의 질의-응답 모델과 비교하여 대화형 검색의 사용성과 참여도를 평가하기

제안 방법

• 신뢰할 수 있는 로봇과 신뢰할 수 없는 로봇을 대상으로 30명의 어린이(10~12세)가 영상 통화 기반으로 상호작용하는 실증 연구를 수행하여 질문지와 인터뷰를 통해 신뢰도, 호감도, 전문성 수준을 측정하였다.
• 로봇의 신뢰성, 온라인 정보, 음성 보조기기 사용에 대한 어린이의 견해를 수집하기 위해 준구조화된 인터뷰를 실시하였으며, 말의 패턴을 신뢰의 지표로 삼았다.
• 팬데믹로 인한 제약 상황을 고려해 원격 협업 도구와 워크시트를 활용해 어린이들과 함께 공동 설계 워크숍을 진행하였다.
• 향후 연구로 역할 기반 상호작용(요청자/중개자)을 포함한 쌍방향 검색 과제를 수행하여 SCoSAS 주석 체계를 활용해 대화 패턴을 분석할 계획이다.
• 대화형 검색 중 어린이의 의미적 정보 요구를 더 풍부하게 이끌어내기 위해 규칙 기반 알고리즘을 설계하여 후속 질문을 생성하였다.
• 로봇이 말을 통해 신뢰를 감지하고, 과도한 신뢰 여부를 평가하며, 행동을 조정해 신뢰 수준을 낮추는 '감지-고려-행동' 루프를 제안하였다.

실험 결과

연구 질문

• RQ1 팬데믹 기간 동안 영상 기반 상호작용이 어린이의 로봇 신뢰성 인식과 정보 검색을 위한 로봇 사용 의지에 어떤 영향을 미치는가?
• RQ2 로봇이 온라인 정보의 신뢰성을 어떻게 다뤄야 할지 어린이들의 기대는 무엇이며, 현재의 음성 보조기기 사용과 비교해 봤을 때 어떻게 다를까?
• RQ3 의도적으로 신뢰할 수 없도록 설계된 로봇이라도 어린이들이 얼마나 과도한 신뢰를 보이는가? 이러한 현상은 말의 패턴을 통해 감지할 수 있는가?
• RQ4 의미적 풍부함과 사용자 경험 측면에서 대화형 검색 상호작용은 기존의 질의-응답 모델과 어떻게 다를까?
• RQ5 어린이들이 정보 검색을 위한 로봇에서 어떤 설계 기능을 우선시하는가? 이러한 우선순위는 팬데믹 기반 원격 학습 경험에 의해 어떻게 형성되었는가?

주요 결과

• 신뢰할 수 있는 로봇과 신뢰할 수 없는 로봇 양자 모두에서 어린이들이 높은 수준의 신뢰를 보였으며, 이는 로봇의 신뢰성 조작이 의도한 행동적 대비를 이끌어내기에는 부족했다는 것을 시사한다.
• 어린이들은 이동 기능이 있는 로봇을 선호했으며, 이는 팬데믹 기간 동안 장기적인 원격 학습으로 인해 동반성의 중요성이 강조된 결과로 보인다.
• 어린이들은 로봇이 정보를 검증하기 위해 유명한 웹사이트를 참조하거나 여러 출처를 비교하도록 해야 한다고 제안했으며, 이는 가짜 뉴스 위험에 대한 인식이 있음을 보여준다.
• 공동 설계 과정에서 상호작용이 너무 공식적이거나 유머가 없을 경우 어린이들의 참여가 감소하는 것으로 나타났으며, 이는 멤에이트 같은 놀이 요소가 참여도 향상에 기여할 수 있음을 시사한다.
• 상호작용에서의 말 데이터 분석 결과, 어린이의 언어에서 신뢰 지표를 추출할 수 있었으며, 이는 실시간 신뢰 모니터링을 위한 말 분석의 타당성을 뒷받침한다.
• 어린이들은 영상 통화 상호작용이 직접 대면 만남만큼은 개인적인 느낌이 없었다고 보고했지만, 형식에 적응한 것으로 보아 원격 로봇 상호작용에 더 풍부한 비언어적 신호가 필요하다는 점을 시사한다.