[논문 리뷰] Understanding Parents' Desires in Moderating Children's Interactions with GenAI Chatbots through LLM-Generated Probes

John Driscoll, Yulin Chen외 4명|arXiv (Cornell University)|2026. 03. 04.

AI in Service Interactions인용 수 0

한 줄 요약

본 논문은 부모가 자녀-GenAI 챗봇 상호작용을 어떻게 조절하고 싶은지 조사하며, LLM이 생성한 시나리오를 사용해 24명의 부모로부터 우려, 중재 선호 및 투명성 요구를 이끌어낸다.

ABSTRACT

This paper studies how parents want to moderate children's interactions with Generative AI chatbots, with the goal of informing the design of future GenAI parental control tools. We first used an LLM to generate synthetic child-GenAI chatbot interaction scenarios and worked with four parents to validate their realism. From this dataset, we carefully selected 12 diverse examples that evoked varying levels of concern and were rated the most realistic. Each example included a prompt and a GenAI chatbot response. We presented these to parents (N=24) and asked whether they found them concerning, why, and how they would prefer the responses to be modified and communicated. Our findings reveal three key insights: (1) parents express concern about interactions that current GenAI chatbot parental controls neglect; (2) parents want fine-grained transparency and moderation at the conversation level; and (3) parents need personalized controls that adapt to their desired strategies and children's ages.

연구 동기 및 목표

• Child–GenAI Chatbot 상호작용에서 부모의 우려를 촉발하는 요인을 식별한다.
• 연령에 적합하고 안전하며 가치에 맞는 상호작용을 위해 부모가 원하는 중재 전략을 이해한다.
• 부모의 투명성 선호도와 그들이 어떻게 참여하기를 원하는지 특성화한다.

제안 방법

• LLM으로 합성된 Child–GenAI Chatbot 상호작용 시나리오를 생성하고 부모와의 타당성을 검증한다.
• 반복 필터링 및 부모 검증을 통해 다양한 시나리오를 선택한다.
• 선정된 12개 시나리오를 사용하여 24명의 부모를 대상으로 준 구조화된 인터뷰를 수행해 우려, 중재 필요 및 투명성 선호를 이끌어낸다.
• 인터뷰 녹취록에 주제 분석을 적용해 높은 수준의 주제를 도출한다.

Figure 1 . We ➀ presented 12 simulated GenAI Chatbot scenarios to 24 parents and ➁ asked whether they found them concerning, why, and how they would prefer to modify the responses and be informed. Our analysis identifies the factors parents found concerning which includes ➂ types of questionable res

실험 결과

연구 질문

• RQ1 RQ1: Child–GenAI Chatbot 상호작용에서 부모의 우려를 촉발하는 요인은 무엇인가?
• RQ2 RQ2: 부모는 자녀의 GenAI 챗봇과의 상호작용을 어떻게 중재하고 싶은가?
• RQ3 RQ3: 자녀의 GenAI 챗봇과의 상호작용에 대한 부모의 투명성 선호도는 무엇인가?

주요 결과

• 부모의 우려는 두 그룹에 집중된다: 의심스러운 GenAI 챗봇 응답과 의심스러운 자녀 프롬프트.
• 부모는 대화 차원의 미세 조정으로 세부적 중재를 원하며 목표로 연령에 적합한 언어, 오해 수정, 인간 지원으로의 이관 등을 포함한다.
• 투명성 선호도는 참여와 데이터-콘텐츠 접근성에 군집되며, 많은 부모가 표시된 활동에 대한 실시간 경고를 원한다.
• 부모는 자녀의 연령과 가족 가치에 맞게 발전적으로 적응하는 개인화된, 발달에 적합한 중재를 추구한다.
• 인터뷰는 챗봇이 부모의 안전과 발달에 대한 지속적인 역할을 지원하는 중재자로 작동해야 한다고 시사한다.

Figure 2 . Our study procedure. We design, generate, select, and present realistic scenarios to parents as probes in semi-structured interviews, then analyze parents’ responses.