[论文解读] UNICEF Guidance on AI for Children: Application to the Design of a Social Robot For and With Autistic Children

Séverin Lemaignan, Nigel Newbutt+3 more|arXiv (Cornell University)|Aug 27, 2021

Autism Spectrum Disorder Research参考文献 37被引用 7

一句话总结

本研究将联合国儿童基金会（UNICEF）的九项儿童人工智能指南应用于自闭症儿童特殊教育学校中社交机器人（软银Pepper）的参与式设计与部署。在为期三周的实验中，机器人通过个性化互动支持了儿童的幸福感，观察到强烈的感情依恋——表明以儿童为中心、基于伦理的人工智能设计可增强情感参与度，并支持神经多样性人群的可持续发展目标。

ABSTRACT

For a period of three weeks in June 2021, we embedded a social robot (Softbank Pepper) in a Special Educational Needs (SEN) school, with a focus on supporting the well-being of autistic children. Our methodology to design and embed the robot among this vulnerable population follows a comprehensive participatory approach. We used the research project as a test-bed to demonstrate in a complex real-world environment the importance and suitability of the nine UNICEF guidelines on AI for Children. The UNICEF guidelines on AI for Children closely align with several of the UN goals for sustainable development, and, as such, we report here our contribution to these goals.

研究动机与目标

• 评估联合国儿童基金会（UNICEF）的儿童人工智能指南在自闭症儿童真实世界社交机器人应用中的适用性。
• 通过人机互动，支持特殊教育需求（SEN）学校环境中自闭症儿童的情感福祉与参与度。
• 融入参与式设计原则，确保自闭症儿童及利益相关方共同定义机器人的角色与行为。
• 考察机器人长期存在对自闭症儿童情感与行为影响，超越初期新奇效应的范围。
• 通过负责任的人工智能在教育中的应用，为联合国可持续发展目标3（良好健康与福祉）和4（优质教育）做出贡献。

提出的方法

• 在英国的一所特殊教育需求学校部署软银Pepper机器人13天，将其整合进日常课堂流程。
• 通过自闭症儿童、教师、家长及一名自闭症成年人共同参与，开展参与式设计，共创机器人的行为与互动方式。
• 将机器人功能与联合国儿童基金会（UNICEF）的九项儿童人工智能原则保持一致，包括公平性、福祉与儿童参与。
• 每日与教师进行复盘会议，监测情感与行为影响，并根据需要调整机器人行为。
• 采用多模态沟通方式（如PECS、口头表达、非语言信号）以包容非言语及神经多样性参与者。
• 收集学生、家长和教职员工的定性反馈，以评估情感参与度与福祉结果。

实验结果

研究问题

• RQ1 联合国儿童基金会（UNICEF）的儿童人工智能指南在自闭症儿童社交机器人设计与部署中如何实现实际应用？
• RQ2 在校园环境中，长期社交机器人互动对自闭症儿童的情感与行为影响如何？
• RQ3 如何通过参与式设计有效纳入自闭症儿童及利益相关方，以塑造机器人的行为与功能？
• RQ4 机器人互动在初始新奇效应之后，多大程度上能持续支持福祉与参与度？
• RQ5 在为神经多样性儿童设计人工智能系统时，会面临哪些伦理挑战，又该如何主动管理？

主要发现

• 联合国儿童基金会（UNICEF）的儿童人工智能指南为在脆弱情境下设计与部署社交机器人提供了坚实且实用的伦理与实践框架。
• 一名自闭症学生表现出课堂参与度提升，滞留走廊的时间减少，表明其行为出现积极转变，与机器人互动密切相关。
• 一名儿童对机器人产生了强烈的情感依恋，机器人被移除后表现出悲伤情绪，家长反映机器人已成为其每日的亮点。
• 机器人存在与情绪调节及福祉提升相关，尤其在与儿童特殊兴趣相契合时更为显著。
• 教师与工作人员报告称，机器人的整合未干扰教学，只要管理得当，便被认为具有积极影响。
• 本研究证明，以儿童为中心的参与式设计可带来更具意义且伦理更健全的人工智能应用，尤其适用于神经多样性人群。