[论文解读] Inclusive Child-centered AI: Employing design futuring for Inclusive design of inclusive AI by and with children in Finland and India

Sumita Sharma, Netta Iivari+3 more|arXiv (Cornell University)|Apr 17, 2023

Innovative Human-Technology Interaction被引用 5

一句话总结

本文提出了一种以儿童为中心的包容性人工智能设计方法，通过在芬兰和印度与学生共同开展设计未来（design futuring）实践，协同开发具有伦理、公平与包容性的AI应用。通过引导儿童构想未来的AI系统，研究展示了参与式设计如何通过青年主导的批判性反思与创意原型设计促进包容性，从而为实现公平AI发展提供可操作的洞察。

ABSTRACT

Children increasingly use applications utilizing Artificial Intelligence / Machine Learning (AI/ML). Given the propensity of such applications to propagate existing social, gender, and racial biases, it becomes imperative to consider designing and developing child-centered AI applications for children. Furthermore, children should have opportunities and skills to critically reflect on current applications and envision and design better AI/ML applications that are ethical, specifically, those that are inclusive and fair. In our work, we focus on child-centered AI and inclusion. Using a two-fanged approach to inclusion and employing design futuring in our research with schools in India and Finland, children critically considered future technology design for all. In this paper, we present three cases of this work: a study with students at a school in New Delhi and two studies with students at schools in Oulu. Our work showcases how to design for inclusion - by designing for all, and how to design inclusively - by inviting children to envision the future, through design futuring approaches.

研究动机与目标

• 通过将儿童置于设计过程的核心，解决儿童应用中偏见AI带来的伦理风险。
• 探究儿童如何批判性反思当前的AI系统，并共同设计更具包容性、公平与伦理的未来AI。
• 通过参与式方法，开发并测试双重包容性策略——面向所有人设计与包容性设计。
• 考察设计未来如何赋能儿童构想并原型化公平且具代表性的未来AI系统。
• 通过在不同文化背景（芬兰与印度）的儿童共同参与，生成可操作的包容性AI设计原则。

提出的方法

• 在芬兰奥卢和印度新德里的学校中开展设计未来工作坊，与学生共同参与。
• 运用推测性设计技术，引导儿童构想未来5至10年内的AI应用。
• 组织参与式设计环节，让学生创作包容性AI系统的原型与叙事。
• 在设计过程中融入对现有AI偏见（如性别、种族、社会层面）的批判性反思。
• 采用双重包容性焦点：面向所有人设计（普遍可及性）与包容性设计（在共同创造中纳入多元声音）。
• 收集并分析学生生成的成果（草图、故事、原型），以提取设计洞察与价值取向。

实验结果

研究问题

• RQ1 儿童如何批判性反思当前的AI应用，并构想出更具包容性与伦理性的未来AI系统？
• RQ2 哪些设计方法能够使儿童共同创建反映多元价值观与需求的AI原型？
• RQ3 当儿童作为设计过程的积极参与者时，设计未来如何支持包容性AI的发展？
• RQ4 芬兰与印度儿童对未来AI的构想在哪些方面存在异同？
• RQ5 如何在以儿童为中心的AI设计中实现‘面向所有人设计’与‘包容性设计’的双重策略？

主要发现

• 芬兰与印度的儿童均提出了多样化、情境敏感的未来AI愿景，强调公平、可及性与伦理责任。
• 设计未来使儿童得以超越当前AI的局限，提出解决偏见、包容性与社会公平问题的系统构想。
• 奥卢与新德里的学生创作了具体原型与叙事，反映出AI期望与价值观在文化与情境上的差异。
• ‘面向所有人设计’与‘包容性设计’的双重策略有效捕捉了广泛的需求与多元视角。
• 儿童在AI伦理方面的批判性思维能力表现突出，尤其体现在代表性、同意权与算法公平性方面。
• 该过程表明，儿童并非被动用户，而是当获得结构化、创造性的工具时，完全具备作为伦理与包容性AI共同设计者的潜力。