[논문 리뷰] Inclusive Child-centered AI: Employing design futuring for Inclusive design of inclusive AI by and with children in Finland and India

Sumita Sharma, Netta Iivari외 3명|arXiv (Cornell University)|2023. 04. 17.

Innovative Human-Technology Interaction인용 수 5

한 줄 요약

이 논문은 핀란드와 인도의 학생들과 함께 설계 미래화(Design Futuring)를 활용하여 아동 중심의 포용적 AI 설계 접근법을 제시한다. 이는 윤리적이고 공정하며 포용적인 AI 애플리케이션을 공동으로 개발하기 위한 것이다. 어린이들이 미래의 AI 시스템을 상상함으로써, 참가형 설계가 청소년 주도의 비판적 성찰과 창의적 프로토타이핑을 통해 포용성을 증진시키는 방식으로, 공정한 AI 개발을 위한 실천 가능한 통찰을 이끌어낸다.

ABSTRACT

Children increasingly use applications utilizing Artificial Intelligence / Machine Learning (AI/ML). Given the propensity of such applications to propagate existing social, gender, and racial biases, it becomes imperative to consider designing and developing child-centered AI applications for children. Furthermore, children should have opportunities and skills to critically reflect on current applications and envision and design better AI/ML applications that are ethical, specifically, those that are inclusive and fair. In our work, we focus on child-centered AI and inclusion. Using a two-fanged approach to inclusion and employing design futuring in our research with schools in India and Finland, children critically considered future technology design for all. In this paper, we present three cases of this work: a study with students at a school in New Delhi and two studies with students at schools in Oulu. Our work showcases how to design for inclusion - by designing for all, and how to design inclusively - by inviting children to envision the future, through design futuring approaches.

연구 동기 및 목표

• 아동용 애플리케이션에서 편향된 AI의 윤리적 위험을 줄이기 위해 설계 과정에서 아동을 중심에 두는 것.
• 어린이가 현재의 AI 시스템을 비판적으로 성찰하고 더 포용적이고 공정하며 윤리적인 미래의 AI를 공동 설계할 수 있는 방법을 탐구하는 것.
• 참여형 방법을 통해 '모든 이에게 설계하기'와 '포용적으로 설계하기'라는 이중 접근법을 개발하고 테스트하는 것.
• 설계 미래화가 아동이 공정하고 대표성이 있는 미래의 AI 시스템을 상상하고 프로토타이핑하는 데 어떻게 기여할 수 있는지 살펴보는 것.
• 다양한 문화적 배경(핀란드와 인도)에서 아동이 함께하고 아동 중심의 포용적 AI를 위한 실천 가능한 설계 원칙을 도출하는 것.

제안 방법

• 핀란드 오울루와 인도 뉴델리의 학교 학생들을 대상으로 설계 미래화 워크숍을 실시하였다.
• 5~10년 후의 미래 AI 응용 프로그램을 상상하게 하기 위해 사전적 설계 기법을 사용하였다.
• 어린이들이 포용적인 AI 시스템의 프로토타입과 서사를 제작할 수 있도록 참가형 설계 세션을 진행하였다.
• 설계 과정 중 기존의 AI 편향(예: 성별, 인종, 사회적 편향)에 대한 비판적 성찰을 통합하였다.
• 포용성에 대한 이중적 초점을 적용: 모든 이에게 설계하기(일반적 접근성)와 다양한 목소리가 공동 창작에 참여하는 포용적 설계.
• 학생들이 생성한 자료(스케치, 이야기, 프로토타입)를 수집하고 분석하여 설계 통찰과 가치를 도출하였다.

실험 결과

연구 질문

• RQ1 어린이가 현재의 AI 애플리케이션을 비판적으로 성찰하고 더 포용적이고 윤리적인 미래의 AI 시스템을 어떻게 상상할 수 있는가?
• RQ2 어떤 설계 방법이 어린이가 다양한 가치와 필요를 반영한 AI 프로토타입을 공동 설계할 수 있도록 돕는가?
• RQ3 설계 미래화가 어린이가 설계 과정의 주도적 참여자로 활동할 때 포용적인 AI 개발을 어떻게 지원하는가?
• RQ4 핀란드와 인도의 어린이들이 향후 AI에 대해 그려내는 비전에서 나타나는 유사점과 차이점은 무엇인가?
• RQ5 '모든 이에게 설계하기'와 '포용적으로 설계하기'라는 이중 접근법이 아동 중심의 AI 설계에서 어떻게 실천될 수 있는가?

주요 결과

• 핀란드와 인도의 어린이들은 공정성, 접근성, 윤리적 책임을 강조하는 다양한, 맥락에 민감한 미래 AI 비전을 제시하였다.
• 설계 미래화를 통해 어린이들은 현재의 AI 한계를 넘어, 편향, 포용성, 사회적 형평성을 다루는 시스템을 제안할 수 있었다.
• 오울루와 뉴델리의 학생들은 문화적·맥락적 차이를 반영한 AI 기대치와 가치에 대한 구체적인 프로토타입과 서사를 제작하였다.
• '모든 이에게 설계하기'와 '포용적으로 설계하기'라는 이중 접근법은 다양한 요구와 시각을 포괄하는 데 효과적이었다.
• 어린이들은 표현, 동의, 알고리즘의 공정성과 관련하여 AI 윤리에 대해 높은 수준의 비판적 사고 능력을 보였다.
• 이 과정을 통해 어린이들이 수동적인 사용자가 아니라, 체계적인 창의적 도구가 제공될 경우 윤리적이고 포용적인 AI의 공동 설계자로 기여할 수 있음을 확인하였다.