[논문 리뷰] Three Lessons from Citizen-Centric Participatory AI Design

Eike Schneiders, Sarah Kiden외 6명|arXiv (Cornell University)|2026. 02. 09.

Ethics and Social Impacts of AI인용 수 0

한 줄 요약

이 워크숍 논문은 세 차례의 참여 워크숍에서 시민 중심 AI 설계의 세 가지 핵심 과제를 식별하고, 입력을 실행 가능한 AI 시스템으로 전환하기 위한 반성적이고 장기적인 공개 참여를 옹호한다.

ABSTRACT

This workshop paper examines challenges in designing agentic AI systems from a citizen-centric perspective. Drawing on three participatory workshops conducted in 2025 with members of the general public and cross-sector stakeholders, we explore how societal values and expectations shape visions of future AI agents. Using constructive design research methods, participants engaged in storytelling and lo-fi prototyping to reflect on potential community impacts. We identify three key challenges: enabling meaningful and sustained public engagement, establishing a shared language between experts and lay participants, and translating speculative participant input into implementable systems. We argue that reflexive, long-term participation is essential for responsible and actionable citizen-centric AI development.

연구 동기 및 목표

• 시민 중심 관점에서 주체적 AI 시스템 설계의 도전을 검토한다.
• 사회의 가치가 미래의 AI 에이전트 비전에 어떻게 영향을 미치는지 이해한다.
• 커뮤니티 영향 반영을 이끌어내기 위한 참여 방법(스토리텔링, 로파이 프로토타이핑)을 시연한다.
• 참가자 입력을 실행 가능한 AI 시스템으로 전환하는 경로를 규명한다.

제안 방법

• 일반 대중 구성원과 부문 간 이해관계자를 대상으로 2025년에 실시된 세 차례의 참여형 워크숍.
• 스토리텔링과 로파이 프로토타이핑을 포함한 구성적 디자인 연구 방법.
• 참가자들은 잠재적 커뮤니티 영향과 에이전트를 맥락화하기 위한 산출물과 서사를 만들었다.
• 워크숍 3은 전문가와 산출물을 연결하여 실행 가능성, 요구사항 및 일정(2025–2035)을 평가했다.
• 연구자 편향을 완화하기 위한 다양한 구성과 반성성을 강조한다.

Figure 1. Impressions from participants’ lo-fi prototypes of AI agents created during participatory WS1/WS2.

실험 결과

연구 질문

• RQ1 시민 중심 AI 설계에서 의미 있고 지속 가능한 공공 참여의 도전 과제는 무엇인가?
• RQ2 전문가와 일반 참가자가 AI 개념과 시사점을 이해하기 위한 공유 언어를 어떻게 구축할 수 있는가?
• RQ3 참가자의 추정적 입력을 실행 가능하고 구현 가능한 AI 시스템으로 어떻게 전환할 수 있는가?

주요 결과

• 세 가지로 식별된 과제: 의미 있는 참여, 공유된 언어, 그리고 입력을 구현 가능한 시스템으로 전환하는 것.
• 장기적 참여는 모집, 대표성, 인센티브를 넘어 참가자 혜택을 보장하는 문제로 인해 어렵다.
• 전문가와 일반 참가자 간의 언어 차이가 있어 AI 개념과 시사점의 상호 이해를 저해한다.
• WS1/WS2의 산출물은 실행 가능한 설계 방향으로 전환되기 위해 실현 가능성 연구와 이해관계자 피드백 루프를 포함한 체계적 경로가 필요하다.
• 연구자 편향을 관리하고 특정 시각으로 참가자들을 유도하는 것을 피하기 위해 반성성은 필수적이다.
• 참가자 비전을 기술적 제약, 윤리적 고려사항 및 사회적 필요에 매핑하는 체계적 접근은 추상적 아이디어와 실용적 개발을 잇는 다리가 될 수 있다.