[논문 리뷰] Towards a New Participatory Approach for Designing Artificial Intelligence and Data-Driven Technologies

Soaad Hossain, Syed Ishtiaque Ahmed|arXiv (Cornell University)|2021. 03. 30.

Innovative Human-Technology Interaction참고 문헌 10인용 수 8

한 줄 요약

이 논문은 반복적 개발과 포괄적인 지역사회 참여를 융합한 AI 및 데이터 기반 기술에 특화된 새로운 참가형 설계 방법인 민첩한 참가형 설계(APD)를 제안한다. 기존 참가형 설계의 기술적 및 윤리적 맥락에서의 한계를 해결함으로써, APD는 소외된 공동체가 적응형이고 인간 중심적인 과정을 통해 AI 시스템을 공동으로 설계할 수 있도록 하여 보다 공정하고 맥락에 맞는 기술을 만들어내는 데 기여한다.

ABSTRACT

With there being many technical and ethical issues with artificial intelligence (AI) that involve marginalized communities, there is a growing interest for design methods used with marginalized people that may be transferable to the design of AI technologies. Participatory design (PD) is a design method that is often used with marginalized communities for the design of social development, policy, IT and other matters and solutions. However, there are issues with the current PD, raising concerns when it is applied to the design of technologies, including AI technologies. This paper argues for the use of PD for the design of AI technologies, and introduces and proposes a new PD, which we call agile participatory design, that not only can could be used for the design of AI and data-driven technologies, but also overcomes issues surrounding current PD and its use in the design of such technologies.

연구 동기 및 목표

• 소외된 공동체에 비례적으로 영향을 미치는 AI 설계의 윤리적 및 기술적 과제를 해결하기 위해.
• 참가형 설계(PD)가 AI 및 데이터 기반 기술에 적용되었을 때의 현재 한계를 규명하기 위해.
• 이러한 한계를 극복하는 새로운 설계 프레임워크인 민첩한 참가형 설계(APD)를 제안하기 위해.
• 소외된 이해관계자들과 함께 포용적이고 반복적이며 맥락 민감한 AI 시스템 공동 설계를 가능하게 하기 위해.

제안 방법

• 민첩한 소프트웨어 개발 방법론의 반복적·점진적인 특성에 맞게 참가형 설계 원칙을 적응시킨다.
• 문제 정의에서 배포에 이르기까지 AI 시스템 개발 전 단계에 걸쳐 공동체 이해관계자를 통합한다.
• 지속적인 피드백 루프를 통해 끊임없는 공동체 참여와 공동체 가치에 부합하는 개발을 보장하기 위해 짧은 개발 사이클을 사용한다.
• 권력 분산과 능력 강화를 강조하여 소외된 참가자가 기술적 의사결정에 영향을 미칠 수 있도록 한다.
• 사용자-컴퓨터 상호작용(HCI) 관행과 AI 윤리, 비판적 사회이론을 융합하여 설계 과정을 이끌어낸다.
• 소외된 공동체와의 워크숍 및 공동 설계 세션을 통해 실제 현장에서 방법을 적용한다.

실험 결과

연구 질문

• RQ1 참가형 설계는 어떻게 AI 및 데이터 기반 기술 개발의 기술적·윤리적 요구를 충족시키기 위해 적응시킬 수 있는가?
• RQ2 기존의 참가형 설계가 AI 시스템에 적용되었을 때의 핵심 한계는 무엇인가?
• RQ3 민첩한 개발 관행은 AI 공동 설계에서 포용성과 공정성을 어떻게 향상시킬 수 있는가?
• RQ4 소외된 공동체는 표면적인 자문을 넘어서 AI 시스템 설계에 어떻게 의미 있는 방식으로 참여할 수 있는가?
• RQ5 참가형 설계가 AI 기술에 효과적으로 기능하기 위해 필요한 구조적 및 절차적 변화는 무엇인가?

주요 결과

• 민첩한 참가형 설계(APD)는 공동체의 의견을 AI 시스템 기술 개발 주기 전반에 통합하여 지속적인 관련성과 윤리적 일치를 보장한다.
• 이 방법은 공동체가 요구사항뿐 아니라 기술적 트레이드오프와 시스템 동작 방식에도 영향을 미칠 수 있도록 한다.
• 결정 권한을 공동체 구성원과 개발자 간에 분산시킴으로써 권력 격차를 줄인다.
• 지속적인 피드백을 통한 반복적 개선을 지원함으로써 시스템의 공정성과 사용성 향상을 이룬다.
• APD를 적용한 공동 설계 세션은 기존에 간과되었던 윤리적 리스크와 맥락적 제약 조건을 식별하는 데 기여했다.
• 특히 헬스케어 및 사회복지와 같은 사회적으로 민감한 분야에서, 이 프레임워크는 실현 가능성과 확장성을 입증했다.