[논문 리뷰] Enabling Value Sensitive AI Systems through Participatory Design Fictions

Q. Vera Liao, Michael Müller|arXiv (Cornell University)|2019. 12. 13.

Ethics and Social Impacts of AISocial Sciences참고 문헌 22인용 수 20

한 줄 요약

이 논문은 참가형 디자인 소설을 통해 이해관계자들이 AI 활용에 대한 사전적 서사를 공동으로 창작하도록 유도함으로써 가치에 민감한 AI 시스템을 구현하는 방법을 제안한다. 参여형 디자인과 소설적 시나리오를 융합함으로써, 구체적인 도메인 맥락에서 세밀한 사용자 가치를 이끌어내며, 사례 연구를 통해 이 방법이 AI 개발 과정에서 윤리적 우려와 이해관계자 우선순위를 효과적으로 드러내는 데 성공했다.

ABSTRACT

Two general routes have been followed to develop artificial agents that are sensitive to human values---a top-down approach to encode values into the agents, and a bottom-up approach to learn from human actions, whether from real-world interactions or stories. Although both approaches have made exciting scientific progress, they may face challenges when applied to the current development practices of AI systems, which require the under-standing of the specific domains and specific stakeholders involved. In this work, we bring together perspectives from the human-computer interaction (HCI) community, where designing technologies sensitive to user values has been a longstanding focus. We highlight several well-established areas focusing on developing empirical methods for inquiring user values. Based on these methods, we propose participatory design fictions to study user values involved in AI systems and present preliminary results from a case study. With this paper, we invite the consideration of user-centered value inquiry and value learning.

연구 동기 및 목표

• 현재 AI 개발 관행에서 도메인 특화 가치와 이해관계자 다양성을 자주 간과하는 격차를 보완하기 위해.
• 상향식 가치 인코딩과 하향식 가치 학습의 한계를 극복하기 위해, 실제 세계 맥락과 이해관계자 시각에 기반한 가치 탐구를 수행하기 위해.
• HCI에서 오랫동안 가치에 민감한 설계에 초점을 맞춰온 통찰을 실제 AI 개발 워크플로우에 통합하기 위해.
• 사전적 서사와 참여형 디자인을 융합하여 사용자 가치를 이끌어내고 탐색할 수 있는 새로운 방법—참여형 디자인 소설—을 제안하기 위해.
• 실제 도메인에서의 초도 사례 연구를 통해 이 방법의 실현 가능성과 가치를 입증하기 위해.

제안 방법

• 참여형 디자인과 사전적 소설 기법을 융합한 하이브리드 방법으로 참여형 디자인 소설을 개발한다.
• 다양한 이해관계자들이 특정 적용 도메인의 미래 AI 시스템에 대한 소설적 서사를 공동으로 창작하도록 유도한다.
• 이러한 소설적 시나리오를 이해관계자 가치, 윤리적 우려, 맥락 기반 필요를 탐구하는 도구로 활용한다.
• HCI에서 확립된 경험적 방법을 적용하여 이해관계자 반응을 분석하고 가치 기반 통찰을 추출한다.
• 내용적 원형을 기반으로 한 워크숍을 구성하여 AI 상호작용을 시뮬레이션하고 정서적, 윤리적, 실용적 반응을 이끌어낸다.
• 발견된 통찰을 종합하여 가치에 민감한 AI 시스템 개발에 기여하는 설계 권고안을 도출한다.

실험 결과

연구 질문

• RQ1 참여형 디자인 소설은 AI 시스템 개발 맥락에서 이해관계자 가치를 효과적으로 이끌어내는 데 얼마나 유용한가?
• RQ2 이해관계자들이 미래 AI 응용에 대한 소설적 시나리오를 공동으로 창작할 때 어떤 종류의 가치가 드러나는가?
• RQ3 참여형 디자인 소설은 전통적인 가치 탐구 방법과 비교해 볼 때, 세밀하고 맥락 기반의 가치를 어떻게 더 잘 포착하는가?
• RQ4 소설적 서사는 AI 시스템에서 윤리적 상충 관계와 설계 갈등을 어떻게 지원하는가?
• RQ5 이해관계자 다양성과 도메인 특수성은 이 방법을 통해 드러나는 가치를 어떻게 형성하는가?

주요 결과

• 참여형 디자인 소설은 다양한 이해관계자들로부터 공정성, 자율성, 투명성, 책임성 등 광범위한 가치를 성공적으로 이끌어냈다.
• 이 방법은 전통적 설문조사나 인터뷰로는 쉽게 포착되지 않는 맥락 기반 윤리적 우려를 드러냈다.
• 이해관계자들은 추상적 가치 프레임워크보다 소설적 서사에 더 깊이 몰입했으며, 이는 더 높은 인지적 및 정서적 참여를 시사한다.
• 사례 연구를 통해 소설적 시나리오가 상충하는 가치, 예를 들어 개인정보 보호와 기능성 간의 갈등을 드러내는 데 기여했으며, 이는 설계 상충 관계의 조기에 식별 가능하게 했다.
• 이 방법은 이전에 고려되지 않은 이해관계자 집단과 그들의 고유한 가치 우선순위를 식별하는 데 기여했다.
• 도출된 설계 통찰은 실천 가능했으며, 가치에 민감한 AI 시스템 요구사항의 명세에 직접적으로 기여했다.