[논문 리뷰] Peril v. Promise: IoT and the Ethical Imaginaries

Funda Ustek‐Spilda, Alison Powell외 2명|arXiv (Cornell University)|2019. 06. 25.

Ethics and Social Impacts of AI참고 문헌 9인용 수 4

한 줄 요약

이 논문은 런던, 암스테르담, 바르셀로나, 벨그레드에서 수행된 민족학적 현장 조사를 통해 유럽의 사물인터넷(IoT) 개발자들이 마주하는 윤리적 과제를 다룬다. 기존의 상향식 윤리적 프레임워크와 해법 중심 접근 방식이 개발자들의 현장적 현실을 충분히 반영하지 못함을 지적하며, 윤리적 상상력의 개념을 개발자의 실천적 경험과 맥락에 기반한 방식으로 재구성하여 사물인터넷 설계 및 구현에서의 위험 대 잠재력 이분법을 넘어서야 한다고 주장한다.

ABSTRACT

The future scenarios often associated with Internet of Things (IoT) oscillate between the peril of IoT for the future of humanity and the promises for an ever-connected and efficient future. Such a dichotomous positioning creates problems not only for expanding the field of application of the technology, but also ensuring ethical and responsible design and production. As part of VirtEU (Values and Ethics in Innovation for Responsible Technology in Europe) (EU Horizon 2020 FP7), we have conducted ethnographic research into the main hubs of IoT in Europe, such as London, Amsterdam, Barcelona and Belgrade, with developers and designers of IoT to identify the challenges they face in their day-to-day work. In this paper, we focus on the IoT and the ethical imaginaries explore the practical challenges IoT developers face when they are designing, producing and marketing IoT technologies. We argue that top-down ethical frameworks that overlook the situated capabilities of developers or the solutionist approaches that treat ethical issues as technical problems are unlikely to provide an alternative to the dichotomous imaginary for the future.

연구 동기 및 목표

• 주요 유럽 기술 허브의 사물인터넷 개발자들과 디자이너들이 일상 업무에서 윤리적 과제를 어떻게 다루는지 조사하기.
• 사물인터넷 논의에서 지나치게 단순화된 '위험 대 잠재력' 이분법을 비판하기.
• 개발자들의 업무 환경에서 실천적이고 현장 기반의 현실을 간과하는 상향식 윤리적 프레임워크를 비판하기.
• 개발자의 실제 경험과 맥락 기반 능력에서 비롯된 대안적 윤리적 설계 접근 방식을 제안하기.
• 추상적 원칙이 아닌 사물인터넷 개발의 실제 실천에 기반한 윤리 기반 책임감 있는 혁신 기여하기.

제안 방법

• 런던, 암스테르담, 바르셀로나, 벨그레드의 네 곳의 사물인터넷 혁신 허브에서 민족학적 현장 조사 수행.
• 개발자들과 디자이너들과의 깊이 있는 인터뷰 및 일상적인 설계 및 생산 과정 관찰을 통해 소통.
• 윤리적 우려가 실제 개발 맥락에서 어떻게 이해되고, 어떻게 협상되고, 어떻게 실행되는지 파악하기 위해 내러티브와 실천 분석.
• 우주적 사물인터넷 비전(유토피아적 또는 디스토피아적)과 실천에서 나타나는 실용적이고 맥락 기반 윤리의 갈등 탐색.
• 비판적 담론 분석을 통해 '위험 대 잠재력' 이분법을 해체하고, 그 한계가 윤리적 혁신을 이끌 때의 제약을 드러내기.
• 지침 기반 윤리 프레임워크에서 벗어나 개발자의 맥락 기반, 신체적, 협업 기반 실천에 기반한 윤리로의 전환 제안.

실험 결과

연구 질문

• RQ1 유럽의 사물인터넷 개발자들은 일상적인 설계 및 생산 과정에서 윤리 문제를 어떻게 이해하고 협상하는가?
• RQ2 '위험 대 잠재력'이라는 주류 서사가 사물인터넷 개발의 윤리적 의사결정을 어떻게 제한하는가?
• RQ3 왜 상향식 윤리 프레임워크는 실제 사물인터넷 개발 맥락에서 책임감 있는 혁신을 지원하지 못하는가?
• RQ4 사물인터넷 개발자의 맥락 기반 실천에서 어떻게 윤리적 상상력이 탄생하며, 기존의 기관적 윤리 모델과 어떻게 다를까?
• RQ5 개발자의 실천적, 협업적, 맥락 민감한 현실을 반영하기 위해 사물인터넷의 윤리적 설계는 어떻게 재구상되어야 하는가?

주요 결과

• 개발자들은 종종 개인정보, 감시, 데이터 거버넌스 관련 윤리적 딜레마를 겪지만, 이러한 문제들은 흔히 추상적인 용어로 표현되지 않는다.
• '위험 대 잠재력' 서사는 공적 및 정책 논의를 지배하지만, 이는 개발자들이 매일 실천하는 다층적이고 실용적인 윤리와는 맞지 않는다.
• 상향식 윤리 프레임워크는 개발 업무의 현실에서 벗어나 있어 보이므로, 이에 대한 무관심 또는 표면적 준수로 이어진다.
• 윤리적 결정은 흔히 공식적 규범 준수보다는 비공식적이고 협업적이며 맥락 특화된 실천 방식을 통해 이루어진다.
• 개발자들은 팀 분위기, 프로젝트 제약 조건, 이해관계자 간 상호작용를 통해 지역적 윤리적 상상력을 형성하지만, 이러한 요소들은 기관 모델에서 간과된다.
• 사물인터넷 개발의 맥락 기반, 협업적, 반복적인 성격을 반영하고 지원하는 윤리적 프레임워크의 필요성이 명확히 드러나 있다.