[논문 리뷰] Ensuring Responsible Outcomes from Technology

Aaditeshwar Seth|arXiv (Cornell University)|2019. 07. 07.

ICT in Developing Communities참고 문헌 34인용 수 6

한 줄 요약

이 논문은 인도의 농촌 지역에서 운영된 음성 기반 모바일 플랫폼에 대한 사례 연구를 제시하며, 실제 현장 구현에서 발생하는 사회기술적 복잡성의 문제를 해결하기 위해 사전적 거버넌스가 필요하다는 점을 입증한다. 연구는 기술 개발자와 연구자가 공정한 결과를 이끌어내기 위해 책임을 지고 기술을 설계해야 한다고 주장하며, 기술 개발 과정에 윤리적 책임을 통합하기 위한 기관적 구조를 제안한다.

ABSTRACT

We attempt to make two arguments in this essay. First, through a case study of a mobile phone based voice-media service we have been running in rural central India for more than six years, we describe several implementation complexities we had to navigate towards realizing our intended vision of bringing social development through technology. Most of these complexities arose in the interface of our technology with society, and we argue that even other technology providers can create similar processes to manage this socio-technological interface and ensure intended outcomes from their technology use. We then build our second argument about how to ensure that the organizations behind both market driven technologies and those technologies that are adopted by the state, pay due attention towards responsibly managing the socio-technological interface of their innovations. We advocate for the technology engineers and researchers who work within these organizations, to take up the responsibility and ensure that their labour leads to making the world a better place especially for the poor and marginalized. We outline possible governance structures that can give more voice to the technology developers to push their organizations towards ensuring that responsible outcomes emerge from their technology. We note that the examples we use to build our arguments are limited to contemporary information and communication technology (ICT) platforms used directly by end-users to share content with one another, and hence our argument may not generalize to other ICTs in a straightforward manner.

연구 동기 및 목표

• 6년간 인도 중부 농촌 지역에서 음성 기반 모바일 서비스를 구현하면서 겪은 사회기술적 과제를 분석하기 위해.
• 기술 개발자들이 자신의 혁신이 공정하고 사회적으로 유익한 결과를 낳도록 적극적인 책임을 져야 한다고 주장하기 위해.
• 기술 개발자와 연구자가 조직의 결정을 책임감 있는 기술 사용 방향으로 이끄는 데 영향을 미칠 수 있도록 거버넌스 메커니즘을 제안하기 위해.
• 기술-사회 간 상호작용에서의 의도적인 설계와 지속적인 참여를 통해 책임감 있는 결과가 실현 가능하다는 것을 입증하기 위해.

제안 방법

• 인도 농촌 지역에 구현된 모바일 음성 미디어 서비스에 대한 종단적 사례 연구를 수행하여 구현 과제와 적응 과정을 분석하기 위해.
• 기본 문맹도, 신뢰, 지역 규범 등 반복적인 사회기술적 인터페이스 문제를 특정하여, 기술 수용과 영향력에 영향을 미치는 요소를 파악하기 위해.
• 윤리적 책임을 공학 라이프사이클에 통합하고 개발자에게 의사결정 과정에서 공식적인 목소리를 부여하는 거버넌스 모델을 제안하기 위해.
• 시장 기반 및 정부가 도입한 기술 모두에 윤리적 감시를 제도화하기 위해 실제 현장 구현 데이터를 활용하여 주장하기 위해.
• 기술 개발자들이 빈곤층과 소외된 집단을 위한 기술을 형성하는 데 있어 도덕적 주체로서의 역할을 중심으로 주장하기 위해.
• 기술 개발 및 구현 과정에서 지속적인 윤리적 성찰을 지원하는 조직적 구조의 필요성을 강조하기 위해.

실험 결과

연구 질문

• RQ1 사회기술적 인터페이스 과제는 농촌 ICT 구현에서 예상된 사회적 결과가 실현되는 데 어떤 영향을 미치는가?
• RQ2 기술 개발자가 조직 내에서 책임감 있는 결과를 위한 옹호를 위해 어떤 제도적 메커니즘이 필요할까?
• RQ3 기술 개발자와 연구자가 자신의 일에 긍정적인 사회적 영향을 이끌어내기 위해 어떻게 보장할 수 있는가? 특히 소외된 공동체를 대상으로 할 경우에.
• RQ4 책임감 있는 기술 결과는 어떻게 제도화할 수 있으며, 이는 비공식적인 윤리적 결정에 맡기지 않고서도 가능한가?
• RQ5 거버넌스 구조는 공공 및 민간 부문 모두에서 기술 개발을 사회적 복지와 일치시키는 데 어떤 역할을 하는가?

주요 결과

• 인도 농촌 지역에서 음성 기반 모바일 서비스를 구현하면서 신뢰, 현지 언어 사용, 디지털 리터러시와 관련된 지속적인 사회기술적 과제가 드러났으며, 이는 반복적인 적응이 필요함을 보여주었다.
• 기술-사회 간 상호작용이 사전에 관리되지 않으면, 양심적인 의도를 가진 기술 프로젝트조차도 상당한 부작용을 겪을 수 있다.
• 개발자에게 조직 윤리 및 설계 결정에 영향을 미칠 수 있는 공식적 채널이 주어지면, 기술 개발자가 책임감 있는 결과를 이끌어내는 데 변혁적인 역할을 할 수 있다.
• 개발자가 윤리적 감시에 참여하는 거버넌스 모델은 기술 개발을 사회적 형평성 목표와 일치시키는 데 도움이 된다.
• 이 사례 연구는 기술적 혁신 외에도 지속적인 참여가 이루어져야만 책임감 있는 결과가 실현 가능하다는 점을 입증한다.
• 저자들은 윤리적 책임이 기술 기관 내에 제도화되어야 오랜 기간에 걸친 공정한 영향을 확보할 수 있다고 결론을 내린다.