[论文解读] Ensuring Responsible Outcomes from Technology

Aaditeshwar Seth|arXiv (Cornell University)|Jul 7, 2019

ICT in Developing Communities参考文献 34被引用 6

一句话总结

本文对印度农村基于语音的移动平台进行案例研究，展示了在现实部署中社会技术复杂性如何要求主动治理。论文主张工程师和研究人员应主动承担起塑造技术以实现公平结果的责任，提出通过制度结构将伦理问责嵌入技术开发过程。

ABSTRACT

We attempt to make two arguments in this essay. First, through a case study of a mobile phone based voice-media service we have been running in rural central India for more than six years, we describe several implementation complexities we had to navigate towards realizing our intended vision of bringing social development through technology. Most of these complexities arose in the interface of our technology with society, and we argue that even other technology providers can create similar processes to manage this socio-technological interface and ensure intended outcomes from their technology use. We then build our second argument about how to ensure that the organizations behind both market driven technologies and those technologies that are adopted by the state, pay due attention towards responsibly managing the socio-technological interface of their innovations. We advocate for the technology engineers and researchers who work within these organizations, to take up the responsibility and ensure that their labour leads to making the world a better place especially for the poor and marginalized. We outline possible governance structures that can give more voice to the technology developers to push their organizations towards ensuring that responsible outcomes emerge from their technology. We note that the examples we use to build our arguments are limited to contemporary information and communication technology (ICT) platforms used directly by end-users to share content with one another, and hence our argument may not generalize to other ICTs in a straightforward manner.

研究动机与目标

• 分析在印度中部农村地区部署基于语音的移动服务六年间所遇到的社会技术挑战。
• 主张技术开发者必须积极承担起确保其创新产生公平且有益于社会成果的责任。
• 提出治理机制，使工程师和研究人员能够影响组织决策，推动负责任的技术使用。
• 证明通过在技术与社会的交汇处进行精心设计和持续参与，负责任的成果是可实现的。

提出的方法

• 对在印度农村部署的移动语音媒体服务开展纵向案例研究，分析实施挑战与适应过程。
• 识别反复出现的社会技术界面问题——如识字率、信任问题和地方规范——这些因素影响技术采纳与影响。
• 提出一种治理模型，将伦理责任整合进工程生命周期，使开发者在决策中拥有正式发言权。
• 利用真实世界实施数据，主张在市场化和政府采纳的技术中制度化伦理监督。
• 围绕工程师作为塑造面向贫困人口和边缘群体技术的道德主体的角色展开论述。
• 强调需要建立组织结构，以支持在技术开发与部署过程中持续进行伦理反思。

实验结果

研究问题

• RQ1 社会技术界面挑战在多大程度上影响了农村信息通信技术部署中预期社会成果的实现？
• RQ2 何种制度机制可赋予技术开发者在组织内部倡导负责任成果的能力？
• RQ3 工程师和研究人员如何确保其工作对边缘化社区产生积极社会影响？
• RQ4 负责任的技术成果在多大程度上可以通过制度化实现，而非依赖临时的伦理决策？
• RQ5 治理结构在公共部门与私营部门中如何促进技术开发与社会福祉的对齐？

主要发现

• 在印度农村部署基于语音的移动服务揭示了与信任、本地语言使用和数字素养相关的持续社会技术挑战，需要迭代式适应。
• 即使出发点良好的技术举措，若未主动管理技术与社会的界面，仍可能产生重大意外后果。
• 若为开发者提供正式渠道以影响组织伦理和设计决策，他们可在确保负责任成果方面发挥变革性作用。
• 将工程师纳入伦理监督的治理模式，有助于使技术开发与社会公平目标保持一致。
• 案例研究证明，负责任的成果可通过持续参与实现，而不仅仅是技术革新。
• 作者得出结论：伦理责任必须制度化于技术组织之中，以确保长期、公平的影响。