[論文レビュー] Ensuring Responsible Outcomes from Technology

Aaditeshwar Seth|arXiv (Cornell University)|Jul 7, 2019

ICT in Developing Communities参考文献 34被引用数 6

ひとこと要約

本論文は、インドの農村部における音声ベースのモバイルプラットフォームを事例として、現実の展開において生じる社会的・技術的複雑性が、能動的なガバナンスを必要とすることを示している。研究者やエンジニアが、技術の公平的かつ社会的有益な結果をもたらすために責任を果たすべきであると主張し、技術開発プロセスに倫理的責任を統合するための制度的枠組みを提言している。

ABSTRACT

We attempt to make two arguments in this essay. First, through a case study of a mobile phone based voice-media service we have been running in rural central India for more than six years, we describe several implementation complexities we had to navigate towards realizing our intended vision of bringing social development through technology. Most of these complexities arose in the interface of our technology with society, and we argue that even other technology providers can create similar processes to manage this socio-technological interface and ensure intended outcomes from their technology use. We then build our second argument about how to ensure that the organizations behind both market driven technologies and those technologies that are adopted by the state, pay due attention towards responsibly managing the socio-technological interface of their innovations. We advocate for the technology engineers and researchers who work within these organizations, to take up the responsibility and ensure that their labour leads to making the world a better place especially for the poor and marginalized. We outline possible governance structures that can give more voice to the technology developers to push their organizations towards ensuring that responsible outcomes emerge from their technology. We note that the examples we use to build our arguments are limited to contemporary information and communication technology (ICT) platforms used directly by end-users to share content with one another, and hence our argument may not generalize to other ICTs in a straightforward manner.

研究の動機と目的

• 6年間にわたり、インド中部の農村部で音声ベースのモバイルサービスを展開した際の社会的・技術的課題を分析すること。
• 技術開発者が、自らのイノベーションがもたらす公平的かつ社会的に有益な結果を保証するための能動的責任を負うべきであることを主張すること。
• 技術開発者が組織の意思決定に対して責任ある技術利用に向かって影響を及ぼせるよう、意思決定を支援するガバナンスメカニズムを提言すること。
• 技術と社会の境界領域での意図的な設計と継続的な関与を通じて、責任ある成果が達成可能であることを実証すること。

提案手法

• インド農村部で展開されたモバイル音声メディアサービスの縦断的事例研究を実施し、実装上の課題と適応策を分析する。
• 識字能力、信頼、地域の慣習といった繰り返し発生する社会的・技術的インターフェース上の問題を特定し、それらが技術の採用と影響に与える影響を検証する。
• 開発者が意思決定に正式に参加できるように、倫理的責任をエンジニアリングライフサイクルに統合するガバナンスモデルを提言する。
• 市場主導型および公的機関が採用した技術の両者において、倫理的監視を制度化する根拠を、現実の実装データに基づいて提示する。
• エンジニアが、貧困層やマイノリティコミュニティのための技術を形作る際の道徳的主体者としての役割を強調する。
• 技術開発および展開の過程で継続的な倫理的考察を支援する組織的構造の必要性を強調する。

実験結果

リサーチクエスチョン

• RQ1 社会的・技術的インターフェース上の課題は、農村部のICT展開において、予定された社会的成果の実現にどのように影響を及えるか？
• RQ2 技術開発者が、自らの組織内で責任ある成果を推進するための、どのような制度的メカニズムを有することができるか？
• RQ3 エンジニアや研究者が、とりわけマイノリティコミュニティに対して、その仕事が肯定的な社会的影響をもたらすように、どのように保証できるか？
• RQ4 責任ある技術的成果は、一時的な倫理的判断に任せることなく、制度化できる程度にまで高められるか？
• RQ5 ガバナンス構造は、公共部門および民間部門の両方において、技術開発を社会的善に一致させる役割を果たすか？

主な発見

• インド農村部における音声ベースのモバイルサービスの展開は、信頼、現地言語の使用、デジタルリテラシーに関する持続的な社会的・技術的課題を明らかにし、反復的で適応的な対応が不可欠であった。
• 技術と社会の境界領域が能動的に管理されない限り、意図された良い意図を持つ技術的イニシアチブですら、重大な予期しない結果をもたらすことがある。
• 技術開発者が、組織の倫理的方針や設計意思決定に正式な発言権を持つ場合、責任ある成果を実現するための変革的役割を果たすことができる。
• エンジニアが倫理的監視に参加するガバナンスモデルは、技術開発を社会的公平性の目標に一致させるのに役立つ。
• 本事例研究は、技術的イノベーションだけでなく、継続的な関与がなければ責任ある成果は達成できないことを示している。
• 著者らは、長期的かつ公平な影響を実現するためには、倫理的責任を技術組織内に制度化する必要があると結論づけている。