[論文レビュー] Responsible and Inclusive Technology Framework: A Formative Framework to Promote Societal Considerations in Information Technology Contexts

Juana Catalina Becerra Sandoval, Vagner Figuerêdo de Santana+3 more|arXiv (Cornell University)|Feb 22, 2023

Innovative Approaches in Technology and Social Development被引用数 5

ひとこと要約

本稿では、社会的影響がしばしば間接的・遅延的であるB2B IT文脈を想定した、責任ある・包摂的な技術（R&I）フレームワークを紹介する。この形態的フレームワークは、技術設計におけるパワー・ダイナミクス、ステークホルダーの包摂、歴史的文脈、文化的価値に焦点を当てた社会技術的考察を基盤とする。これにより、企業の技術エコシステムにおける創造・利用・責任のギャップを体系的に検証することで、原則から実践へのギャップを埋める手助けが可能になる。特に、間接的・遅延的な害を含む社会的影響を批判的に検証できる仕組みが提供される。

ABSTRACT

Technology development practices in industry are often primarily focused on business results, which risks creating unbalanced power relations between corporate interests and the needs or concerns of people who are affected by technology implementation and use. These practices, and their associated cultural norms, may result in uses of technology that have direct, indirect, short-term, and even long-term negative effects on groups of people and/or the environment. This paper contributes a formative framework -- the Responsible and Inclusive Technology Framework -- that orients critical reflection around the social contexts of technology creation and use; the power dynamics between self, business, and societal stakeholders; the impacts of technology on various communities across past, present, and future dimensions; and the practical decisions that imbue technological artifacts with cultural values. We expect that the implementation of the Responsible and Inclusive Technology framework, especially in business-to-business industry settings, will serve as a catalyst for more intentional and socially-grounded practices, thus bridging the responsibility and principles-to-practice gap.

研究の動機と目的

• 社会的影響がしばしば間接的・遅延的であるB2B IT環境を想定した、責任ある技術における原則から実践へのギャップを解消するためのフレームワークを提供すること。
• 技術的解決万能的・普遍的・利便的であるという物語が支配的である技術論議を揺るがし、システム的不平等を隠す可能性があることを挑戦すること。
• 最終ユーザーが直接関与しない文脈においても、弱い立場にある社会的ステークホルダーとその長期的・間接的な影響を、技術開発の中心に据えること。
• 自己、企業、社会的ステークホルダー間のパワー・ダイナミクスを、過去・現在・未来の次元で再考することで、技術開発の方向性を再設定すること。
• 大規模かつ複雑な組織内での日常的技術的実践に社会技術的認識を埋め込むことで、文化的・組織的変容を支援すること。

提案手法

• 批判理論、科学技術学（STS）、参加型デザインに基づく形態的フレームワークを開発し、技術的解決策ではなく社会技術的システムに重きを置く。
• 四つのレンズ（創造の文脈、利用の文脈、責任ギャップ、技術開発の社会的歴史的文脈）を軸にした検証構造を構築する。
• ステークホルダーのパワー・ダイナミクス、インcentives（インcentives）、文化的価値を、技術的実装物の設計と評価の根幹的要素として統合する。
• 公平性、説明責任、透明性に関する前提を、アルゴリズム的バイアスを越えて検証するための反映的プロンプトと概念的ツールを活用する。
• 機密保持のため、具体的な事例は制限されているが、特許を取得したB2Bプロジェクトにおける内部組織的関与を通じてフレームワークを適用する。
• 複雑な企業エコシステムにおける責任ギャップの低減と責任の向上を目的に、技術サプライチェーン全体にわたる参加型関与を強調する。

実験結果

リサーチクエスチョン

• RQ1 エンドユーザーが直接関与しないB2B IT文脈において、形態的フレームワークは、技術の社会的影響についての批判的考察をどのように支援できるか？
• RQ2 自己、企業、社会的ステークホルダー間のパワー・ダイナミクスは、技術の長期的・間接的影響をどのように形作っているか？
• RQ3 社会的歴史的文脈を技術開発に体系的に統合することで、隠れた不平等や前提をどのように明らかにできるか？
• RQ4 大規模かつ複雑な組織において、意思決定構造が曇っている状況で、R&Iフレームワークは原則から実践へのギャップをどのように埋めるか？
• RQ5 本稿で開発されたB2B文脈に限定されない、DTCや学術的文脈、小規模組織など、さまざまな組織モデルに、このフレームワークはどのように適合・検証可能か？

主な発見

• R&Iフレームワークは、特に社会的影響が遅延的・間接的であるB2B文脈において、パワー・ダイナミクス、ステークホルダーの包摂、歴史的文脈の検証に体系的なレンズを提供する。
• このフレームワークは、技術的解決万能的・普遍的であるという物語に根ざした「責任の見えない盲点」を明らかにし、批判的検証がなければ不平等を助長する可能性があることを示す。
• 社会的歴史的文脈と長期的影響を中核に据えることで、フレームワークは、時間の経過とともにコミュニティごとの差別の害を予測・反映する手がかりを提供する。
• フレームワークは、コンプライアンスに基づく責任から、文化的に根ざした設計実践に移行するのを支援し、価値を技術的実装物に埋め込む。
• 組織の透明性の欠如や公開事例の不足により影響の測定が困難なものの、複雑なITエコシステムにおける責任の再考に再利用可能な概念的基盤を提供する。
• B2B文脈を超えた適用可能性は未解決であり、今後の研究でDTC、学術的文脈、小規模組織での有効性を検証する必要がある。