[论文解读] Responsible and Inclusive Technology Framework: A Formative Framework to Promote Societal Considerations in Information Technology Contexts

Juana Catalina Becerra Sandoval, Vagner Figuerêdo de Santana+3 more|arXiv (Cornell University)|Feb 22, 2023

Innovative Approaches in Technology and Social Development被引用 5

一句话总结

本文提出了负责任且包容的技术（R&I）框架，这是一种面向企业对企业（B2B）IT情境的形成性框架，聚焦于技术设计中的权力动态、利益相关者包容性、历史背景和文化价值观的社科技巧反思。该框架通过系统性地探究企业技术生态系统中在创建、使用和责任方面的缺口，使从业者能够弥合原则与实践之间的鸿沟，尤其关注间接和延迟的伤害。

ABSTRACT

Technology development practices in industry are often primarily focused on business results, which risks creating unbalanced power relations between corporate interests and the needs or concerns of people who are affected by technology implementation and use. These practices, and their associated cultural norms, may result in uses of technology that have direct, indirect, short-term, and even long-term negative effects on groups of people and/or the environment. This paper contributes a formative framework -- the Responsible and Inclusive Technology Framework -- that orients critical reflection around the social contexts of technology creation and use; the power dynamics between self, business, and societal stakeholders; the impacts of technology on various communities across past, present, and future dimensions; and the practical decisions that imbue technological artifacts with cultural values. We expect that the implementation of the Responsible and Inclusive Technology framework, especially in business-to-business industry settings, will serve as a catalyst for more intentional and socially-grounded practices, thus bridging the responsibility and principles-to-practice gap.

研究动机与目标

• 为解决负责任技术领域中原则与实践之间的鸿沟，提供一个专为业务对业务（B2B）IT环境设计的框架，其中社会影响往往间接且延迟显现。
• 挑战主导技术话语中普遍存在的技术解决方案主义、技术普适主义和技术利他主义叙事，这些叙事可能掩盖系统性不平等。
• 将边缘化社会利益相关者及其长期、间接影响置于技术开发的核心，特别是在最终用户未直接参与的情境中。
• 重新导向技术开发，使其在时间维度上（过去、现在、未来）对自我、企业与社会利益相关者之间的权力动态进行批判性反思。
• 通过将社科技巧意识融入大型复杂组织中的日常技术实践，支持文化和组织变革。

提出的方法

• 基于批判理论、科学与技术研究（STS）以及参与式设计，开发了一个以社科技巧系统为核心而非技术修复的形成性框架。
• 围绕四个视角组织探究：技术的创生背景、使用背景、责任缺口，以及技术发展的社历史背景。
• 将利益相关者权力动态、激励机制和文化价值观作为技术本体设计与评估的核心组成部分。
• 运用反思性提示和概念工具，超越算法偏见，深入质疑关于公平性、问责制和透明度的假设。
• 通过在专有B2B项目中的内部组织参与实践应用该框架，但因保密限制，具体案例未予披露。
• 强调在整个技术供应链中开展参与式协作，以提升问责制并减少复杂企业生态系统中的责任缺口。

实验结果

研究问题

• RQ1 在最终用户未直接参与的B2B IT情境中，形成性框架如何支持对技术社会影响的批判性反思？
• RQ2 自我、企业与社会利益相关者之间的权力动态在多大程度上塑造了技术的长期和间接影响？
• RQ3 如何系统性地将社历史背景整合进技术开发中，以揭示隐藏的不平等和假设？
• RQ4 R&I框架在决策结构不透明的大型复杂组织中，如何帮助弥合原则与实践之间的鸿沟？
• RQ5 该框架在设计初衷之外的其他组织模式（如B2C或学术环境）中，如何被适应或验证？

主要发现

• R&I框架为探究技术开发中的权力动态、利益相关者包容性以及历史背景提供了结构化视角，尤其适用于社会影响常被延迟或间接显现的B2B情境。
• 该框架有助于揭示根植于技术解决方案主义和普适主义叙事中的‘责任盲区’，这些叙事若缺乏批判性审视，可能持续加剧不平等。
• 通过聚焦社历史背景和长期影响，该框架使从业者能够预见并反思不同社群随时间推移所承受的差异化伤害。
• 该框架支持从以合规为导向的责任转向主动的、根植于文化的实践设计，将价值观内嵌于技术本体之中。
• 尽管由于组织不透明和缺乏公开案例研究，其影响难以量化，但该框架为重新思考复杂IT生态系统中的责任提供了可复用的概念基础。
• 该框架在B2B情境之外的适用性尚待明确，未来工作需验证其在DTC、学术及小规模组织情境中的有效性。