[논문 리뷰] Responsible and Inclusive Technology Framework: A Formative Framework to Promote Societal Considerations in Information Technology Contexts

Juana Catalina Becerra Sandoval, Vagner Figuerêdo de Santana외 3명|arXiv (Cornell University)|2023. 02. 22.

Innovative Approaches in Technology and Social Development인용 수 5

한 줄 요약

이 논문은 기업 간(B2B) IT 환경를 위한 형성적 프레임워크인 책임감 있고 포용적인 기술(R&I) 프레임워크를 소개한다. 이 프레임워크는 기술 설계 시 권력 관계, 이해관계자 포함, 역사적 배경, 문화적 가치에 대한 사회기술적 반성을 중심으로 한다. 이를 통해 기업 기술 생태계 내 창작, 사용, 책임의 격차에 대한 체계적 탐구를 통해 원칙과 실천의 격차를 해소하고, 간접적이고 지연된 해로움을 비판적으로 분석할 수 있도록 한다.

ABSTRACT

Technology development practices in industry are often primarily focused on business results, which risks creating unbalanced power relations between corporate interests and the needs or concerns of people who are affected by technology implementation and use. These practices, and their associated cultural norms, may result in uses of technology that have direct, indirect, short-term, and even long-term negative effects on groups of people and/or the environment. This paper contributes a formative framework -- the Responsible and Inclusive Technology Framework -- that orients critical reflection around the social contexts of technology creation and use; the power dynamics between self, business, and societal stakeholders; the impacts of technology on various communities across past, present, and future dimensions; and the practical decisions that imbue technological artifacts with cultural values. We expect that the implementation of the Responsible and Inclusive Technology framework, especially in business-to-business industry settings, will serve as a catalyst for more intentional and socially-grounded practices, thus bridging the responsibility and principles-to-practice gap.

연구 동기 및 목표

• 기업 간(B2B) IT 환경에서 사회적 영향이 종종 간접적이고 지연되는 점을 감안해, 책임감 있는 기술의 원칙과 실천의 격차를 해소하기 위한 프레임워크를 제공하는 것.
• 기술 담론을 지배하는 기술적 해결책 중심, 기술적 보편성, 기술적 선량성에 기반한 서사를 도전하여 체계적 불평등을 가리지 않도록 하는 것.
• 특히 최종 사용자가 직접 참여하지 않는 환경에서, 간접적 영향과 장기적 영향을 미치는 소외된 사회적 이해관계자와 그들의 영향을 중심에 두고 기술 개발에 통합하는 것.
• 과거, 현재, 미래의 차원에서 자의, 기업의, 사회적 이해관계자 간의 권력 관계에 대한 비판적 반성을 통해 기술 개발 방향을 재조정하는 것.
• 대규모이고 복잡한 조직 내에서 일상적인 기술적 실천에 사회기술적 인식을 통합함으로써 문화적 및 조직적 변화를 지원하는 것.

제안 방법

• 비판 이론, 과학·기술학(Science and Technology Studies, STS), 참가형 디자인에 기반한 형성적 프레임워크를 개발하여, 기술적 해결책보다 사회기술적 시스템에 초점을 맞춘다.
• 네 가지 렌즈를 중심으로 탐구를 구성한다: 창작의 맥락, 사용의 맥락, 책임의 격차, 기술 개발의 사회역사적 맥락.
• 기술적 자산 설계 및 평가의 核심 요소로 이해관계자 간의 권력 관계, 인센티브, 문화적 가치를 통합한다.
• 알고리즘 편향을 넘어서 공정성, 책임성, 투명성에 대한 가정을 비판적으로 분석하기 위해 반성적 프롬프트와 개념적 도구를 활용한다.
• 기밀 유지의 이유로 구체적인 사례는 제한되어 있지만, 기업 내부의 조직적 참여를 통해 프레임워크를 적용하였다.
• 복잡한 기업 생태계에서의 책임 격차를 줄이고 책임성을 향상시키기 위해 기술 공급망 전반의 참가형 참여를 강조한다.

실험 결과

연구 질문

• RQ1 기업 간(B2B) IT 환경에서 최종 사용자가 직접 참여하지 않는 상황에서, 형성적 프레임워크는 어떻게 기술의 사회적 영향에 대한 비판적 반성을 지원할 수 있는가?
• RQ2 자기, 기업, 사회적 이해관계자 간의 권력 관계는 기술의 장기적이고 간접적인 영향을 어떻게 형성하는가?
• RQ3 사회역사적 맥락은 어떻게 체계적으로 기술 개발에 통합될 수 있으며, 숨겨진 불평등과 가정을 드러내는가?
• RQ4 R&I 프레임워크는 의사결정 구조가 투명하지 않은 대규모이고 복잡한 조직에서 원칙과 실천의 격차를 어떻게 해소하는 데 기여하는가?
• RQ5 이 프레임워크는 B2B 외의 조직 모델, 예를 들어 소비자 대상(B2C) 또는 학술 환경에서 어떻게 변형되거나 검증될 수 있는가?

주요 결과

• R&I 프레임워크는 기업 간(B2B) 환경에서 사회적 영향이 종종 지연되거나 간접적인 점을 감안해, 권력 관계, 이해관계자 포함, 역사적 맥락에 대한 체계적 분석을 가능하게 한다.
• 이 프레임워크는 기술적 해결책 중심 및 기술적 보편성 서사에 뿌리를 두고 있는 '책임감 없는 맹점'을 드러내며, 비판적 검토 없이도 불평등을 지속시킬 수 있음을 보여준다.
• 사회역사적 맥락과 장기적 영향을 중심에 두고 있음으로써, 프레임워크는 다양한 공동체에 대한 차별적 피해를 시간이 지남에 따라 예측하고 반성할 수 있도록 한다.
• 이 프레임워크는 준수 중심의 책임에서 벗어나, 가치를 기술적 자산에 통합하는 사전적이고 문화 기반의 설계 실천으로의 전환을 지원한다.
• 조직의 투명성 부족과 공개 사례 연구의 부족으로 영향 측정에 한계가 있음에도 불구하고, 이 프레임워크는 복잡한 IT 생태계에서 책임을 재고하는 데 사용 가능한 재사용 가능한 개념적 기반을 제공한다.
• 이 프레임워크의 B2B 외 적용 가능성은 여전히 열려 있으며, 향후 DTC, 학술 및 소규모 조직 환경에서의 유효성을 검증하기 위한 연구가 필요하다.