[논문 리뷰] Where Responsible AI meets Reality: Practitioner Perspectives on Enablers for shifting Organizational Practices

Bogdana Rakova, Jingying Yang외 2명|arXiv (Cornell University)|2020. 06. 22.

Ethics and Social Impacts of AI참고 문헌 30인용 수 40

한 줄 요약

본 논문은 조직 문화와 구조가 책임 있는 AI 노력을 어떻게 형성하는지 산업 전반의 26명의 실무자 인터뷰를 통해 분석하고, 일반적, 신흥적 및 바람직한 관행과 네 가지 지향적 조직 질문을 제시한다.

ABSTRACT

Large and ever-evolving technology companies continue to invest more time and resources to incorporate responsible Artificial Intelligence (AI) into production-ready systems to increase algorithmic accountability. This paper examines and seeks to offer a framework for analyzing how organizational culture and structure impact the effectiveness of responsible AI initiatives in practice. We present the results of semi-structured qualitative interviews with practitioners working in industry, investigating common challenges, ethical tensions, and effective enablers for responsible AI initiatives. Focusing on major companies developing or utilizing AI, we have mapped what organizational structures currently support or hinder responsible AI initiatives, what aspirational future processes and structures would best enable effective initiatives, and what key elements comprise the transition from current work practices to the aspirational future.

연구 동기 및 목표

• 산업 현장에서 조직 문화와 구조가 책임 있는 AI 이니셔티브의 효과에 어떤 영향을 미치는지 조사한다.
• 조직에서 책임 있는 AI 작업을 형성하는 일반적, 신흥적 및 지향적 관행을 식별한다.
• 책임 있는 AI를 가능하게 하거나 방해하는 실무자의 역할, 인센티브, 거버넌스 메커니즘을 이해한다.
• 실행 가능한 통찰과 워크숍에서 도출된 프레임워크를 제시하여 책임 있는 AI를 향한 조직의 전환을 지원한다.

제안 방법

• 책임 있는 AI 작업을 실제로 탐구하기 위하여 19개 조직과 4대륙의 실무자를 대상으로 26건의 반구조화 인터뷰를 수행했다.
• 주제 도출을 위한 질적 분석에 맥락적 디자인 기법(해석 세션 및 친화도 다이어그램)을 적용했다.
• 조직 간 응답을 비교하여 조직 구조와 프로세스의 공통적 촉진 요인과 장애 요인을 식별했다.
• 다양한 청중과 함께 통찰을 검증하고 권고안을 공동 창출하기 위해 ML 컨퍼런스에서 워크숍을 주최했다.

실험 결과

연구 질문

• RQ1 조직은 언제 어떻게 책임 있는 AI 이슈에 대응해야 하는가(반응적 vs. 선제적 vs. 예견적)?
• RQ2 책임 있는 AI의 성공은 어떻게 측정해야 하는가(성과 트레이드오프 vs. 신원/출처 vs. 사회적 영향)?
• RQ3 책임 있는 AI 작업을 효과적으로 지원하기 위해 어떤 내부 구조가 필요한가?
• RQ4 인센티브, 책임성, 조직의 사명 간의 긴장을 어떻게 해소할 수 있는가?
• RQ5 조직 전반에 걸쳐 책임 있는 AI의 확장을 가능하게 할 실용적인 구조와 프로세스는 무엇인가?

주요 결과

• 대다수의 실무자들은 책임 있는 AI 작업을 미디어나 규제와 같은 외부 압력에 의해 좌우되는 반응적이라고 설명한다.
• 신흥 관행에는 조직 차원의 프레임워크, 지표, 아직 널리 퍼지지 않은 능동적 평가 프로세스가 포함된다.
• 바람직한 미래는 모든 제품 관련 프로세스에 걸친 통합된 책임 있는 AI와 능동적 위험 예측 및 사회적 영향 지표를 구상한다.
• 조직이 해결해야 할 네 가지 변화하는 질문이 있다: 언제/어떻게 행동할 것인가, 성공을 어떻게 측정할 것인가, 필요한 내부 구조는 무엇이며, 긴장을 어떻게 해결할 것인가.
• 인터뷰는 계층 간 거부권 필요성, 내부/외부 압력의 더 나은 조정, 견고한 내부 커뮤니케이션, 책임 있는 AI 이니셔티브에서 상호 의존성의 인식을 강조한다.
• 지배적이고 반응적인 관행에서 바람직하고 통합적이며 가치에 부합하는 조직 구조로의 전이 경로를 제시한다.