[논문 리뷰] Activism by the AI Community: Analysing Recent Achievements and Future Prospects

Haydn Belfield|arXiv (Cornell University)|2020. 01. 17.

Ethics and Social Impacts of AI인용 수 8

한 줄 요약

이 논문은 최근 인공지능(AI) 공동체 내에서의 운동을 분석하며, 지식 공동체와 노동 조직화의 시각에서 그 성과와 향후 잠재력을 다룹니다. 연구는 협력적 운동이 공통된 전문 문화와 희소한 AI 인재의 고급 납치력 덕분에 성공해왔음을 발견합니다. 이 두 가지 요소는 AI 개발에서 지속적인 윤리적 영향력을 확보하는 데 필수적입니다.

ABSTRACT

The artificial intelligence community (AI) has recently engaged in activism in relation to their employers, other members of the community, and their governments in order to shape the societal and ethical implications of AI. It has achieved some notable successes, but prospects for further political organising and activism are uncertain. We survey activism by the AI community over the last six years; apply two analytical frameworks drawing upon the literature on epistemic communities, and worker organising and bargaining; and explore what they imply for the future prospects of the AI community. Success thus far has hinged on a coherent shared culture, and high bargaining power due to the high demand for a limited supply of AI talent. Both are crucial to the future of AI activism and worthy of sustained attention.

연구 동기 및 목표

• 최근 6년간 AI 공동체 내에서의 운동이 어떻게 확산되고 영향을 미쳤는지 분석하기.
• AI 전문가들이 윤리적 및 사회적 결과에 영향을 미칠 수 있도록 하는 구조적·문화적 요인을 이해하기.
• 지식 공동체 및 노동 조직화 이론적 프레임워크를 활용해 AI 운동의 지속 가능성 평가하기.
• 향후 AI 운동이 성공하거나 제약을 받을 수 있는 조건을 특정하기.

제안 방법

• 2014년부터 2020년까지 AI 공동체 운동에 대한 질적 설문 조사를 수행하며 주요 사건과 조직적 노력을 중점적으로 분석.
• 지식 공동체 프레임워크를 적용하여 AI 전문가들 간의 공통된 기준, 지식, 집단 정체성 분석.
• 노조 조직 및 납치력 이론을 활용해 희소한 인재 공급과 시장 수요로 인한 AI 전문가들이 확보한 영향력 평가.
• 주요 사례 연구를 통합하여 군사용 AI 계약 반대 및 주요 기술 기업 내부 정책 변화와 같은 고조도 운동 분석.
• 윤리, 거버넌스, 기술 분야의 전문가 동원에 관한 학술 문헌의 통찰 통합.
• 제도적, 문화적, 경제적 요인을 바탕으로 운동의 장기적 지속 가능성 평가.

실험 결과

연구 질문

• RQ1 어떤 요소들이 AI 공동체가 부도덕한 AI 응용에 대비해 효과적인 운동을 펼 수 있도록 허용했는가?
• RQ2 공통된 전문적 기준과 지식 공동체가 AI 윤리 분야에서의 협력적 행동에 어떻게 기여하는가?
• RQ3 AI 전문가에 대한 높은 수요가 윤리적 조직화를 위한 납치력에 얼마나 기여하는가?
• RQ4 노동 시장 역학과 같은 구조적 조건이 AI 운동의 지속 가능성에 어떻게 영향을 미치는가?
• RQ5 AI 공동체 내 조직화된 윤리적 운동의 제약과 향후 전망은 무엇인가?

주요 결과

• AI 공동체는 군사용 AI 계약의 취소 등 기업 및 정부의 AI 정책에 중요한 영향을 미친 바 있다.
• 윤리적 책임을 중심으로 한 강력한 공통된 전문 문화가 공동 행동의 기초가 되었다.
• 제한된 인재 공급으로 인한 높은 납치력이 윤리 기준 요구 능력을 크게 증대시켰다.
• 향후 운동의 지속 가능성은 문화적 유대감 유지와 인재 부족에서 비롯된 경제적 영향력 유지에 크게 의존한다.
• 제도적 구조나 시장 역학이 문화적 단결성 또는 납치력을 약화시키면 향후 운동에 도전 과제가 발생할 수 있다.
• 논문은 문화적 일치와 경제적 영향력이 모두 필수적이며 윤리적 AI 거버넌스를 위해 지속적인 관심이 필요하다고 결론내린다.