[논문 리뷰] Interdisciplinary Approaches to Understanding Artificial Intelligence's Impact on Society

Suresh Venkatasubramanian, Nadya Bliss외 2명|arXiv (Cornell University)|2020. 12. 11.

Ethics and Social Impacts of AI인용 수 5

한 줄 요약

이 논문은 인공지능의 사회적 영향을 다루기 위해 컴퓨터 과학을 사회과학 및 인문학과 융합할 것을 주장한다. 현재의 인공지능 개발이 기술적 '무엇'과 '어떻게'에만 집중하면서 윤리적, 사회적, 맥락적 고려를 간과하고 있다는 점을 지적한다. 주요 기여는 인공지능 시스템에서 편향, 감시, 민주주의 약화와 같은 해를 사전에 예측하고 완화하기 위해 다학제적 협력을 촉구하는 것이다.

ABSTRACT

Innovations in AI have focused primarily on the questions of "what" and "how"-algorithms for finding patterns in web searches, for instance-without adequate attention to the possible harms (such as privacy, bias, or manipulation) and without adequate consideration of the societal context in which these systems operate. In part, this is driven by incentives and forces in the tech industry, where a more product-driven focus tends to drown out broader reflective concerns about potential harms and misframings. But this focus on what and how is largely a reflection of the engineering and mathematics-focused training in computer science, which emphasizes the building of tools and development of computational concepts. As a result of this tight technical focus, and the rapid, worldwide explosion in its use, AI has come with a storm of unanticipated socio-technical problems, ranging from algorithms that act in racially or gender-biased ways, get caught in feedback loops that perpetuate inequalities, or enable unprecedented behavioral monitoring surveillance that challenges the fundamental values of free, democratic societies. Given that AI is no longer solely the domain of technologists but rather of society as a whole, we need tighter coupling of computer science and those disciplines that study society and societal values.

연구 동기 및 목표

• 윤리적 및 사회적 영향에 대한 충분한 고려 없이 개발된 인공지능 시스템이 초래하는 증가하는 사회적 위험을 다루기 위해.
• 기능성보다 사회적 맥락을 우선시하지 않는 컴퓨터 과학 교육 및 산업 관행의 현재 공학적·수학적 집중을 비판하기 위해.
• 다학제적 감시 없이 인공지능을 구현할 경우 발생하는 결과, 즉 체계적 편향, 감시, 민주주의 약화를 부각하기 위해.
• 책임감 있는 인공지능 개발을 보장하기 위해 컴퓨터 과학과 사회, 가치, 거버넌스를 연구하는 분야 간의 밀접한 통합을 주장하기 위해.
• 기술적 혁신 외에도 다양한 분야의 참여가 필요한 사회적 과제로서 인공지능을 위치지키기 위해.

제안 방법

• 논문은 컴퓨터 과학, 윤리학, 사회이론의 통찰을 바탕으로 한 개념적이고 정책 중심의 프레임워크를 사용한다.
• 편향된 알고리즘과 감시 시스템과 같은 실제 인공지능 실패 사례를 분석하여 기술적 시야 부족에서 비롯된 체계적 위험을 설명한다.
• 차별을 심화하거나 대규모 감시를 가능하게 한 인공지능 시스템의 사례 연구를 통해 맥락 인식의 필요성을 입증한다.
• 윤리적 반성을 설계 수명주기 초반에 통합하는 것이 중요하며, 이를 후속 조치로 보는 것이 아니라 강조한다.
• 학술 및 산업적 인centives를 재편하여 기술적 성능 지표만큼이나 사회적 영향 평가를 철저히 평가하도록 제안한다.
• 다학제적 팀을 인공지능 연구 및 개발에 도입하여 사회학, 법학, 철학, 공공정책 분야의 전문가를 통합한다.

실험 결과

연구 질문

• RQ1 현재의 인공지능 개발 방식은 사회적 가치와 잠재적 해를 고려하지 못하는 이유는 무엇인가?
• RQ2 실제 응용에서 인공지능 시스템이 편향되거나 차별적인 결과를 낳는 근본 원인은 무엇인가?
• RQ3 왜 현재의 컴퓨터 과학에서의 기술적 집중은 인공지능의 복잡한 사회기술적 과제를 해결하는 데 부적절한가?
• RQ4 다학제적 협력은 인공지능 시스템의 설계 및 거버넌스를 어떻게 향상시킬 수 있는가?
• RQ5 사회적 영향을 인공지능 연구 및 개발에 통합하기 위해 필요한 제도적 및 교육적 개혁은 무엇인가?

주요 결과

• 개발 단계에서 사회적 맥락에 대한 충분한 고려가 부족하여 인공지능 시스템이 종종 인종적 또는 성별 편향 결과를 낳는다.
• 인공지능 시스템 내 피드백 루프는 특히 채용 및 대출과 같은 고위험 분야에서 기존 사회적 불평등을 유지하거나 악화시킬 수 있다.
• 인공지능에 의해 가능해진 대규모 감시는 사생활과 자율성과 같은 근본적인 민주적 가치에 도전한다.
• 현재 기술 산업 모델은 윤리적 반성을 넘어서 빠른 구현과 제품화를 우선시하여 뜻하지 않은 해를 야기한다.
• 사회과학 및 인문학적 시각을 배제한 인공지능 교육 및 연구의 심각한 격차로 인해 좁은 기술적 해결책이 도출된다.
• 인공지능 시스템을 대규모로 구현하기 전에 사회적 위험을 사전에 예측하고 평가하며 완화하기 위해 다학제적 협력이 필수적이다.