[논문 리뷰] On the Morality of Artificial Intelligence

Alexandra Sasha Luccioni, Yoshua Bengio|arXiv (Cornell University)|2019. 12. 26.

Ethics and Social Impacts of AI참고 문헌 39인용 수 5

한 줄 요약

이 논문은 기계학습(ML) 연구자들이 자신의 연구 및 구현 방식에 윤리적·도덕적 고려사항을 통합할 것을 촉구하며, AI가 사회적 복지를 위해 기여하도록 보장하기 위해 자율적인 질문과 실행 가능한 지침을 제안한다. 연구자들이 규제에 의해 반응적으로 대응하기보다는 사전적 책임을 다할 것을 주장하며, 다학제적 협업과 가치 중심 설계를 통해 기후 변화와 불평등과 같은 글로벌 과제를 해결하는 데 ML이 기여할 수 있음을 강조한다.

ABSTRACT

Much of the existing research on the social and ethical impact of Artificial Intelligence has been focused on defining ethical principles and guidelines surrounding Machine Learning (ML) and other Artificial Intelligence (AI) algorithms [IEEE, 2017, Jobin et al., 2019]. While this is extremely useful for helping define the appropriate social norms of AI, we believe that it is equally important to discuss both the potential and risks of ML and to inspire the community to use ML for beneficial objectives. In the present article, which is specifically aimed at ML practitioners, we thus focus more on the latter, carrying out an overview of existing high-level ethical frameworks and guidelines, but above all proposing both conceptual and practical principles and guidelines for ML research and deployment, insisting on concrete actions that can be taken by practitioners to pursue a more ethical and moral practice of ML aimed at using AI for social good.

연구 동기 및 목표

• 기술적 성능을 넘어서 사회적 영향을 고려할 것을 연구자들에게 촉구함으로써 기계학습(ML)의 증가하는 사회적 영향을 다루기 위한 목표.
• 추상적인 윤리 원칙과 ML 연구자 및 엔지니어가 실천할 수 있는 행동 기반 실천 간 격차를 메우기 위한 목표.
• 특히 기후 변화와 사회적 불평등과 같은 글로벌 과제를 해결하는 데 기여하는 응용 분야를 우선시함으로써 ML 공동체가 인간 중심의 응용 분야를 추구하도록 자극하는 목표.
• 규제나 법적 조치가 내려지기 전에 사전적 윤리적 의사결정을 장려함으로써, 반응적 규제에 의존하지 않는 목표.
• 심리학, 환경 과학, 사회과학 전문가들과의 협업을 통해 AI 시스템이 효과적이면서도 인간의 가치와 윤리적으로 일치하도록 하는 데 기여하는 목표.

제안 방법

• ML 연구자들이 자신의 일의 사회적 영향을 평가할 수 있도록 자율적인 윤리적 성찰 질문 세트를 제안.
• 유엔 인권선언, IEEE, Jobin 등 기존의 고수준 윤리 프레임워크를 참조하여 실천 가능한 권고를 기반으로 함.
• ML 도구가 효과적이면서도 윤리적으로 타당한지 보장하기 위해 정책, 심리학, 환경 과학 분야의 전문가와의 협업을 권고.
• 위성 영상 분석을 통한 산림 파괴 및 재해 대응, 탄소 가격 모델링 등 기후 변화 완화를 위한 ML의 구체적 응용 사례를 강조.
• 특정 지역의 향후 기후 영향을 시각화함으로써 심리적 거리감을 줄이고 행동 유도를 높이기 위해 생성적 적대 기반 네트워크(GANs)를 활용할 것을 제안.
• 개인의 행동 변화를 유도하기 위해 ML 도구를 배포할 때 사용자 중심 설계와 신뢰 구축의 중요성을 강조.

실험 결과

연구 질문

• RQ1 ML 연구자들은 배포 이전에 자신의 연구 및 응용 분야가 가지는 잠재적 사회적 영향을 어떻게 평가할 수 있는가?
• RQ2 감시나 자율 무기와 같이 높은 사회적 영향을 미치는 기술을 개발할 때 ML 연구자들이 지녀야 할 윤리적 책임은 무엇인가?
• RQ3 기계학습은 기후 변화와 생물다양성 감소와 같은 글로벌 과제를 어떻게 해결하는 데 활용될 수 있는가?
• RQ4 심리적·행동적 편향은 ML 도구를 통해 어떻게 보완되어야 하며, 이를 통해 기후 변화에 대한 개인 및 집단의 행동을 어떻게 증진시킬 수 있는가?
• RQ5 다학제적 협업은 AI 시스템이 효과적이면서도 인간의 가치와 윤리적으로 일치하도록 보장하는 데 어떤 역할을 할 수 있는가?

주요 결과

• ML 연구자들은 자율적인 윤리적 질문을 통해 자신의 기술이 누군가에게 이득을 주거나 손해를 줄 수 있는지에 대해 사전에 도덕적 영향을 성찰해야 한다.
• 학습 데이터의 편향이 실제 사회적 피해를 야기한 바가 있으며, 예를 들어 성별 및 인종 소수자에 대해 성능이 떨어지는 얼굴 인식 시스템의 사례는 공정성 인식 개발의 필요성을 강조한다.
• ML은 탄소 가격 모델링, 산림 파괴 및 재해 대응을 위한 위성 영상 분석, 생태계 모니터링 향상 등을 통해 기후 행동을 지원할 수 있다.
• 생성적 적대 기반 네트워크(GANs)를 활용해 개인이 의미 있는 장소에 대한 향후 기후 영향을 시각화함으로써 심리적 거리감을 줄이고 행동 유도를 높일 수 있다.
• 사회적 복지를 위한 ML의 효과적 배포를 위해서는 심리학, 커뮤니케이션, 정책 분야의 전문가와의 협업이 필요하며, 이는 도구의 접근성과 영향력을 보장하기 위함이다.
• 현재 AI 분야의 기술 발전 속도는 집단적 지혜와 윤리 기준의 발전을 빠르게 뛰어넘고 있으며, 이는 연구자들이 즉각적인 윤리적 참여가 요구되는 '지혜의 경쟁'을 야기하고 있다.