[논문 리뷰] Building Ethics into Artificial Intelligence

Han Yu, Zhiqi Shen외 4명|arXiv (Cornell University)|2018. 12. 07.

Ethics and Social Impacts of AI참고 문헌 34인용 수 8

한 줄 요약

이 논문은 인공지능에 윤리를 통합하는 데 있어 기술적 접근 방식에 대한 종합적인 분류 체계를 제안하며, 최근의 발전을 네 가지 영역으로 분류한다: 윤리적 딜레마 탐색, 개인의 윤리적 의사결정, 집단적 윤리적 의사결정 프레임워크, 그리고 인간-AI 상호작용에서의 윤리. 주요 인공지능 컨ferences의 연구를 종합하여 신뢰할 수 있고 윤리적으로 일치하는 AI 시스템 개발을 위한 연구자들을 안내한다.

ABSTRACT

As artificial intelligence (AI) systems become increasingly ubiquitous, the topic of AI governance for ethical decision-making by AI has captured public imagination. Within the AI research community, this topic remains less familiar to many researchers. In this paper, we complement existing surveys, which largely focused on the psychological, social and legal discussions of the topic, with an analysis of recent advances in technical solutions for AI governance. By reviewing publications in leading AI conferences including AAAI, AAMAS, ECAI and IJCAI, we propose a taxonomy which divides the field into four areas: 1) exploring ethical dilemmas; 2) individual ethical decision frameworks; 3) collective ethical decision frameworks; and 4) ethics in human-AI interactions. We highlight the intuitions and key techniques used in each approach, and discuss promising future research directions towards successful integration of ethical AI systems into human societies.

연구 동기 및 목표

• 심리학적 또는 법적 논의가 아닌 계산 기반 솔루션에 초점을 맞춰 기술 문헌에서 AI 윤리에 대한 격차를 메우기.
• 최상위 수준의 인공지능 컨ferences(AAAI, AAMAS, ECAI, IJCAI)에서의 윤리적 AI 분야의 최근 발전을 체계적으로 분류하기.
• 연구자들이 AI 시스템에서 윤리적 의사결정을 이해하고 구현하는 데 안내할 수 있는 체계적 분류 체계 제공하기.
• 윤리적 AI 통합을 위한 사회적 통합을 위해 기술적 과제와 향후 연구 방향성 강조하기.
• 이론적 윤리와 실제 구현 간 격차를 경험적이고 기술적인 분석을 통해 메워, AI 시스템에서의 실천 가능성을 높이기.

제안 방법

• 네 부분으로 구성된 분류 체계 제안: (1) 윤리적 딜레마 탐색, (2) 개인 윤리적 의사결정 프레임워크, (3) 집단 윤리적 의사결정 프레임워크, (4) 인간-AI 상호작용에서의 윤리.
• 주요 인공지능 컨퍼런스 및 저널의 논문을 검토·분석하여 각 범주 내 핵심 기법과 통찰을 도출하기.
• 인간의 윤리적 선호도와 딜레마를 모델링하기 위해 크라우드소싱 및 전문가 리뷰 도구(예: GenEth, Moral Machine) 활용하기.
• 특히 결과주의 윤리 기반에서의 윤리적 의사결정의 투명성과 정당성을 지원하기 위해 논증 기반 설명 가능한 AI 적용하기.
• 윤리적 AI 목표를 악용할 수 있는 전략적 인간 행동을 사전에 탐지하고 대응하기 위해 적대적 게임 이론 통합하기.
• 다양한 인구 집단 간 윤리 기준의 문화적·맥락적 다양성을 모델링하기 위해 전이 학습 기법 활용하기.

실험 결과

연구 질문

• RQ1 기술적 접근 방식을 통해 AI 윤리를 체계적으로 분류하고 다양한 연구 분야 간 맵핑할 수 있는가?
• RQ2 윤리 원칙에 기반해 윤리적으로 타당한 의사결정을 내릴 수 있는 개별 AI 에이전트의 핵심 메커니즘은 무엇인가?
• RQ3 복잡한 다중 에이전트 환경에서 여러 AI 에이전트가 함께 윤리적으로 정당한 의사결정에 도달할 수 있는 방법은 무엇인가?
• RQ4 인간 행동에 영향을 주고 영향을 받는 AI 시스템에 윤리적 고려사항을 어떻게 통합할 수 있는가?
• RQ5 윤리적 AI 의사결정의 투명성, 책임성, 내구성 확보를 위해 남아 있는 기술적·메소드올적 과제는 무엇인가?

주요 결과

• 기존의 서베이에서 중요한 격차를 확인했다. 즉, 심리학적, 사회학적, 법적 측면에 초점을 맞추고 있지만, 기술적 구현 측면은 거의 다루지 않고 있다.
• 최근의 윤리적 AI 기술적 발전은 네 영역에 집중되어 있다: 윤리적 딜레마 탐색, 개인 및 집단 윤리적 의사결정, 인간-AI 상호작용 윤리.
• Moral Machine 프로젝트와 같은 크라우드소싱 선호도 데이터는 유용하지만, 자기 보고된 선택과 실제 행동 선택 간 괴리로 인해 한계가 있다.
• 논증 기반 설명 가능한 AI는 결과주의 프레임워크 기반에서 윤리적 의사결정을 정당화하는 데 유망한 접근법이지만, 세부 정보와 사용성 간의 균형을 맞추는 것이 과제로 남아 있다.
• 향후 AI 시스템은 윤리적 제약을 악용하는 전략적 인간 행동을 고려해야 하며, 이는 윤리적 설계에 적대적 게임 이론 통합이 필수적임을 시사한다.
• 윤리 기준의 문화적·맥락적 다양성은 전이 학습 및 다문화 모델링이 보편적이고 스케일러블한 윤리적 AI를 구현하기 위해 필수적일 수 있음을 시사한다.