[논문 리뷰] Ethical Artificial Intelligence - An Open Question

Alice Pavaloiu, Utku Köse|arXiv (Cornell University)|2017. 05. 16.

Ethics and Social Impacts of AI참고 문헌 2인용 수 11

한 줄 요약

이 논문은 인공지능의 윤리적 과제를 조사하며, 사전 설정되거나 학습된 가치에 기인한 도덕적 딜레마와 AI 안전성과 같은 광범위한 문제를 중심으로 다룬다. 윤리적 우려를 해결하기 위해 인간과 AI 간의 공유 가치 프레임워크를 제안하며, 주요 기여로는 인식 제고와 다학제적 대화를 강조한다.

ABSTRACT

Artificial Intelligence (AI) is an effective science which employs strong enough approaches, methods, and techniques to solve unsolvable real world based problems. Because of its unstoppable rise towards the future, there are also some discussions about its ethics and safety. Shaping an AI friendly environment for people and a people friendly environment for AI can be a possible answer for finding a shared context of values for both humans and robots. In this context, objective of this paper is to address the ethical issues of AI and explore the moral dilemmas that arise from ethical algorithms, from pre set or acquired values. In addition, the paper will also focus on the subject of AI safety. As general, the paper will briefly analyze the concerns and potential solutions to solving the ethical issues presented and increase readers awareness on AI safety as another related research interest.

연구 동기 및 목표

• 인공지능의 윤리적 문제를 검토하며, 특히 AI 내 윤리적 알고리즘과 가치 체계에서 비롯되는 문제를 중심으로 한다.
• AI 의사결정 과정에서 사전 설정되거나 습득된 가치에 기인한 도덕적 딜레마를 분석한다.
• 윤리적 AI 개발의 핵심 요소로서 AI 안전성의 개념을 탐구한다.
• 상호 유익한 공존을 촉진하기 위해 인간과 AI 간의 공유 가치 기반을 마련한다.
• AI 시스템의 윤리적 및 안전성 과제에 대한 일반 및 학술계의 인식 제고

제안 방법

• 논문은 인공지능 및 컴퓨터 과학 분야의 다학제적 시각을 활용해 윤리적 AI에 대한 개념적 분석을 수행한다.
• 자율 시스템에서의 도덕적 의사결정을 포함한 사례 연구 및 가정적 시나리오를 검토한다.
• 공유 윤리 원칙을 통해 인간과 AI 가치를 조율하는 프레임워크를 제안한다.
• AI 윤리, 사회적 영향력, AI 설계의 안전 프로토콜에서의 통찰을 통합한 접근 방식을 취한다.
• 실험적 검증이 아닌 정성적이고 논증 중심의 방법론을 사용해 윤리적 함의를 탐구한다.
• 분석과 권고를 체계화하기 위해 기존의 AI 윤리 및 안전 분야 문헌을 활용한다.

실험 결과

연구 질문

• RQ1 AI 시스템 내 사전 설정되거나 습득된 가치가 실생활 적용에서 어떤 도덕적 딜레마를 초래하는가?
• RQ2 AI 행동을 인간의 가치와 일치시키기 위해 어떤 윤리적 프레임워크를 수립할 수 있는가?
• RQ3 AI 안전성이 윤리적 AI 시스템 설계에 어떻게 체계적으로 통합될 수 있는가?
• RQ4 인간과 인공 에이전트 간의 공유 가치 기반은 어떻게 개발될 수 있는가?
• RQ5 공중 및 학술계의 인식은 AI의 윤리적 방향을 어떻게 형성하는가?

주요 결과

• 윤리적 AI 개발은 내재되거나 학습된 가치에 기반한 알고리즘 의사결정에서 비롯되는 도덕적 딜레마를 해결해야 한다.
• 윤리적 일치와 상호 이익을 확보하기 위해 인간과 AI 간의 공유 가치 프레임워크가 필수적이다.
• AI 안전성은 별개의 문제이지, 초기 단계부터 윤리적 설계 원칙과 통합되어야 한다.
• 논문은 AI 분야에서 윤리 기준에 대한 합의 부족이 책임감 있는 배포의 주요 장벽임을 밝혀낸다.
• AI 윤리 및 안전성에 대한 인식 제고는 향후 연구 및 정책 개발을 이끄는 데 매우 중요하다.
• 연구는 윤리적 AI가 지속적인 다학제적 협력이 필요한 열린, 진화하는 문제임을 결론 내린다.