[논문 리뷰] Artificial Intelligence Governance and Ethics: Global Perspectives

Angela Daly, Thilo Hagendorff외 6명|arXiv (Cornell University)|2019. 06. 28.

Ethics and Social Impacts of AI인용 수 5

한 줄 요약

이 논문은 호주, 중국, 유럽, 인도, 미국에서의 글로벌 인공지능 거버넌스 및 윤리 프레임워크를 분석하여 다양한 국가 및 부문 차원의 이니셔티브를 조사한다. 국제적 시각을 통합하여 공통적인 윤리적 과제와 거버넌스 전략을 규명하고, 형사 사법, 의료, 방위와 같은 고위험 분야에서 정책 개발 및 이행에 대한 비교 분석을 제공한다.

ABSTRACT

Artificial intelligence (AI) is a technology which is increasingly being utilised in society and the economy worldwide, and its implementation is planned to become more prevalent in coming years. AI is increasingly being embedded in our lives, supplementing our pervasive use of digital technologies. But this is being accompanied by disquiet over problematic and dangerous implementations of AI, or indeed, even AI itself deciding to do dangerous and problematic actions, especially in fields such as the military, medicine and criminal justice. These developments have led to concerns about whether and how AI systems adhere, and will adhere to ethical standards. These concerns have stimulated a global conversation on AI ethics, and have resulted in various actors from different countries and sectors issuing ethics and governance initiatives and guidelines for AI. Such developments form the basis for our research in this report, combining our international and interdisciplinary expertise to give an insight into what is happening in Australia, China, Europe, India and the US.

연구 동기 및 목표

• 호주, 중국, 유럽, 인도, 미국의 다섯 핵심 지역에서 인공지능 윤리 및 거버넌스 프레임워크의 발전 및 이행을 분석하는 것.
• 형사 사법, 의료, 군사 시스템과 같은 고위험 인공지능 응용 분야에서 공통적인 윤리적 우려와 상이한 규제 접근 방식을 규명하는 것.
• 정부, 산업계, 시민사회 등 다자간 이니셔티브가 인공지능 거버넌스 형성에 미치는 역할을 평가하는 것.
• 글로벌 정책 일관성과 윤리적인 인공지능 구현을 위한 정책을 향한 교차 분야적 비교 분석을 제공하는 것.
• 특히 책임성, 투명성, 형평성 측면에서 현재 거버넌스 모델의 격차와 갈등을 부각하는 것.

제안 방법

• 호주, 중국, 유럽, 인도, 미국의 다섯 국가의 국가 및 지역 인공지능 윤리 및 거버넌스 이니셔티브를 비교 분석하는 것.
• 정부, 산업 협의체, 시민사회 조직에서 발표한 정책 문서, 지침, 규제 프레임워크를 수집 및 검토하는 것.
• 법학, 컴퓨터 과학, 사회과학 분야의 다학제적 전문 지식을 활용하여 윤리 원칙 및 거버넌스 메커니즘을 해석하고 맥락화하는 것.
• 다양한 지역 프레임워크 간 핵심 윤리 원칙(예: 공정성, 투명성, 책임성)을 분류하고 지ap핑하는 것.
• 형사 사법, 의료, 방위와 같은 민감한 분야에서의 인공지능 배치 사례 연구를 분석하여 윤리적 위험과 거버넌스 대응을 평가하는 것.
• 발견사항을 종합하여 다국적 관점에서의 거버넌스 성숙도, 윤리적 우선순위, 이행 과제를 평가하는 보고서로 정리하는 것.

실험 결과

연구 질문

• RQ1 호주, 중국, 유럽, 인도, 미국에서 인공지능 윤리 및 거버넌스 프레임워크는 어떻게 상이한가?
• RQ2 국가 및 지역 인공지능 거버넌스 이니셔티브에서 우선시되는 윤리 원칙은 무엇이며, 어떻게 구현되는가?
• RQ3 형사 사법 및 의료와 같은 고위험 분야에서 윤리적인 인공지능을 이행하는 데 있어 주요 과제는 무엇인가?
• RQ4 다자간 협력이 인공지능 거버넌스 기준의 개발 및 집행에 어떤 영향을 미치는가?
• RQ5 다양한 규제 접근 방식이 글로벌 인공지능 거버넌스 및 상호운용성에 어떤 영향을 미치는가?

주요 결과

• 유럽은 인권과 기본권을 강조하는 반면, 미국과 중국은 혁신과 국가 경쟁력에 더 중점을 두어 윤리 원칙의 우선순위와 프레임워크에 상당한 차이가 존재한다.
• 중국의 인공지능 거버넌스 프레임워크는 국가 목표에 부합하는 중심집중식으로 구성되어 있으며, 기술 개발 및 통제의 상향식 모델을 반영한다.
• 유럽의 인공지능 거버넌스는 법적 준수와 기본권을 강조하며, 특히 유럽연합의 제안된 AI 법과 그 위험 기반 분류 체계를 통해 나타난다.
• 인도와 호주는 강력한 윤리적 요소를 포함한 국가 인공지능 전략을 수립했지만, 이행은 제한적이고 산만한 편이다.
• 다양한 지침에도 불구하고 대부분의 관할구역에서 실행 가능한 표준이나 일관된 모니터링 메커니즘이 부족하다.
• 예측형 경찰 및 자동 의료 진단과 같은 고위험 응용 분야는 편향과 투명성 부족 등 강화된 윤리적 위험을 수반하지만, 감독 메커니즘은 여전히 미흡하다.