[논문 리뷰] Human rights, democracy, and the rule of law assurance framework for AI systems: A proposal

David Leslie, C. Burr외 4명|arXiv (Cornell University)|2022. 02. 06.

Legal and Policy Issues인용 수 5

한 줄 요약

이 논문은 신뢰할 수 있는 인공지능 혁신과 준수를 위해 인간의 권리, 민주주의 및 법치 원칙을 통합한 종단 간 거버넌스 프레임워크인 인간의 권리, 민주주의 및 법치 보장 프레임워크(HUDERAF)를 제안한다. 이는 인간의 권리 사전 점검, 이해관계자 참여, 위험 평가 및 영향 완화를 인공지능 프로젝트 생애주기 전반에 통합함으로써 향후 유 binding 법률 프레임워크 준수를 가능하게 하며, 투명성, 책임성 및 민주적 감시를 내재화한다.

ABSTRACT

Following on from the publication of its <em>Feasibility Study </em>in December 2020, the Council of Europe’s Ad Hoc Committee on Artificial Intelligence (and its subgroups) initiated efforts to formulate and draft its <em>Possible elements of a legal framework on artificial intelligence, based on the Council of Europe’s standards on human rights, democracy, and the rule of law</em>. This document was ultimately adopted by the CAHAI plenary in December 2021. To support this effort, The Alan Turing Institute undertook a programme of research that explored the governance processes and practical tools needed to operationalise the integration of human right due diligence with the assurance of trustworthy AI innovation practices. The resulting output, <em>Human Rights, Democracy, and the Rule of Law Assurance Framework for AI Systems: A proposal,</em> was completed and submitted to the Council of Europe in September 2021. It presents an end-to-end approach to the assurance of AI project lifecycles that integrates context-based risk analysis and appropriate stakeholder engagement with comprehensive impact assessment, and transparent risk management, impact mitigation, and innovation assurance practices. Taken together, these interlocking processes constitute a Human Rights, Democracy and the Rule of Law Assurance Framework (HUDERAF). The HUDERAF combines the procedural requirements for principles-based human rights due diligence with the governance mechanisms needed to set up technical and socio-technical guardrails for responsible and trustworthy AI innovation practices. Its purpose is to provide an accessible and user-friendly set of mechanisms for facilitating compliance with a binding legal framework on artificial intelligence, based on the Council of Europe’s standards on human rights, democracy, and the rule of law, and to ensure that AI innovation projects are carried out with appropriate levels of public accountability, transparency, and democratic governance.

연구 동기 및 목표

• 인공지능 시스템이 인간의 권리, 민주주의 및 법치 기준을 준수하도록 보장하기 위한 실용적이고 운영 가능한 프레임워크를 개발하는 것.
• 신뢰할 수 있는 인공지능 혁신을 위한 거버넌스 메커니즘을 제공함으로써 유럽위원회의 법적 프레임워크 개발을 지원하는 것.
• 구조화된 위험 평가 및 이해관계자 참여를 통해 인공지능 프로젝트 생애주기 내 인간의 권리 사전 점검을 실현하는 것.
• 인공지능 혁신 과정에서 공공의 책임성, 투명성 및 민주적 거버넌스를 확보하는 것.
• 유럽위원회 기준에 기반한 향후 유 binding 인공지능 법적 프레임워크 준수를 지원하기 위한 사용자 우월적이고 접근 가능한 도구 세트를 제공하는 것.

제안 방법

• 인공지능 프로젝트 생애주기 전반을 아우르는 종단 간 보증 프레임워크 설계.
• 인공지능 시스템 내 잠재적 인간의 권리 및 민주적 위험을 식별하기 위한 맥락 기반 위험 분석 통합.
• 인공지능 프로젝트의 사회적, 법적 및 윤리적 영향을 평가하기 위한 종합적 영향 평가 내재화.
• 개발 및 구현 단계 전반에 걸쳐 투명한 위험 관리 및 완화 전략 수립.
• 다양한 시각이 인공지능 거버넌스에 포함되도록 이해관계자 참여 메커니즘 구축.
• 절차적 인간의 권리 사전 점검을 기술적 및 사회기술적 장치와 융합하여 책임감 있는 혁신을 실현하는 것.

실험 결과

연구 질문

• RQ1 인간의 권리 사전 점검은 어떻게 인공지능 개발 및 구현 생애주기 전반에 체계적으로 통합될 수 있는가?
• RQ2 인공지능 혁신에서 투명성, 책임성 및 민주적 감시를 확보하기 위해 필요한 거버넌스 메커니즘은 무엇인가?
• RQ3 위험 평가 및 영향 완화는 인간의 권리, 민주주의 및 법치 원칙과 일치하는 방식으로 어떻게 운영될 수 있는가?
• RQ4 향후 유 binding 인공지능 법적 프레임워크 준수를 지원하기 위한 실용적 도구와 프로세스는 무엇인가?
• RQ5 인공지능 보증 프로세스에 의미 있는 방식으로 이해관계자 참여를 통합하여 합법성과 신뢰를 강화할 수 있는가?

주요 결과

• HUDERAF 프레임워크는 인공지능 생애주기 전반에 걸쳐 인간의 권리, 민주주의 및 법치 원칙을 통합한 종단 간 보증 접근 방식을 제공한다.
• 이 프레임워크는 구조화된 위험 분석, 영향 평가 및 이해관계자 참여 프로세스를 통해 인간의 권리 사전 점검을 실현한다.
• HUDERAF는 절차적 및 기술적 장치를 내재화함으로써 향후 유 binding 인공지능 법적 프레임워크 준수를 지원한다.
• 문서화된 위험 완화 및 영향 관리 전략을 요구함으로써 공공의 책임성과 투명성을 향상시킨다.
• 이 프레임워크는 2021년 9월에 프레임워크 개발 과정에 통합되기 위해 2021년 9월에 코펜하겐 대학과 협력하여 개발되었으며, 코펜하겐 대학과 협력하여 개발되었다.
• HUDERAF는 민주적 및 인권 기준에 부합하는 인공지능 혁신을 추구하는 조직이 사용하기 쉽게 접근 가능하고 사용자 友好的하도록 설계되었다.