[논문 리뷰] Key Considerations for the Responsible Development and Fielding of Artificial Intelligence

Eric Horvitz, Jessica L Young외 2명|arXiv (Cornell University)|2021. 08. 19.

Ethics and Social Impacts of AI인용 수 5

한 줄 요약

이 논문은 인공지능의 책임감 있는 개발 및 구현을 위한 핵심 고려사항을 개략적으로 제시하며, 윤리적, 기술적, 정책적 과제에 초점을 맞춘다. 미국 국가안보 기관을 대상으로 개발되었지만 광범위하게 적용 가능하며, 신뢰할 수 있는 AI를 고위험 분야에서 확보하기 위해 구조화된 관행과 업데이트된 정책을 통해 투명성, 책임성, 안전성, 공정성을 우선시할 것을 권고한다.

ABSTRACT

We review key considerations, practices, and areas for future work aimed at the responsible development and fielding of AI technologies. We describe critical challenges and make recommendations on topics that should be given priority consideration, practices that should be implemented, and policies that should be defined or updated to reflect developments with capabilities and uses of AI technologies. The Key Considerations were developed with a lens for adoption by U.S. government departments and agencies critical to national security. However, they are relevant more generally for the design, construction, and use of AI systems.

연구 동기 및 목표

• 인공지능 개발 및 구현의 윤리적, 기술적, 거버넌스 과제를 해결하고, 특히 미국 국가안보 맥락 내에서 이를 다루는 것.
• 고위험 응용 분야에서 발생할 수 있는 AI 시스템과 관련된 잠재적 위험 요소, 예를 들어 편향, 투명성 부족, 예기치 않은 결과 등을 식별하는 것.
• 조직이 시스템 라이프사이클 전반에 걸쳐 책임감 있는 AI 관행을 구현하기 위한 실천 가능한 권고안을 제공하는 것.
• 빠른 인공지능 능력의 발전에 발맞춰 기존 규정 및 표준을 업데이트할 수 있도록 정책 입안자들을 안내하는 것.
• 구조화된 프레임워크와 감시 메커니즘을 통해 책임성과 공공 신뢰를 제고하는 것.

제안 방법

• 저자들은 컴퓨터 과학, 정책, 국가안보 분야의 전문 지식을 바탕으로 인공지능 위험 요소와 최선의 관행에 대한 종합적 검토를 수행했다.
• 안전성, 신뢰성, 투명성, 공정성 등의 원칙을 중심으로 정렬된 12개의 핵심 고려사항 프레임워크를 개발했다.
• 프레임워크는 AI 시스템 설계 및 운영 시 사전적 위험 평가, 지속적인 모니터링, 인간의 감시를 강조한다.
• 표준화된 평가 프로토콜 도입, 데이터 품질 확보, AI 결정의 감사 가능성 및 설명 가능성 확보를 위한 권고가 포함되어 있다.
• 실천 가능하고 정책적으로 관련성이 있는 지침을 확보하기 위해 기술자, 윤리학자, 정부 이해관계자 간의 다학제적 참여를 통합했다.
• 조직 정책, 교육, 감시 구조를 통해 책임감 있는 AI 관행를 정착시키는 것을 주장한다.

실험 결과

연구 질문

• RQ1 고위험 환경, 예를 들어 국가안보와 같은 분야에서 인공지능의 책임감 있는 개발 및 구현을 이끄는 핵심 원칙은 무엇인가?
• RQ2 조직은 AI 시스템의 수명 주기 전반에 걸쳐 투명성, 신뢰성, 책임성을 어떻게 확보할 수 있는가?
• RQ3 편향, 예기치 않은 행동, 시스템 장애와 같은 위험을 완화하기 위해 필요한 기술적 및 거버넌스 관행는 무엇인가?
• RQ4 인공지능의 능력 변화와 사회적 영향을 반영하기 위해 기존 정책 및 규정은 어떻게 업데이트되어야 하는가?
• RQ5 책임성을 유지하기 위해 인간의 감시 및 간섭이 인공지능 의사결정 과정에서 어떤 역할을 해야 하는가?

주요 결과

• 보고서는 안전성, 내구성, 투명성, 공정성 등을 포함한 영역에서 12개의 핵심 고려사항을 식별한다.
• 책임감 있는 인공지능은 기술적 보호 조치 외에도 조직 문화, 교육, 감시 메커니즘을 포함해야 한다고 강조한다.
• 프레임워크는 책임성 지원을 위해 설명 가능성과 감사 가능성을 핵심 요구사항으로 삼아야 한다고 권고한다.
• 저자들은 사전적 위험 평가와 지속적인 모니터링이 예기치 않은 행동을 탐지하고 완화하는 데 필수적이라고 발견했다.
• 편향을 줄이고 시스템의 공정성을 향상시키기 위해 다양하고 대표성이 있는 데이터의 중요성을 강조한다.
• 책임감 있는 인공지능 구현은 기술적, 윤리적, 정책적 영역 간의 유기적인 협력을 통해 공공 신뢰와 국가안보를 확보하기 위해 필요하다고 결론 내린다.