[논문 리뷰] Audit and Assurance of AI Algorithms: A framework to ensure ethical algorithmic practices in Artificial Intelligence

Ramya Akula, Iván Garibay|arXiv (Cornell University)|2021. 07. 14.

Ethics and Social Impacts of AI인용 수 7

한 줄 요약

이 논문은 윤리적, 법적, 보안적인 배치를 보장하기 위해 인공지능 알고리즘을 위한 종합적인 감사 및 보증 프레임워크를 제안한다. 데이터 관리, 모델 선택, 개발, 운영을 포함하는 네 단계로 구성된 개발 생애주기, 접근 수준에 따라 구분되는 감사 유형(화이트박스, GRAY-BOX, 블랙박스), 그리고 공정성, 정확도, 내구성, 설명 가능성, 개인정보 보호와 같은 핵심 감사 기준을 정의하며, 신뢰할 수 있는 AI 거버넌스를 위한 기초적인 로드맵을 제시한다.

ABSTRACT

Algorithms are becoming more widely used in business, and businesses are becoming increasingly concerned that their algorithms will cause significant reputational or financial damage. We should emphasize that any of these damages stem from situations in which the United States lacks strict legislative prohibitions or specified protocols for measuring damages. As a result, governments are enacting legislation and enforcing prohibitions, regulators are fining businesses, and the judiciary is debating whether or not to make artificially intelligent computer models as the decision-makers in the eyes of the law. From autonomous vehicles and banking to medical care, housing, and legal decisions, there will soon be enormous amounts of algorithms that make decisions with limited human interference. Governments, businesses, and society would have an algorithm audit, which would have systematic verification that algorithms are lawful, ethical, and secure, similar to financial audits. A modern market, auditing, and assurance of algorithms developed to professionalize and industrialize AI, machine learning, and related algorithms. Stakeholders of this emerging field include policymakers and regulators, along with industry experts and entrepreneurs. In addition, we foresee audit thresholds and frameworks providing valuable information to all who are concerned with governance and standardization. This paper aims to review the critical areas required for auditing and assurance and spark discussion in this novel field of study and practice.

연구 동기 및 목표

• 의료, 금융, 경찰 등 고위험 분야에서 윤리적이지 않거나 불공정하거나 해로운 AI 결정에 대한 우려가 증가하고 있는 데에 대응하기 위해.
• 규제 및 사회적 감시가 심화되고 있음에도 불구하고, 표준화되고 법적으로 구속력 있는 AI 시스템 감사 프로토콜의 부재에 대응하기 위해.
• 재정 감사와 유사한 체계적이고 반복 가능한 방법으로 AI 알고리즘 감사를 수행하여 책임성과 신뢰를 확보하기 위해.
• 공정성, 정확도, 내구성, 설명 가능성, 개인정보 보호와 같은 핵심 차원에서 AI 시스템을 평가하기 위한 체계적인 접근법을 제공하기 위해.
• 규제 기관, 산업계, 학계 간 협력을 촉진하여 AI 거버넌스의 표준화를 도모하고 알고리즘 피해의 위험을 줄이기 위해.

제안 방법

• 감사 가능성의 기초로 삼기 위해 데이터 관리, 모델 선택, 개발, 운영을 포함하는 네 단계로 구성된 AI 개발 생애주기를 제안한다.
• 감사 범위를 정의하기 위해 접근 수준을 화이트박스(완전한 접근), 회색박스(부분적 접근), 블랙박스(접근 불가)로 분류한다.
• 공정성, 정확도, 내구성, 설명 가능성, 개인정보 보호 등 다양한 차원에서 AI 시스템을 평가하는 다차원 감사 프레임워크를 도입한다.
• 감사 결정을 안내하기 위해 서로 충돌하는 AI 성질 간의 트레이드오프(예: 설명 가능성 대 정확도, 공정성 대 개인정보 보호) 분석을 적용한다.
• 배포 기간 동안 지속적인 모니터링과 메트릭 추적을 통해 지속적인 준수와 리스크 완화를 보장한다.
• 감사 결과를 공식화하고 이해관계자 신뢰를 제고하기 위해 인증 및 문서화 절차를 제안한다.

실험 결과

연구 질문

• RQ1 윤리적, 법적, 기술적 신뢰성의 기준을 평가하기 위한 표준화된 감사 프레임워크는 어떻게 설계될 수 있는가?
• RQ2 AI 알고리즘 감사 시 평가되어야 할 핵심 차원(예: 공정성, 정확도, 설명 가능성 등)은 무엇인가?
• RQ3 다양한 수준의 감사 접근성(화이트박스, 회색박스, 블랙박스)은 AI 감사의 범위와 신뢰성에 어떻게 영향을 미치는가?
• RQ4 서로 충돌하는 AI 성질 간의 트레이드오프(예: 정확도 대 설명 가능성, 개인정보 보호 대 공정성)는 무엇이며, 감사 과정에서 어떻게 관리되어야 하는가?
• RQ5 어떻게 하면 AI 생애주기의 다양한 단계에서 감사 프레임워크를 구현하여 지속적인 준수와 신뢰를 확보할 수 있는가?

주요 결과

• 재정 감사와 유사하게 법적, 윤리적, 보안적 기준을 확보하기 위해 AI 알고리즘에 대한 체계적 감사 프레임워크가 필수적이다.
• 네 단계로 구성된 AI 개발 생애주기(데이터 관리, 모델 선택, 개발, 운영)는 감사 가능성에 대한 체계적인 기반을 제공한다.
• 감사 결과는 접근 수준에 크게 의존한다—화이트박스 감사는 가장 포괄적인 평가를 가능하게 하지만, 블랙박스 감사는 제한적이지만 필수적이다.
• 핵심 감사 기준으로는 공정성(보호 그룹 간 동등한 대우), 정확도(일반화 성능), 내구성(다양한 입력 조건에서도 일관성 유지), 설명 가능성(결정의 해석 가능성) 등이 포함된다.
• 설명 가능성과 정확도 사이의 트레이드오프는 일반적이며, 이를 보편적으로 해결하기보다는 맥락에 따라 관리해야 한다.
• 배포 후 드리프트나 편향을 탐지하기 위해 배포 기간 동안의 지속적 모니터링과 메트릭 추적은 신뢰 유지에 매우 중요하다.