[논문 리뷰] Operationalizing the Blueprint for an AI Bill of Rights: Recommendations for Practitioners, Researchers, and Policy Makers

Alex Oesterling, Usha Bhalla외 2명|arXiv (Cornell University)|2024. 07. 11.

Ethics and Social Impacts of AI인용 수 4

한 줄 요약

이 논문은 미국의 인공지능 권리장전을 실천 가능한 방식으로 구현하기 위한 실용적이고 연구에 기반한 가이드를 제공한다. 안전성, 공정성, 투명성, 인간의 감시 등 장전의 원칙들을 실무자, 연구자, 정책 입안자들이 실행 가능한 전략으로 번역한다. 최신 연구 성과를 쉽게 접근 가능한 권고사항으로 요약하면서도, 규제적 이상과 실제 구현 사이의 핵심적인 상충관계와 연구 격차를 부각시킨다.

ABSTRACT

As Artificial Intelligence (AI) tools are increasingly employed in diverse real-world applications, there has been significant interest in regulating these tools. To this end, several regulatory frameworks have been introduced by different countries worldwide. For example, the European Union recently passed the AI Act, the White House issued an Executive Order on safe, secure, and trustworthy AI, and the White House Office of Science and Technology Policy issued the Blueprint for an AI Bill of Rights (AI BoR). Many of these frameworks emphasize the need for auditing and improving the trustworthiness of AI tools, underscoring the importance of safety, privacy, explainability, fairness, and human fallback options. Although these regulatory frameworks highlight the necessity of enforcement, practitioners often lack detailed guidance on implementing them. Furthermore, the extensive research on operationalizing each of these aspects is frequently buried in technical papers that are difficult for practitioners to parse. In this write-up, we address this shortcoming by providing an accessible overview of existing literature related to operationalizing regulatory principles. We provide easy-to-understand summaries of state-of-the-art literature and highlight various gaps that exist between regulatory guidelines and existing AI research, including the trade-offs that emerge during operationalization. We hope that this work not only serves as a starting point for practitioners interested in learning more about operationalizing the regulatory guidelines outlined in the Blueprint for an AI BoR but also provides researchers with a list of critical open problems and gaps between regulations and state-of-the-art AI research. Finally, we note that this is a working paper and we invite feedback in line with the purpose of this document as described in the introduction.

연구 동기 및 목표

• 규제 프레임워크인 인공지능 권리장전과 실무자들의 구현 사이의 격차를 메우기 위해.
• 인공지능 신뢰성에 관한 복잡한 기술적 연구를 비전문가 실무자들이 활용할 수 있는 실행 가능한 지침으로 요약하기 위해.
• 원칙 간 상충관계(예: 개인정보 보호 vs. 설명 가능성)를 규명하고 향후 연구를 이끄는 데 기여하기 위해.
• 공정성, 개인정보 보호, 내구성 등 다양한 차원에서 인공지능 시스템 성능에 대한 표준화되고 지속적인 보고를 촉진하기 위해.
• 투명하고 검증 가능한 문서화를 통해 사용자와 이해관계자들이 정보 기반 결정보다 신뢰할 수 있는 의사결정을 내릴 수 있도록 지원하기 위해.

제안 방법

• 인공지능 권리장전의 각 원칙을 공정성, 개인정보 보호, 해석 가능성, 내구성 분야의 기존 최신 연구와 체계적으로 연결한다.
• 후행 해석 방법, 공정성 제약, 차별적 개인정보 보호 기법과 같은 기술적 접근 방식을 비기술적 언어로 요약한다.
• 기존 도구인 모델 카드, 데이터시트, SMACTR를 모델로 삼아 표준화된 보고 프레임워크를 제안하여 일관된 시스템 문서화를 가능하게 한다.
• 실증적 및 이론적 분석을 통해 원칙 간 상충관계(예: 설명 가능성 증가가 개인정보 보호나 공정성에 악영향을 미칠 수 있음)를 부각시킨다.
• 장기적인 준수와 책임성 확보를 위해 지속적인 모니터링과 라이프사이클 보고를 권고한다.
• 연구자, 정책 입안자, 실무자 간 협업을 장려하여 연구 성과가 규제 수요와 일치하도록 한다.

실험 결과

연구 질문

• RQ1 현재 연구의 복잡성에도 불구하고 실무자들이 실제 인공지능 시스템에 인공지능 권리장전의 원칙을 효과적으로 구현하는 방법은 무엇인가?
• RQ2 인공지능 시스템에서 공정성, 개인정보 보호, 투명성, 내구성 간의 핵심 기술적 상충관계는 무엇이며, 이를 어떻게 관리할 수 있는가?
• RQ3 표준화된 보고 프레임워크는 어떻게 인공지능 시스템 간 신뢰성, 비교 가능성, 책임성을 향상시킬 수 있는가?
• RQ4 기존 연구 방법은 규제 준수를 뒷받침하는 데 어디서 부족함을 드러내며, 핵심 연구 격차는 어디에 있는가?
• RQ5 자동화된 시스템에 대한 사용자 신뢰를 훼손하지 않으면서 인간의 감시 및 대체 메커니즘을 어떻게 의미 있게 통합할 수 있는가?

주요 결과

• 인공지능 권리장전의 규제 원칙과 그 원칙의 실질적 구현 사이에 기술적 연구의 복잡성으로 인해 상당한 격차가 존재한다.
• 공정성의 실천은 종종 모델 복잡성 증가나 설명 가능성 강화 시 민감한 속성에 의도치 않게 의존하는 등의 상충관계를 수반한다.
• 설명 가능성과 개인정보 보호는 종종 충돌하며, 자세한 설명은 구성원 추론 공격이나 데이터 복원 공격을 가능하게 할 수 있다.
• 기억 삭제 권리(잊혀질 권리)는 과거의 설명을 무효화하고 알고리즘적 구제 기회를 손상시킬 수 있으며, 특히 데이터 삭제 후 모델 재학습이 이루어지는 경우 더욱 심각하다.
• 사용자가 설명에 과도하게 신뢰함으로써 인간의 검토를 요청하는 데 관여하지 않게 되어 인간 대체 메커니즘이 기능을 상실할 수 있다.
• 모델 카드, SMACTR와 같은 표준화된 보고 프레임워크는 투명성 향상과 인공지능 시스템 간 공정한 비교를 가능하게 하지만, 광범위한 도입을 위해서는 규제적 뒷받침이 필요하다.