[논문 리뷰] Trustworthy AI: From Principles to Practices

Bo Li, Peng Qi외 6명|arXiv (Cornell University)|2021. 10. 04.

Ethics and Social Impacts of AI인용 수 24

한 줄 요약

본 고서는 전체 수명주기에 걸친 신뢰할 수 있는 AI 구축을 위한 체계적인 프레임워크를 제시하며, robustness, generalization, explainability, transparency, reproducibility, fairness, privacy, and accountability에 대해 상세히 다루고, 실용적인 지침과 트레이드오프를 제공합니다.

ABSTRACT

The rapid development of Artificial Intelligence (AI) technology has enabled the deployment of various systems based on it. However, many current AI systems are found vulnerable to imperceptible attacks, biased against underrepresented groups, lacking in user privacy protection. These shortcomings degrade user experience and erode people's trust in all AI systems. In this review, we provide AI practitioners with a comprehensive guide for building trustworthy AI systems. We first introduce the theoretical framework of important aspects of AI trustworthiness, including robustness, generalization, explainability, transparency, reproducibility, fairness, privacy preservation, and accountability. To unify currently available but fragmented approaches toward trustworthy AI, we organize them in a systematic approach that considers the entire lifecycle of AI systems, ranging from data acquisition to model development, to system development and deployment, finally to continuous monitoring and governance. In this framework, we offer concrete action items for practitioners and societal stakeholders (e.g., researchers, engineers, and regulators) to improve AI trustworthiness. Finally, we identify key opportunities and challenges for the future development of trustworthy AI systems, where we identify the need for a paradigm shift toward comprehensively trustworthy AI systems.

연구 동기 및 목표

• 데이터에서 배포에서 거버넌스에 이르기까지 AI 신뢰성을 향상시키기 위한 전체 수명주기 프레임워크를 제시한다.
• 다수의 신뢰성 측면이 실제로 어떻게 상호 작용하고 상충하는지 분석한다.
• 연구자, 엔지니어, 규제당국 및 이해관계자를 위한 구체적인 실행 항목을 제공한다.
• 향후 신뢰할 수 있는 AI 개발의 주요 과제와 기회를 식별한다.

제안 방법

• 데이터 수집에서 배포 및 모니터링에 이르는 수명주기 파이프라인 내의 다학제적 접근을 체계적으로 정리한다.
• robustness, generalization, explainability, transparency, reproducibility, fairness, privacy, and accountability 간의 관계와 상호작용을 분석한다.
• 각 신뢰성 측면에 대한 기존 기술과 평가를 조사한다.
• 수명주기 단계 전반에 걸친 연속 워크플로우 및 피드백 반영을 제안한다.

실험 결과

연구 질문

• RQ1 AI 신뢰성의 필수 측면은 무엇이며 이들은 어떻게 상호 작용하는가?
• RQ2 신뢰성을 AI 개발 수명주기 전반에 걸쳐 체계적으로 어떻게 통합할 수 있는가?
• RQ3 robustness, generalization, explainability, transparency, reproducibility, fairness, privacy, and accountability를 위한 현재의 접근 방식과 평가 방법은 무엇인가?
• RQ4 향후 신뢰할 수 있는 AI 실천에 영향을 미치는 과제와 기회는 무엇인가?

주요 결과

• 데이터에서 모델에서 배포 및 거버넌스에 이르기까지 각 단계에서 AI 신뢰성을 향상시키기 위해 전체 수명주기 프레임워크가 필요하다.
• 실세계 시스템에서 신뢰성 측면 간에는 상호 강화와 상충이 존재한다.
• 설명가능성과 투명성은 설계 시점과 사후 접근법 모두를 필요로 하며, 질적이고 인간중심적 평가를 포함한다.
• 재현성은 AI 연구 및 배포 커뮤니티의 요구가 점점 커지고 있으며, 데이터, 방법, 실험을 포함한다.
• 공정성은 데이터, 모델 및 절차상의 편향을 다루고 다중 공정성 개념(예: Independence, Separation, Sufficiency)을 인식해야 한다.
• 향후 신뢰할 수 있는 AI는 더 깊은 이론적 이해와 학제간 협력을 필요로 한다.