[논문 리뷰] AI Ethics Principles in Practice: Perspectives of Designers and Developers

Conrad Sanderson, David C. Douglas외 8명|arXiv (Cornell University)|2021. 12. 14.

Ethics and Social Impacts of AI인용 수 8

한 줄 요약

이 연구는 호주 국립 연구기관인 CSIRO의 인공지능 개발자 및 설계자가 실무에서 고수준의 AI 윤리 원칙을 어떻게 해석하고 이행하는지 조사한다. 반구조화된 인터뷰를 통해 저자들은 원칙 간 주요 갈등, 예를 들어 투명성 대 비밀유지, 설명 가능성 대 정확도 등의 갈등을 밝혀내며, 각 원칙을 별도로 구현할 수 있도록 설계 참고사항을 제안함으로써, 책임감 있는 AI 개발에서 실천 가능성과 모호성 감소를 높인다.

ABSTRACT

As consensus across the various published AI ethics principles is approached, a gap remains between high-level principles and practical techniques that can be readily adopted to design and develop responsible AI systems. We examine the practices and experiences of researchers and engineers from Australia's national scientific research agency (CSIRO), who are involved in designing and developing AI systems for many application areas. Semi-structured interviews were used to examine how the practices of the participants relate to and align with a set of high-level AI ethics principles proposed by the Australian Government. The principles comprise: (1) privacy protection and security, (2) reliability and safety, (3) transparency and explainability, (4) fairness, (5) contestability, (6) accountability, (7) human-centred values, (8) human, social and environmental wellbeing. Discussions on the gained insights from the interviews include various tensions and trade-offs between the principles, and provide suggestions for implementing each high-level principle. We also present suggestions aiming to enhance associated support mechanisms.

연구 동기 및 목표

• CSIRO의 AI 설계자 및 개발자가 실제 프로젝트에서 고수준의 AI 윤리 원칙을 어떻게 이해하고 적용하는지 이해하기.
• AI 시스템 설계에서 공정성, 투명성, 비밀유지와 같은 核심 원칙을 이행할 때 발생하는 실무적 과제와 갈등을 특정하기.
• 각 원칙에 대해 구조화된 설계 참고사항을 제안하여 추상적인 윤리 원칙과 실행 가능한 설계 관행 사이의 격차를 메우기.
• 도구, 거버넌스, 전문 기준에 대한 목표 지향적 권고를 통해 윤리적 AI 개발을 위한 조직적 지원 메커니즘을 강화하기.

제안 방법

• 다양한 응용 분야에서 CSIRO 소속 AI 연구자 및 엔지니어들과 반구조화된 인터뷰를 실시함.
• 인터뷰 데이터의 주제 분석을 위해 호주 정부의 여덟 가지 AI 윤리 원칙을 프레임워크로 활용함.
• qualitative 주제 코드 분석을 통해 원칙 간 반복적인 갈등과 상충 관계(예: 설명 가능성 대 비밀유지, 신뢰성 대 공정성)를 특정함.
• 실무적이고 원칙별 지침인 '설계 참고사항'을 제안하여 밀접하게 관련된 개념들(예: 투명성 대 설명 가능성)을 분리함으로써 구현 명확성을 향상시킴.
• 개발자들의 해석과 실천 방식을 분석하여 조직적 지원, 도구, 거버넌스 프레임워크에 대한 권고를 도출함.
• 기존 문헌의 통찰을 통합하여 윤리적 AI 구현을 위한 설계 권고를 보완하고 맥락화함.

실험 결과

연구 질문

• RQ1 CSIRO의 AI 개발자 및 설계자가 실제 시스템 개발 과정에서 여덟 가지 고수준 AI 윤리 원칙을 어떻게 이해하고 적용하는가?
• RQ2 AI 시스템 설계 및 구현 과정에서 경쟁하는 윤리 원칙 간에 어떤 실무적 갈등과 상충 관계가 발생하는가?
• RQ3 고수준 윤리 원칙은 어떻게 실행 가능한, 개발자 友好的 지침으로 구체화될 수 있는가?
• RQ4 추상적 프레임워크를 넘어서 AI 윤리 원칙을 효과적으로 이행하기 위해 필요한 조직적 및 기술적 지원 메커니즘은 무엇인가?
• RQ5 개발자들이 투명성과 설명 가능성과 같은 서로 다른 개념을 어떻게 혼동하는가? 이는 설계 관행에서 어떻게 해결될 수 있는가?

주요 결과

• 개발자들은 투명성과 설명 가능성을 자주 혼동하여, 투명성을 별개의 설계 요구사항으로서 충분히 강조하지 못함.
• 비밀유지와 보안은 종종 하나의 원칙으로 취급되지만, 실무에서는 개별적으로 다룸. 보안은 시스템 수준의 강화에 집중하고, 비밀유지는 데이터 처리 기법에 중점을 둠.
• 연합 학습과 차등적 비밀보장 같은 기법들은 비밀유지를 향상시키지만, 모델 정확도를 감소시켜 측정 가능한 상충 관계를 초래함.
• 설명 가능한 AI 시스템은 모델 출력이 훈련 데이터에 대한 민감한 정보를 드러내어 새로운 비밀유지 위험을 유발할 수 있음.
• 고위험 응용 분야에서는 신뢰성과 안전성의 우선순위가 공정성보다 높아지며, 명시적으로 대응하지 않으면 편향이 악화될 수 있음.
• 원칙별 명확한 설계 지침이 부재함에 따라 이행이 일관되지 않게 되며, 개발자들이 사전적 윤리적 설계 패tern을 활용하기보다는 일시적 또는 후행적 해결책에 의존함.